详情页标题前

阿里云日志服务SLS关联OSS数据源-云淘科技

详情页1

本文介绍如何创建外部存储,建立日志服务与OSS的关联。

前提条件

  • 已采集日志。更多信息,请参见数据采集。

  • 已开启并配置索引。更多信息,请参见创建索引。

  • 已创建OSS Bucket。更多信息,请参见控制台创建存储空间。

  • 已上传CSV格式文件到OSS Bucket。更多信息,请参见控制台上传文件。

功能优势

与OSS进行关联查询分析,具有如下优势:

  • 节省费用:将更新频率低的数据保存在OSS上,只需要支付少量的存储费用,并且可以通过内网读数据,免去流量费用。

  • 降低运维工作:在轻量级的联合分析平台中,不需要搬迁数据到同一个存储系统中。

  • 节省时间:使用SQL分析数据,分析结果秒级可见,并可以将常用的分析结果定义为报,打开即可看到结果。

操作步骤

  1. 登录日志服务控制台。

  2. 在Project列表区域,单击目标Project。

  3. 日志存储 > 日志库页签中,单击目标Logstore。

  4. 输入查询与分析语句,单击查询/分析

    通过SQL定义虚拟外部表,映射到OSS文件。

    * | create table  () with (endpoint='oss-cn-${your_region_name}-internal.aliyuncs.com',accessid='',accesskey ='',bucket='',objects=ARRAY['*.csv'],type='oss')

    在查询分析语句中定义外部存储名称External storage、表的Schema等信息,并通过WITH语法指定OSS访问信息及文件信息,详细信息如下表所示。

    配置项

    说明

    示例

    外部存储名称External storage

    外部存储名称,即虚拟表的名称。

    user_meta1

    表的Schema

    定义表的属性,包括表的列名及格式。

    (userid bigint, nick varchar, gender varchar, province varchar, age bigint)

    endpoint

    OSS内网访问域名。更多信息,请参见访问域名和数据中心。

    oss-cn-hangzhou-internal.aliyuncs.com

    accessid

    阿里云账号AccessKey ID和AccessKey Secret。建议您使用具备日志服务Project写入权限的RAM用户的AccessKey。授予RAM用户向指定Project写入数据权限的具体操作,请参见RAM自定义授权场景。如何获取AccessKey的具体操作,请参见访问密钥。

    LT****7V

    accesskey

    Y4****ZR

    bucket

    CSV文件所在的OSS Bucket名称。

    examplebucket

    objects

    CSV文件路径。

    说明

    objects为array类型,可以包含多个OSS文件。

    user.csv

    type

    固定为oss,表示外部存储类型为OSS。

    oss

    示例命令如下所示:

    * | create table user_meta1 ( userid bigint, nick varchar, gender varchar, province varchar, age bigint) with ( endpoint='oss-cn-hangzhou.aliyuncs.com',accessid='LTAI5t8y9c113M7V****',accesskey='Y45H7bqvvgapWZR****',bucket='examplebucket',objects=ARRAY['user.csv'],type='oss')

    如果执行结果中的resulttrue,表示执行成功。

    阿里云日志服务SLS关联OSS数据源-云淘科技

  5. 验证是否已成功定义外部存储。

    执行如下语句,其中,External storage为步骤4中定义的外部存储名称。返回结果为您之前定义的表内容,则表示已定义外部存储成功。

    * | select * from 
  6. 通过JOIN语法完成日志服务和OSS的联合查询。

    例如,执行如下查询分析语句关联日志服务中日志的ID和OSS文件中的userid,补全日志信息。

    说明

    采集的日志中需要包含参数userid。

    * | select * from  l join  u on l.userid = u.userid

    配置项

    说明

    示例

    Logstore

    需要查询的Logstore的名称。

    test_logstore

    External storage

    步骤4中定义的外部存储名称。

    user_meta1

    阿里云日志服务SLS关联OSS数据源-云淘科技

关联OSS数据源的最佳实践请参见关联Logstore与OSS外表进行查询和分析。

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/165800.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云日志服务SLS自助分析阿里云账单-云淘科技

    日志服务联合费用中心推出自助分析功能,一键开通后自动导入账单,并提供可视化的账单分析报表,帮助您提高账单分析的效率。 前提条件 已开通日志服务。 背景信息 阿里云资源具备随时可用、规模弹性、规格丰富的特征,保证您在任意时刻都有足够的资源。在您使用云资源的同时,成本是个不容忽视的问题。阿里云的计费方式有按量付费和包年包月。手工对账单进行统计分析不仅耗费时间和精…

    阿里云日志服务SLS 2023年12月10日
  • 阿里云日志服务SLS通用数据结构-云淘科技

    ConsumerGroup 消费组数据结构。 参数名称 类型 示例值 描述 name String test-consumer-group 消费组名称。 timeout Integer 300 超时时间。在超时时间段内没有收到心跳,消费者将被删除。单位:秒。 order Boolean false 是否按顺序消费。 true:在Shard中按顺序消费。Sha…

    阿里云日志服务SLS 2023年12月10日
  • 阿里云日志服务SLS通过SQL聚合指标数据进行智能巡检-云淘科技

    智能巡检功能用于对业务日志进行自动化、智能化、自适应的异常巡检。本文介绍通过SQL聚合指标数据进行智能巡检的操作步骤。 前提条件 已采集日志到源Logstore。具体操作,请参见数据采集概述。 已配置源Logstore的索引。具体操作,请参见配置索引。 已创建智能异常分析实例。具体操作,请参见创建实例。 注意 本文中所涉及的Logstore为Standard…

    2023年12月10日
  • 阿里云ECS云服务器初始化小于等于2 TiB数据盘(Windows)-云淘科技

    一块全新的Windows数据盘挂载到ECS实例后,还不能直接存储数据,通常您需要完成磁盘联机、新建分区、格式化等初始化操作后,才能供系统读写数据。本文介绍如何在Windows系统中初始化一块小于等于2 TiB的数据盘。 前提条件 数据盘已挂载到ECS实例。具体操作,请参见挂载数据盘。 背景信息 本文示例中使用的配置如下所示,您需要根据实际情况进行操作。 操作…

    2023年12月9日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云日志服务SLS管理日志存储空间-云淘科技

    本文介绍如何在Web应用防火墙管理控制台上,管理日志存储空间。 操作步骤 登录Web应用防火墙控制台。 在左侧导航栏,单击日志管理 > 日志服务。 在日志服务页面,管理日志存储空间,具体操作如下所示。 查看日志存储空间。 说明 控制台中显示的日志存储空间用量并非实时更新,与实际使用情况存在两个小时的延迟。当日志存储空间使用量超过70%时,请及时升级日志…

    阿里云日志服务SLS 2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。