详情页标题前

阿里云日志服务SLS多源Logstore数据汇总-云淘科技

详情页1

日志服务支持对每一个源Logstore配置一个数据加工任务,实现多源Logstore数据汇总。本文介绍多源Logstore数据汇总的典型应用场景和对应的操作方法。

背景信息

某资讯网站业务分布全球,不同资讯频道的用户访问日志被采集存储在阿里云不同账号中的Logstore,现有需求将同一目标区域英国(伦敦)的用户请求访问信息日志进行汇总从而进行后续的查询与分析。对此需求,日志服务提供数据加工功能,可以使用e_output函数将加工结果汇总到目标Logstore中。

跨账号多源Logstore数据汇总

  • 原始日志
    • 账号1中的原始日志,其Project地域位于英国(伦敦),Project名称为Project_1,Logstore名称为Logstore_1。
      "日志1"request_id: 1http_host:  example.comhttp_status:  200request_method:  GETrequest_uri:  /pic/icon.jpg"日志2"request_id: 2http_host:  aliyundoc.comhttp_status:  301request_method:  POSTrequest_uri:  /data/data.php
    • 账号2中的日志,其Project地域为英国(伦敦),Project名称为Project_2,Logstore名称为Logstore_2。
      "日志1"request_id: 3host:  example.edustatus:  404request_method:  GETrequest_uri:  /category/abc/product_id"日志2"request_id: 4host:  example.netstatus:  200request_method:  GETrequest_uri:  /data/index.html
  • 加工目标
    • 将账号1的Logstore_1和账号2的Logstore_2中所有http_status为200的日志事件汇总到账号3的Logstore_3中。
    • 统一账号1的Logstore_1和账号2的Logstore_2中日志事件的字段名称。将host统一为http_hoststatus统一为http_status
  • SLS DSL规则
    • 在账号1的Logstore_1中配置如下加工规则,并且在创建数据加工任务面板中,配置目标名称为target_logstore,目标Project为Project_3,目标库为Logstore_3,以及授权方式及相关信息。具体操作,请参见创建数据加工任务。
      e_if(e_match("http_status", "200"), e_output("target_logstore"))

      阿里云日志服务SLS多源Logstore数据汇总-云淘科技

    • 在账号2的Logstore_2中配置如下加工规则,参见账号1配置,并且在创建数据加工任务面板中,配置目标名称为target_logstore,目标Project为Project_3,目标库为Logstore_3,以及授权方式及相关信息。
      e_if(e_match("status", "200"), e_compose(e_rename("status", "http_status", "host", "http_host"), e_output("target_logstore")))
  • 加工结果

    账号3中汇总的日志,其Project地域位于英国(伦敦),Project名称为Project_3,Logstore名称为Logstore_3。

    "日志1"
    request_id: 1
    http_host:  example.com
    http_status:  200
    request_method:  GET
    request_uri:  /pic/icon.jpg
    
    "日志2"
    request_id: 4
    http_host:  example.net
    http_status:  200
    request_method:  GET
    request_uri:  /data/index.html

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/162452.html

(0)
上一篇 2023年12月10日 上午4:18
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云日志服务SLS指标说明-云淘科技

    本文介绍基于Nginx访问日志提取的指标详情,包括全局指标、host维度指标、status维度指标、host+status+request_method+request_uri维度指标。 本文涉及的指标遵循时序数据格式,支持使用PromQL或SQL进行查询分析。更多信息,请参见时序数据查询和分析简介。 全局指标 全局指标信息如下表所示。 指标 说明 pv 总…

    阿里云日志服务SLS 2023年12月10日
  • 腾讯云对象存储文档转码同步请求

    功能描述 文档预览功能支持对多种文件类型生成图片格式预览,并可对转换后的图片同步进行基础处理操作,可以解决文档内容的页面展示问题,满足 PC、App 等多个用户端的文档在线浏览需求,适用于在线教育、企业 OA、网站转码等业务场景。说明使用时您需要先开通服务,详情请参见 设置文档预览。开通服务后,对于当前存储桶中的文档资源,使用相应的文档预览 API 接口即可…

    腾讯云 2023年12月9日
  • 腾讯云对象存储图像修复

    功能描述 对象存储通过数据万象 ImageRepair 接口检测图片中的水印并将其擦除。注意:本接口属于 GET 请求,为同步请求方式,需携带签名,具体签名设置请参见 请求签名。 授权说明 授权策略中 action 设置为 ci:CreateImageRepairJob 。查看所有 action。 服务开通 使用该功能需提前开通数据万象,并绑定存储桶。详情请…

    腾讯云 2023年12月9日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 腾讯云对象存储跨地域复制

    简介 本文档提供关于跨地域复制的 API 概览以及 SDK 示例代码。 API 操作名 操作描述 PUT Bucket replication 设置跨地域复制 设置存储桶的跨地域复制规则 GET Bucket replication 查询跨地域复制 查询存储桶的跨地域复制规则 DELETE Bucket replication 删除跨地域复制 删除存储桶的跨…

    腾讯云 2023年12月9日
  • 腾讯云Serverless SSR持续构建-云淘

    功能介绍 Serverless SSR 支持用户通过代码托管实现应用的持续构建,您可以按需选择您的代码仓库,并配置构建计划运行的触发规则。目前,Serverless SSR 支持 GitHub、GitLab、Gitee 代码源,您可以授权后直接拉取代码仓库信息,也可以填入公开的自定义仓库完成部署。 触发规则介绍 Serverless SSR 支持您选择需要的…

    2023年12月9日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。