详情页标题前

阿里云日志服务SLS复制和分发数据-云淘科技

详情页1

日志服务支持对每一个源Logstore配置一个加工任务,实现数据复制后分发到不同Logstore。本文介绍数据复制后分发到不同Logstore的典型场景和操作方法。

场景说明

某数据分析公司需要将Logstore中的每一条数据进行复制,并根据内容分别分发到两个Logstore。对此需求,可通过日志服务数据加工的复制和分发功能完成,包括使用e_set函数设置tags标签,并使用e_split函数按照tags标签将数据分裂,再使用e_output函数分发到不同Logstore。其基本逻辑如下图所示。阿里云日志服务SLS复制和分发数据-云淘科技在操作前,确保您已完成如下操作。

  • 已完成target-a、target-b的性能评估和规划。例如评估Shard数量。更多信息,请参见性能指南。
  • 已创建target-a、logstore-a、target-b和logstore-b。更多信息,请参见管理Project和管理Logstore。

操作步骤

  1. 登录日志服务控制台。
  2. 在Project列表区域,单击目标Project。
  3. 在日志存储 > 日志库页签中,单击目标Logstore。
  4. 在查询和分析页面的右上角单击数据加工,进入数据加工模式。
  5. 在数据加工编辑框中,输入如下加工语句。
    e_set("tags", "target-a,target-b")
    e_split("tags")
    e_if(op_eq(v("tags"), "target-a"), e_output("target-a"))
    e_if(op_eq(v("tags"), "target-b"), e_output("target-b"))
    e_drop()
    • 通过e_set函数为原始日志设置target-a和target-b标签。更多信息,请参见e_set。
    • 通过e_split函数将日志数据进行分裂。更多信息,请参见e_split。
    • 通过e_output函数将日志分发到target-a和target-b。更多信息,请参见e_output。
    • e_drop()表示将不满足条件的日志丢弃,不进行分发。更多信息,请参见e_drop。
  6. 单击预览数据。您可以看到原始日志已增加tags标签,并且tags为target-a的数据将被分发到target-a,tags为target-b的数据将被分发到target-b。阿里云日志服务SLS复制和分发数据-云淘科技
  7. 单击保存数据加工。
  8. 在创建数据加工任务面板,配置如下参数。
    1. 配置基本信息。
      参数 说明
      规则名称 数据加工任务的名称。输入test。
      授权方式 授予日志服务读取源日志库中数据的权限。以默认角色为例,选择默认角色。
    2. 配置target-a存储目标。
      参数 说明
      目标名称 存储目标名称。输入target-a。
      目标Region 目标Project所在地域。选择华东1(杭州)。
      目标Project target-a所属的Project名称。输入target-a。
      目标库 Logstore名称。输入logstore-a。
      授权方式 授予日志服务读写target-a的权限。

      以默认角色为例,选择默认角色。

    3. 配置target-b存储目标。
      参数 说明
      目标名称 存储目标名称。输入target-b。
      目标Region 目标Project所在地域。选择华东1(杭州)。
      目标Project target-b所属的Project名称。输入target-b。
      目标库 Logstore名称。输入logstore-b。
      授权方式 授予日志服务读写target-b的权限。

      以默认角色为例,选择默认角色。

    4. 配置加工时间范围。
      参数 说明
      时间范围 加工的时间范围。 选择所有,即表示对Logstore中的数据从开始时间持续加工。
  9. 单击确定。

执行结果

  • 打开target-a项目,在日志存储 > 日志库页签中选择logstore-a日志库,您可以看到分发过来的数据。阿里云日志服务SLS复制和分发数据-云淘科技
  • 打开target-b项目,在日志存储 > 日志库页签中选择logstore-b日志库,您可以看到分发过来的数据。阿里云日志服务SLS复制和分发数据-云淘科技

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/163545.html

(0)
上一篇 2023年12月10日 上午5:27
下一篇 2023年12月10日 上午5:29
详情页2

相关推荐

  • 阿里云日志服务SLS配置自定义角色权限(跨账号场景)-云淘科技

    日志服务定时SQL任务运行时,将在源Logstore中执行SQL分析操作,并将分析结果保存到目标存储中。您可以授予日志服务使用自定义角色来完成以上操作。如果源Logstore和目标Logstore不属于同一个阿里云账号,您可参考本文档完成授权操作。定时SQL任务支持Logstore和MetricStore,本文以Logstore为例进行说明。 前提条件 已在…

    阿里云日志服务SLS 2023年12月10日
  • 阿里云RDS数据库续费说明-云淘科技

    包年包月实例到期后将无法正常运行。如果您想继续使用实例,需要在指定时间内为实例续费,否则CPU、内存、云盘等资源会自动释放,数据将会丢失。RDS按量付费实例不涉及到期和续费。 警告 实例到期后有停机风险,系统会通知您,请及时续费,避免对您的业务造成影响。 续费方式 您可以通过自动和手动两种方式为实例续费,保证数据不丢失。实例续费费用与新购实例相同。 说明 购…

    阿里云数据库 2023年12月9日
  • 阿里云大数据开发治理平台 DataWorksPostgreSQL数据源-云淘科技

    PostgreSQL数据源为您提供读取和写入PostgreSQL双向通道的功能,方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的PostgreSQL数据同步能力支持情况。 支持的版本 目前仅支持配置PostgreSQL数据源为PostgreSQL10、11、12、13、14、15版本。您可以通过如下语句查看Postgre…

  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云日志服务SLS关联OSS数据源-云淘科技

    本文介绍如何创建外部存储,建立日志服务与OSS的关联。 前提条件 已采集日志。更多信息,请参见数据采集。 已开启并配置索引。更多信息,请参见创建索引。 已创建OSS Bucket。更多信息,请参见控制台创建存储空间。 已上传CSV格式文件到OSS Bucket。更多信息,请参见控制台上传文件。 功能优势 与OSS进行关联查询分析,具有如下优势: 节省费用:将…

    2023年12月10日
  • 阿里云日志服务SLS使用限制-云淘科技

    本文介绍日志服务数据加工的使用限制。 任务配置 限制项 说明 任务数 1个Project中最多可创建100个数据加工任务。重要 数据加工任务处于停止或者运行完成状态时,依然会占用配额,建议及时清理停止或者运行完成状态、并且确认不再使用的数据加工任务,减少配额占用。更多信息,请参见管理数据加工任务。 如您有更大的使用需求,请提工单申请。 源数据Logstore…

    阿里云日志服务SLS 2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。