详情页标题前

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技

详情页1

操作场景

本文为您介绍使用 云函数 SCF 对 CLS 日志进行加工处理。其中,CLS 主要用于日志采集,SCF 主要提供数据加工的节点计算能力。
数据流程如下:

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技



操作步骤

创建日志集和主题

1. 登录 日志服务控制台,选择左侧导航栏中的日志主题。2. 进入日志集管理页面,在页面上方选择日志集的地域。3. 单击创建日志主题,在弹出的创建日志集窗口中,填写相关信息:日志主题名称:例如 project_test日志集名称:例如 nginx

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技


4. 单击确定,即可创建日志集和主题。5. 日志主题新增成功,将进入日志主题管理页,如下图所示: 

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技


说明ETL 数据处理的源端和终端均为 CLS,故至少需创建两个 Topic。

创建云函数 SCF

1. 登录 Serverless 控制台,进入函数服务页面。2.函数服务页面上方选择北京地域,并单击新建进入新建函数页面,配置以下参数:函数名称:命名为 “CLSdemo”。运行环境:选择 “Python 2.7”。创建方式:选择模板函数模糊搜索:输入“CLS日志ETL”,并进行搜索。3. 单击模板中的查看详情,即可在弹出的“模板详情”窗口中查看相关信息,支持下载操作。

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技


4. 基本信息配置完成之后,单击下一步,进入函数配置页面。5. 函数配置保持默认配置,单击完成,完成函数的创建。

配置 CLS 触发器

1. 登录 Serverless 控制台,选择左侧导航栏中的函数服务。2.函数服务列表页面上方,选择期望配置 CLS 触发器的函数所在的地域及命名空间。3. 单击函数名,进入该函数的详情页面。4. 在该函数的详情页面,选择左侧的触发管理,进入触发器浏览及操作界面,单击创建触发器,开始创建一个新的触发器。5.创建触发器中添加已创建的函数。如下图所示:

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技

6. 完成触发器配置后,单击提交,完成触发器创建。

测试函数功能

1. 下载 测试样例 中的日志文件,并解压出 demo-scf1.txt,导入至源端 CLS 服务。2. 切换至 Serverless 控制台,查看执行结果。
在函数详情页面中选择日志查询页签,可以看到打印出的日志信息。如下图所示:

腾讯云云函数(SCF)SCF + CLS 实现日志数据 ETL -云淘科技

3. 切换至终端 CLS 日志服务,查看数据加工结果。说明您可以根据自身的需求编写具体的数据加工处理方法。
官网1折活动,限时活动,即将结束,速速收藏
同尘科技腾讯云授权服务中心。
购买腾讯云产品享受折上折,更有现金返利。同意关联立享优惠

转转请注明出处:http://www.yunxiaoer.com/150024.html

(0)
上一篇 2023年12月9日
下一篇 2023年12月9日
详情页2

相关推荐

  • 腾讯云轻量应用服务器删除备份点云小二

    操作场景 备份点本身不计费,保留数据备份点不会产生额外费用。若您希望自行删除备份点,可参考本文进行操作。注意删除备份点操作无法恢复,备份数据删除后无法找回。 操作步骤 1. 登录轻量应用服务器控制台,选择左侧导航栏中的 数据备份。2. 在数据备份 页面上方,选择备份点所在地域。3. 在列表中,选择备份点所在行右侧的删除。如下图所示: 4. 在弹出的删除备…

    2023年12月9日
  • 腾讯云容器服务创建容器实例同尘科技

    操作场景 本文主要介绍如何创建、编辑容器实例、查看事件及日志等。如果您是首次使用容器实例,推荐您通过我们提供的快速入门进行创建,可参考 快速创建一个容器实例。n如果您需要使用多容器组、日志采集等高阶能力,可参考 创建容器实例。两种模式支持的配置如下: 支持项 快速创建 完整创建 全部地域 ✓ ✓ 全部规格 ✓ ✓ 数据卷 ✓ ✓ 容器环境变量 ✓ ✓ 实例数…

    腾讯云 2023年12月9日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 腾讯云对象存储删除工作流

    简介 本文档提供关于删除工作流的 API 概览和 SDK 示例代码。 API 操作描述 删除工作流 用于删除工作流。 删除工作流 功能说明 用于删除工作流。 方法原型 public Guzzle\Service\Resource\Model deleteWorkflow(array $args = array()); 请求示例 <?phprequir…

    腾讯云 2023年12月9日
  • 阿里云ECS云服务器通过SDK使用ECS实例-云淘科技

    如果您是一位开发者,可以通过SDK的方式创建ECS实例。本文介绍如何通过Java SDK创建ECS实例。 准备Java SDK环境 在使用Java SDK创建ECS实例前,您需要配置好Java SDK环境,并在Maven项目的pom.xml文件中,添加阿里云核心库aliyun-java-sdk-core、云服务器aliyun-java-sdk-ecs、专有网…

    阿里云服务器 2023年12月9日
  • 阿里云大数据开发治理平台 DataWorksOpenAPI计费说明-云淘科技

    购买DataWorks后,您可调用DataWorks的OpenAPI使用DataWorks的各项功能,DataWorks根据您调用API的次数进行计费收费,本文为您介绍OpenAPI的计费详情。 背景信息 DataWorks不同版本提供的OpenAPI能力不同,且支持调用的次数等限制也不同,各版本的OpenAPI的使用注意事项和能力支持详情请参见DataWo…

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。