详情页标题前

阿里云日志服务SLS关联托管的CSV数据源-云淘科技

详情页1

日志服务支持通过SDK方式将本地CSV文件上传到日志服务进行托管,并建立Logstore与CSV文件的关联。本文介绍如何在日志服务Logstore中联合托管的CSV文件进行数据分析。

前提条件

  • 已采集日志。更多信息,请参见数据采集。
  • 已配置索引。更多信息,请参见配置索引。
  • 已创建CSV文件。
  • 已安装Python SDK。更多信息,请参见安装Python SDK。

    支持aliyun-log-python-sdk 0.7.3及以上版本,您可以通过pip install aliyun-log-python-sdk -U命令进行升级。

使用限制

  • 仅支持关联一个CSV文件。
  • 最大支持50 MB的CSV文件。CSV文件经SDK压缩后被上传至日志服务,压缩后的大小需小于9.9 MB。

数据样例

例如Logstore用于记录用户的登录操作,CSV文件用于记录用户的基本信息(性别、年龄等)。关联Logstore和CSV文件后,可用于分析与用户属性相关的指标。

  • Logstore
    userid:100001
    action:login
    __time__:1637737306
  • CSV文件阿里云日志服务SLS关联托管的CSV数据源-云淘科技

操作步骤

  1. 通过Python SDK创建外部存储(ExternalStore)。关于Python SDK的更多信息,请参见Python SDK概述。
    from aliyun.log import *
    
    endpoint='cn-shanghai.log.aliyuncs.com'
    
    accessKeyId='test-project'
    accessKey='TAI****YDw'
    project='lr****VM'
    ext_logstore='user_meta'
    csv_file='./user.csv'
    
    
    client = LogClient(endpoint, accessKeyId, accessKey)
    
    res = client.create_external_store(project,
        ExternalStoreCsvConfig(ext_logstore, csv_file,
            [
                {"name" : "userid", "type" : "bigint"},
                {"name" : "nick", "type" : "varchar"},
                {"name" : "gender", "type" : "varchar"},
                {"name" : "province", "type" : "varchar"},
                {"name" : "age", "type" : "bigint"}
            ]))
    
    res.log_print()
    参数 说明
    endpoint 日志服务的域名。更多信息,请参见服务入口。
    accessKeyId 阿里云访问密钥AccessKey ID。更多信息,请参见访问密钥。


    警告 建议您使用RAM用户的AccessKey进行操作,有效降低AccessKey泄露的风险。

    accessKey 阿里云访问密钥AccessKey Secret。更多信息,请参见访问密钥。
    project 目标Logstore所在的Project。
    ext_logstore 外部存储名称,即虚拟表的名称。命名规则如下:

    • 仅支持小写字母、数字、短划线(-)和下划线(_)。
    • 必须以小写字母或数字开头和结尾。
    • 名称长度为3~63个字符。
    csv_file 本地CSV文件所在路径及文件名。
    表的Schema 用于定义虚拟表的属性,包括表的列名及格式。例如下述脚本表示表的Schema,请根据实际情况替换。

    [
         {"name" : "userid", "type" : "bigint"},
         {"name" : "nick", "type" : "varchar"},
         {"name" : "gender", "type" : "varchar"},
         {"name" : "province", "type" : "varchar"},
         {"name" : "age", "type" : "bigint"}
    ]
  2. 登录日志服务控制台。
  3. 在Project列表区域,单击目标Project。
  4. 在日志存储 > 日志库页签中,单击目标Logstore。
  5. 执行如下语句,验证是否成功创建外部存储。其中user_meta为外部存储的名称,请根据实际情况替换。
    * | SELECT * FROM user_meta

    如果返回结果为CSV文件的内容,则表示创建外部存储成功。阿里云日志服务SLS关联托管的CSV数据源-云淘科技

  6. 执行如下语句,建立Logstore与CSV文件的联合查询。本案例中通过Logstore中的userid字段和CSV文件中的userid字段,建立联合查询。其中,website_log为Logstore名称,user_meta为您定义的外部存储,请根据实际情况替换。
    * | SELECT * FROM website_log JOIN user_meta ON website_log.userid = user_meta.userid

    阿里云日志服务SLS关联托管的CSV数据源-云淘科技

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/166029.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云对象存储OSSAndroid生命周期-云淘科技

    OSS支持设置生命周期(Lifecycle)规则,自动删除过期的文件(Object)和碎片,或将到期的文件转储为低频或归档存储类型,从而节省存储费用。本文介绍如何管理存储空间(Bucket)的生命周期规则。 背景信息 每条生命周期规则包含以下内容: 生命周期规则ID。用于标识一条规则,同一存储空间内规则ID不能重复。 生命周期策略。有以下两种设置方式。同一存…

    阿里云对象存储 2023年12月10日
  • 阿里云RDS数据库迁移可用区-云淘科技

    您可以将RDS实例迁移至同一地域内的其他可用区。迁移可用区后,实例的所有属性、配置和连接地址都不会改变。迁移所需时间跟实例的数据量有关,通常为几个小时。 前提条件 实例所在的地域有多个可用区时,才支持迁移可用区功能。关于地域和可用区的详情,请参见地域和可用区。 实例为主实例,不是只读实例,且主实例下未创建只读实例。 实例状态需为运行中。 使用限制 本地盘实例…

    阿里云数据库 2023年12月9日
  • 阿里云日志服务SLS授予RAM用户操作CloudLens for PolarDB的权限-云淘科技

    本文介绍如何授予RAM用户操作CloudLens for PolarDB的权限。 前提条件 已创建RAM用户。具体操作,请参见创建RAM用户。背景信息您可以通过如下两种方式授予RAM用户操作CloudLens for PolarDB的权限。 极简授权:权限较大,操作简单。 自定义权限策略:权限精细,配置复杂。 极简授权 使用阿里云账号登录RAM控制台,为RA…

    阿里云日志服务SLS 2023年12月10日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云日志服务SLS云产品日志审计-云淘科技

    日志服务基于可观测性数据平台能力,为您提供云产品的日志审计能力。 日志审计对应的日志库为只读库,只能写入专属云产品日志数据,不允许通过自行写入或其他方式篡改数据。日志审计支持多账户下实时自动化、中心化采集云产品日志并进行审计,以及支持审计所需的存储、查询及信息汇总。日志审计的功能优势如下: 中心化采集 跨账号:支持将多个阿里云账号下的日志采集到一个阿里云账号…

    阿里云日志服务SLS 2023年12月10日
  • 阿里云日志服务SLSAPI简介-云淘科技

    阿里云日志服务(Log Service,简称SLS)提供数据的采集、加工、查询与分析、可视化、告警、消费与投递等功能。如果您熟悉网络服务协议和一种以上编程语言,您可以通过API接口管理您的数据资源。 使用限制 您能创建的Project、Logstore、ConsumerGroup和Shard等资源均有数量限制。更多信息,请参见使用限制。 使用说明 日志服务A…

    阿里云日志服务SLS 2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。