详情页标题前

阿里云日志服务SLS数据模型-云淘科技

详情页1

本文介绍采集到日志服务中的日志数据的数据模型。

为方便您理解日志服务中日志数据的数据模型并顺利使用,从如下基本概念展开介绍。

地域(Region)

地域为阿里云的服务节点。通过在不同的阿里云地域部署服务,实现您的服务距离您的客户更近,获得更低的访问延时及更好的用户体验。目前阿里云在全国各地拥有多个服务地域。

项目(Project)

项目为日志服务中的基本管理单元,用于资源隔离和控制。您可以通过项目来管理某一个应用的所有日志及相关的日志源。

日志库(Logstore)

日志库是日志服务中日志数据的收集、存储和消费单元。每个日志库隶属于一个项目,每个项目可以创建多个日志库。您可以根据实际需求为某一个项目生成多个日志库,其中常见的做法是为一个应用中的每类日志创建一个独立的日志库。例如:您有一个名为big-game的游戏应用,服务器上有三种日志:操作日志(operation_log)、应用程序日志(application_log)以及访问日志(access_log),您可以首先创建名为big-game的项目,然后在该项目下面为这三种日志创建三个日志库,分别用于它们的收集、存储和消费。

日志(Log)

日志为日志服务中处理的最小数据单元。日志服务采用半结构数据模式定义一条日志,具体数据模型如下:

数据域 描述 要求
time 日志中保留字段,用以表示日志产生的时间,一般由日志中的时间直接生成。 整型,Unix标准时间格式。单位为秒,表示从1970-1-1 00:00:00 UTC计算起的秒数。
topic 用户自定义字段,用以标记一批日志。例如访问日志可根据不同站点进行标记。 包括空字符串在内的任意字符串,长度不超过128字节。默认情况下,该字段为空字符串。
source 日志的来源地,例如产生该日志机器的IP地址。 任意不超过128字节的UTF-8编码字符串。默认该字段为空。
content 用以记录日志的具体内容。内容部分由一个或多个内容项组成,每一个内容项由Key-Value对组成。 Key为UTF-8编码字符串,包含字母、下划线和数字,且不以数字开头,其长度不超过128字节,且不可以使用如下关键字:

  • __time__
  • __source__
  • __topic__
  • __partition_time__
  • __extract_others__
  • __extract_others__

Value为不超过1024*1024字节的任意UTF-8编码字符串。

tags日志的标签,包括:

  • 用户自定义标签:您通过PutLogs写入数据时添加的标签。
  • 服务端为您添加的标签,包括__client_ip____receive_time__
字典格式,Key和Value均为字符串类型。在控制台查询日志时,以__tag__:为前缀展示。

日志主题(Topic)

一个日志库内的日志可以通过日志主题(Topic)来划分。您可以在写入时指定日志主题,并在查询时指定查询的日志主题。例如,一个平台用户可以使用用户编号作为日志主题写入日志。这样在查询时可利用日志主题让不同用户仅看到自己的日志。如果不需要划分一个日志库内的日志,让所有日志使用相同的日志主题即可。

说明 空字符串是一个有效的日志主题(Topic),且无论是写入还是查询日志时,默认的日志主题都是空字符串。所以,如果不需要使用日志主题,最简单的方式就是在写入和查询日志时都使用默认日志主题,即空字符串。

实际使用场景中,日志的格式多样。为了帮助理解,以下以一条Nginx原始访问日志如何映射到日志服务中日志数据模型为例说明。假设用户Nginx服务器的IP地址为10.10.10.1,如下为其一条原始日志:

10.1.1.1 - - [01/Mar/2012:16:12:07 +0800] "GET /Send?AccessKeyId=82251054** HTTP/1.1" 200 5 "-" "Mozilla/5.0 (X11; Linux i686 on x86_64; rv:10.0.2) Gecko/20100101 Firefox/10.0.2"

将该条原始日志映射到日志服务中日志数据模型,具体如下。

数据域 内容 说明
topic None 沿用默认值(空字符串)。
time 1330589527 日志产生的精确时间(精确到秒),从原始日志中的时间戳转换而来。
source 10.10.10.1 使用服务器IP地址作为日志源。
content Key-Value对 日志具体内容。

您可以自己决定如何提取日志原始内容并组合成Key-Value对,如下表所示:

key value
ip 10.1.1.1
method GET
status 200
length 5
ref_url
browser Mozilla/5.0 (X11; Linux i686 on x86_64; rv:10.0.2) Gecko/20100101 Firefox/10.0.2

Logs

由多条日志产生的集合。

LogGroup

一组日志的集合。

LogGroupList

一组LogGroup集合,用于结果返回。

编码方式

系统目前支持以下内容编码方式(将来可扩展),Restful API层通过Content-Type表示。

含义 描述 Content-Type
Protobuf Protobuf对数据模型进行编码 application/x-protobuf

Protobuf格式请参见数据编码方式。

说明

由于Protobuf对Key-Value对不要求唯一性,因此需要避免出现该情况,否则行为为未定义。

对于同一个Message中的字段,在Protobuf编码时需要按照字段编号的顺序,否则数据可能会解析失败。

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/163287.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云人工智能平台PAIAPI概览-云淘科技

    本产品(机器学习PAI-交互式建模/2022-01-01)的OpenAPI采用ROA签名风格,签名细节参见签名机制说明。我们已经为开发者封装了常见编程语言的SDK,开发者可通过下载SDK直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能满足使用需求,可通过签名机制进行自签名对接。由于自签名细节非常复杂,需花费 5个工作日左右。因此建议加入我们…

    阿里云人工智能平台PAI 2023年12月10日
  • 阿里云日志服务SLS分区(Shard)-云淘科技

    日志服务使用Shard控制Logstore或MetricStore的读写数据的能力,数据必定保存在某一个Shard中。 Shard范围 每个Shard均有范围,为MD5左闭右开区间[BeginKey,EndKey)。每个Shard范围不会相互覆盖,且属于整个MD5范围内[00000000000000000000000000000000,fffffffffff…

    阿里云日志服务SLS 2023年12月10日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云日志服务SLS应用场景-云淘科技

    日志服务的典型应用场景包括:数据采集与消费、数据清洗与流计算 (ETL/Stream Processing)、数据仓库对接(Data Warehouse)、日志实时查询与分析。 数据采集与消费 通过日志服务LogHub功能,可以大规模低成本接入各种实时日志数据(包括Metric、Event、BinLog、TextLog、Click等)。 方案优势: 使用便捷…

    阿里云日志服务SLS 2023年12月10日
  • 阿里云对象存储OSS使用RAM用户登录OSS管理控制台-云淘科技

    本文介绍如何通过RAM用户登录OSS管理控制台。 背景信息 您可以在以下场景中使用RAM用户登录OSS控制台: 阿里云账号的Bucket内存放了企业内部共享文件,您可以创建RAM用户给员工,并授予相应的访问权限,员工可以使用RAM用户登录OSS控制台查看这些共享文件。 企业有部分合作伙伴需要定期查看一些资料,您可以将资料放在指定的Bucket内,并创建RAM…

    阿里云对象存储 2023年12月10日
  • 阿里云日志服务SLSParquet格式-云淘科技

    日志服务将日志投递到OSS后,支持存储为不同的文件格式。本文介绍Parquet格式。 参数配置 在创建OSS投递任务(新版)时,选择存储格式为parquet,对应的参数配置如下所示。 相关参数说明如下表所示。 参数 说明 Key名称 您可以在原始日志页签中查看日志字段,将需要投递到OSS的字段名有序填入。OSS投递任务将按照此顺序组织Parquet数据,并使…

    阿里云日志服务SLS 2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。