详情页标题前

阿里云日志服务SLS数据类型-云淘科技

详情页1

您在创建索引时,可将字段的数据类型设置为text、long、doubleJSON。本文介绍各个数据类型的配置示例及注意事项。

text类型

如果您要查询和分析字符串类型的字段,需在配置索引时,将字段的数据类型设置为text,并开启统计功能。

说明

开启全文索引后,日志服务默认将整条日志(除__time__以外所有字段)设置为text类型。

  • 日志样例阿里云日志服务SLS数据类型-云淘科技

  • 配置索引阿里云日志服务SLS数据类型-云淘科技

  • 查询和分析语句

    • 查询非GET请求的日志。

      not request_method : GET
    • 查询以cn开头的日志。

      cn*
    • 统计客户端分布情况。

      * | SELECT ip_to_province(client_ip) as province, count(*) AS pv GROUP BY province ORDER BY pv

long和double类型

设置字段的数据类型为long或double后,您才能通过数值范围查询该字段的值。

  • 如果日志字段的值为整数类型,建议您在配置索引时,将字段的数据类型设置为long。

  • 如果日志字段的值为浮点数类型,建议您在配置索引时,将字段的数据类型设置double。

重要

  • 如果设置数据类型为long,而实际字段值为浮点数类型,则无法查询该字段。

  • 如果设置数据类型为long或double,而实际字段值为字符串类型,则无法查询该字段。

  • 如果设置数据类型为long或double,则不支持使用星号(*)或半角问号(?)进行模糊查询。

  • 如果字段的值为非法的数值,则使用not key > -1000000语句进行查询,表示查询所有有效数值之外的日志,其中-1000000为足够小的值即可。

  • 日志样例阿里云日志服务SLS数据类型-云淘科技

  • 配置索引阿里云日志服务SLS数据类型-云淘科技

  • 查询和分析语句

    • 查询请求时间大于60秒的日志。

      request_time > 60
    • 查询请求时间大于等于60秒,并且小于200秒的日志。

      • request_time in [60 200)
      • request_time >= 60 and request_time < 200
    • 查询请求状态码为200的日志。

      status = 200

JSON类型

如果字段的值为JSON类型,您可在配置索引时,将字段的数据类型设置为JSON。

  • 针对JSON对象中的字段,您可根据其值,将数据类型设置为long、double或text,并开启统计功能。开启统计功能后,日志服务支持您查询和分析JSON对象中的字段。

    通过选中对Json内所有文本字段自动索引,可实现JSON对象中的所有文本字段自动创建索引。创建索引后,将产生索引流量。阿里云日志服务SLS数据类型-云淘科技

  • 针对非完全合法的JSON数据,日志服务支持解析合法部分。

    例如以下为非完整的JSON日志,日志服务可正确解析content.remote_addr字段、content.request.request_length字段和content.request.request_method字段。

    content: {
         remote_addr:"192.0.2.0"
         request: {
                 request_length:"73"
                 request_method:"GE
  • 更多参考信息

    • 关于查询和分析JSON日志的更多操作场景和常见问题,包括设置索引、查询和分析具有索引的JSON字段、使用JSON函数、分析JSON数组等,请参见查询和分析JSON日志的常见问题。

    • 查询和分析JSON日志相关的基础配置和基本用法,请参见查询和分析JSON日志。

    • 在查询和分析JSON日志时,如果数据量比较小,您可以不对JSON叶子节点建立字段索引,而是使用JSON函数进行查询和分析。另外,针对一些特殊情况,只能使用JSON函数进行查询与分析。相关案例,请参见何时使用JSON函数。关于JSON函数的完整介绍和案例,请参见JSON函数。

重要

  • 日志服务支持JSON对象中的叶子节点建立索引,但不支持包含叶子节点的子节点建立索引。

  • 日志服务不支持值为JSON数组的字段建立索引,也不支持JSON数组中的字段建立索引。

  • 如果字段的值为Boolean类型,则您可以在建立索引时,将字段的数据类型设置为text。

  • 查询和分析语句格式为查询语句|分析语句。在分析语句中,您必须使用双引号(””)包裹字段名称,使用单引号(”)包裹字符串。

  • 日志样例

    JSON日志样例如下所示,除日志服务保留字段外,还包括class字段、latency字段、status字段和info字段。其中info字段的值是JSON对象,并存在多层嵌套。

    阿里云日志服务SLS数据类型-云淘科技

  • 配置索引阿里云日志服务SLS数据类型-云淘科技

    相关说明如下:

    • IP字段和data字段的值为JSON数组,所以您无法为IP字段和data字段建立索引,也无法通过这两个字段进行查询和分析。

    • region字段和CreateTime字段在JSON数组中,所以您无法为region字段和CreateTime字段建立索引,也无法通过这两个字段进行查询和分析。

  • 查询和分析语句

    • 查询usedTime字段的值大于60秒的日志。

      info.usedTime > 60
    • 查询success字段的值为true的日志。

      info.success : true
    • 查询usedTime字段的值大于60秒且projectName的值不为project01的日志。

      info.usedTime > 60 not info.param.projectName : project01
    • 计算获取Project信息的平均时长。

      methodName = getProjectInfo | SELECT avg("info.usedTime") AS avg_time

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/162357.html

(0)
上一篇 2023年12月10日 上午4:12
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云日志服务SLS重建索引-云淘科技

    当您需要对历史数据配置索引或修改索引时,可以使用重建索引功能。日志服务支持在选定的时间段中按照最新的索引规则为Logstore重建索引。本文介绍如何在日志服务控制台上重建索引及相关信息。 前提条件 已开启索引。具体操作,请参见开启并配置索引。使用限制重建索引支持的时间段:30天~15分钟之前。最多支持创建10个重建任务。同一时间内只支持运行1个重建任务。费用…

    2023年12月10日
  • Hologres有没有全文索引?-云小二-阿里云

    Hologres有没有全文索引? 以下为热心网友提供的参考意见 是的,Hologres支持全文索引。 以下为热心网友提供的参考意见 Hologres目前不支持全文索引。

    阿里云 2023年12月25日
  • 优化器对索引一般会有一个阈值,这个PolarDB这个阈值是多少,可调节吗?-云小二-阿里云

    优化器对索引一般会有一个阈值,如果超过阈值可能会认为全表扫描代价更小,这个PolarDB这个阈值是多少,可调节吗? 以下为热心网友提供的参考意见 PolarDB的优化器对索引的阈值是一个动态的数值,它可能会根据不同的查询和数据分布而有所不同。这个阈值是优化器内部算法计算得出的,通常是为了获得最佳的查询性能。 至于是否可以调节这个阈值,这取决于PolarDB的…

    2023年12月28日
  • 在文字识别OCR很多内容没有识别出来,为什么? -云小二-阿里云

    在文字识别OCR很多内容没有识别出来,为什么?其中有我需要的收款账号和大写金额,建设银行的都有问题,其他银行问题不大。requestId:BFE8DA88-4057-5A87-A868-25C62DDF5FBF https://next.api.aliyun.com/api/ocr/2019-12-30/RecognizeTable{“body&…

    2023年12月28日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 在PolarDB这个高压缩引擎X-Engine,不是不支持列存索引吗?-云小二-阿里云

    在PolarDB这个高压缩引擎X-Engine,不是不支持列存索引吗? 以下为热心网友提供的参考意见 开XENGINE 不影响已有的INNODB的表不受影响啊,除非你把表的引擎改掉了。此回答整理自钉群“PolarDB专家面对面 – HTAP(列存索引)”

    阿里云 2023年12月28日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。