详情页标题前

阿里云日志服务SLS数据面监控概述-云淘科技

详情页1

随着微服务、云原生、DevOps等技术的发展,应用的开发、部署、迭代效率有了巨大提升。同时,开发者对可观测的要求越来越高,例如需要针对多种语言、多种中间件、动态运行的Kubernetes环境定制观测手段。日志服务与阿里云龙蜥社区合作研发了无侵入监控功能,以开放、高性能、无侵入的内核观测技术为广大云上开发者提供更便捷的可观测方式。

采集原理

Logtail无侵入监控的采集程序工作空间包括Kernel Space与User Space。

  • Kernel Space用于抓取和预处理数据
    • 抓取:Kernel Hook模块会根据KProbe的定义,拦截网络数据。用于拦截的KProbe内核函数包括connect、accept、write等。
    • 预处理:预处理模块会根据用户态配置进行数据的拦截、丢弃以及数据协议的推断,只有符合需求的数据才会被传递给SendToUserSpace模块,其他数据将被丢弃。SendToUserSpace模块会通过eBPF Map将符合需求的数据由内核态传输到用户态。
  • User Space用于分析、聚合和管理数据。
    • 分析:Process模块会不断处理eBPF Map中存储的网络数据。首先由于Kernel Space的预处理模块已推断协议类型,所以Process模块将根据此类型进行细粒度的协议分析,例如分析MySQL协议的SQL、分析HTTP协议的状态码等。其次由于Kernel Space传递的元数据信息只有Pid、FD等进程粒度的元信息,而针对Kubernetes可观测场景,Pod、Container等资源定义更有意义,所以Correlate Meta模块会为Process模块处理后的数据绑定容器相关的元数据信息。
    • 聚合:绑定容器相关的元数据信息后,Aggreate模块会对数据进行聚合操作以避免传输重复的数据。例如聚合周期内调用某SQL语句1000次,Aggreate模块会将最终数据抽象为XSQL:1000的形式进行上传。
    • 管理:整个eBPF程序交互着大量的进程与连接数据,因此eBPF程序中对象的生命周期需要与机器实际状态相符。当进程或连接被释放,相应的对象也需要被释放,这就是Connection Management模块与Garbage Collection模块的职责。

阿里云日志服务SLS数据面监控概述-云淘科技

在真实的程序运行环境中,虚拟机或Kubernetes节点存在诸多干扰因素,例如不需要关心的进程、本地的网络调用等,因此Logtail无侵入监控采集功能扩展了多种采集选择能力,支持从用户态控制内核态的采集范围。

特性类型 说明
协议处理 支持开启协议解析。
支持选择协议解析范围。
连接过滤 支持过滤Unix Socket数据。
支持过滤本机交互的进程数据。
主机进程过滤 支持通过cmdline正则匹配指定需要监控的进程。
支持通过cmdline正则匹配排除不需要监控的进程。
K8s进程过滤 支持通过Pod名称正则匹配指定需要监控的Pod容器进程。
支持通过Pod名称正则匹配排除不需要监控的Pod容器进程。
支持通过Namespace名称正则匹配指定需要监控的容器进程。
支持通过Namespace名称正则匹配排除不需要监控的容器进程。
支持通过Label标签正则匹配指定需要监控的容器进程。
支持通过Label标签正则匹配排除不需要监控的容器进程。
支持通过环境变量正则匹配指定需要监控的容器进程。
支持通过环境变量正则匹配排除不需要监控的容器进程。

分析能力

目前无侵入监控已集成于全栈监控中的Kubernetes监控。此处以基于Kubernetes场景,介绍无侵入监控的分析能力。

分析四层网络流量

在云原生场景下,多语言、多协议的服务导致服务的拓扑关系绘制困难,您无法发现集群的热点流量服务,而通过无侵入监控功能则可顺利实现。例如下图展示了frontend服务的上下游服务,不管服务是直接交互、DNS请求还是外部IP调用,该拓扑图都良好地展示了真实的服务网络流量拓扑,并且您可以针对四层网络进行流量包或流量大小的分析,获取基础层的热点服务与瓶颈信息。

目前无侵入监控功能已支持您在四层网络流量中分析HTTP、Redis、MySQL、DNS、PgSQL等多种应用层传输协议。

阿里云日志服务SLS数据面监控概述-云淘科技阿里云日志服务SLS数据面监控概述-云淘科技

分析七层网络流量

四层网络流量往往不足以定位问题,此时您可以通过分析七层网络流量,辅助问题排查。

例如:某个Spring Cloud Restful项目的客户端通常使用HTTP发送数据,服务端使用线程池、阻塞队列模式响应客户端请求,而埋点的位置会导致客户端与服务端的计算消耗时间不一致。当流量过多或前序请求大量阻塞时,后续的请求会发生阻塞,此时传统分析手段下的Time1与Time2可能存在巨大差值,且如果埋点位置仅存在于Service B ,则消耗时间可能始终处于正常状态,整个系统的瓶颈问题将被忽略。

此时您可以使用无侵入监控功能,无论是客户端还是服务端,数据来源都是基于真实的内核层处理网络请求的时间,例如Revc、Write、Sendmsg等内核函数,帮助您了解服务的真实运行状态。

阿里云日志服务SLS数据面监控概述-云淘科技

全栈监控应用会自动分析所采集到的无侵入监控数据,并通过统计图表形式展示。例如您开启HTTP协议分析后,全程无需埋点,即可通过统计图表了解客户端与服务端真实的运行状态,如下图所示。

阿里云日志服务SLS数据面监控概述-云淘科技

同时无侵入监控也支持监控多种中间件(MySQL、Redis、PgSQL等)。例如基于MySQL客户端调用,分析MySQL调用性能情况,如下图所示。

阿里云日志服务SLS数据面监控概述-云淘科技

接入数据

您可以在接入数据时,开启无侵入监控功能。目前,无侵入监控功能支持接入Kubernetes数据面监控数据。具体操作,请参见接入Kubernetes数据面监控数据。

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/160776.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云大数据开发治理平台 DataWorks数据标准-云淘科技

    数据是由特定的环境产生的,这些环境因素包括生产者、时间、系统等,从而造成了同一个语义的数据,有多种不同的定义方法,给后期进行数据汇集和整合带来障碍。因此,数据处理的前奏就是数据标准化,数据标准作为一个统一的数据共识,在标准化中起到重要作用。 数据标准落标说明 数据标准落标的意义在于从源头进行数据的标准化生产,加速数据的融合与统一的效率,节省大量数据应用和处理…

    2023年12月10日
  • 阿里云日志服务SLS编码解码函数-云淘科技

    本文介绍编码解码函数的语法规则,包括参数解释、函数示例等。 函数列表 类型 子类 函数 说明 编码与解码 字符串类型 str_encode 对数据进行编码。 str_decode 对数据进行解码。 Base64类型 base64_encoding 对数据进行Base64编码。 base64_decoding 对数据进行Base64解码。 HTML类型 htm…

    2023年12月10日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云容器服务ACK开通容器服务ACK-云淘科技

    调用OpenAckService接口开通容器服务ACK。 阿里云账号(主账号)可以开通容器服务ACK。 RAM用户(子账号)有AdministratorAccess权限的子账号可以开通服务。 调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。 请求语法…

    阿里云容器服务 2023年12月10日
  • 阿里云日志服务SLS使用评估表达式设置触发条件-云淘科技

    本文介绍使用评估表达式设置触发条件的注意事项、限制等信息。 日志服务支持您在配置触发告警的条件时使用评估表达式。例如您配置触发条件为有数据匹配和评估表达式,则表示查询和分析结果中存在数据满足评估表达式就触发告警。您可以在评估表达式使用动态变量、操作符和逻辑符等。评估表达式的语法信息,请参见评估表达式语法。 配置说明 告警监控规则在评估集合操作结果时,如果集合…

    2023年12月10日
  • 阿里云大数据开发治理平台 DataWorksKingbaseES(人大金仓)数据源-云淘科技

    KingbaseES数据源为您提供读取和写入KingbaseES双向通道的功能,本文为您介绍DataWorks的KingbaseES数据同步的能力支持情况。 使用限制 目前该数据源仅支持独享数据集成资源组。 整个同步任务必须具备insert/replace into的权限。配置同步任务时,您可以在preSql和postSql中,通过指定语句判断是否需要其它权…

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。