阿里云日志服务SLS通过Logtail跨阿里云账号采集容器日志-云淘科技

背景信息

例如某电商公司拥有两个电商应用，部署在阿里云杭州地域的Kubernetes集群中，并使用杭州地域的日志服务进行日志管理。

• 应用A部署在阿里云账号A（12****456）下的Kubernetes集群中，并使用该账号下的日志服务进行日志管理。
• 应用B部署在阿里云账号B（17****397）下的Kubernetes集群中，并使用该账号下的日志服务进行日志管理。

现公司业务调整，计划将两个应用的日志集中采集到阿里云账号A（12****456）下的日志服务中，即将两个应用的日志分别采集到同一个日志服务Project下的不同Logstore中。因此您需要新增一个Logtail采集配置、机器组和Logstore，用于采集和存储应用B相关的日志。应用A相关的日志采集保持不变（使用原有的Logtail采集配置、机器组和Logstore）。

步骤一：设置阿里云账号为用户标识

1. 使用阿里云账号B登录容器服务管理控制台。
2. 设置阿里云账号A为用户标识。
   1. 在左侧导航栏中，单击集群。
   2. 在集群列表页面中，单击目标集群。
   3. 在左侧导航栏中，选择配置管理 > 配置项。
   4. 选择命名空间为kube-system，然后在配置项列表中单击alibaba-log-configuration对应的编辑。
   5. 在编辑面板中，完成如下操作，然后单击确定。在log-ali-uid配置项中增加阿里云账号A的ID，然后记录log-machine-group配置项的值（例如k8s-group-cc47****54428），在创建机器组时需设置用户自定义标识为该值。

      多个账号之间使用半角逗号（,）相隔，例如17****397,12****456。

      

3. 重启logtail-ds，使配置生效。
   1. 在左侧导航栏中，选择工作负载 > 进程守护集。
   2. 在守护进程集列表中，单击logtail-ds对应的编辑。
   3. 在环境变量区域，单击新增。
   4. 新增一个任意内容的自定义变量（例如random_id：439157431651471905349）。
   5. 单击更新。

   在logtail-ds详情页面，确认各个容器组的状态为Running且创建时间为您更新配置后的时间。

   

步骤二：创建机器组

1. 使用阿里云账号A登录日志服务控制台。
2. 在Project列表区域，单击目标Project。
3. 在左侧导航栏中，选择资源 > 机器组。
4. 选择机器组右侧的 > 创建机器组。
5. 在创建机器组对话框中，配置如下参数，然后单击确定。其中用户自定义标识需设置为您在步骤一：设置阿里云账号为用户标识中获取的机器组标识（例如k8s-group-cc47****54428）。其他参数说明，请参见创建用户自定义标识机器组。
6. 检查机器组中的服务器心跳都为OK。
   1. 在机器组列表中，单击目标机器组。
   2. 在机器组配置页面，查看容器节点（ECS）的心跳状态。心跳为OK表示容器节点与日志服务的连接正常。如果显示FAIL请参见Logtail机器组无心跳。

步骤三：创建Logtail采集配置

1. 使用阿里云账号A登录日志服务控制台。
2. 在数据接入区域，单击Kubernetes-文件。
3. 选择目标Project和Logstore，单击下一步。
4. 单击使用现有机器组。
5. 选中您在步骤二：创建机器组中所创建的机器组，将该机器组从源机器组移动到应用机器组，单击下一步。
6. 设置Logtail采集配置，单击下一步。

   具体参数说明，请参见通过DaemonSet-控制台方式采集容器文本日志。

   
   重要

   • 默认一个文件只能匹配一个Logtail采集配置。此时账号B下的采集未停止，账号A下的Logtail采集配置无法生效，因此您需要使用如下方式使账号A下的Logtail采集配置生效。
     • 停止账号B下的采集，即使用账号B登录日志服务控制台，从目标机器组中移除Logtail采集配置。具体操作，请参见应用Logtail采集配置。
     • 在账号A下添加强制采集配置。更多信息，请参见如何实现文件中的日志被采集多份。
   • 此处创建Logtail采集配置成功后，请删除阿里云账号B下的原有Logtail采集配置，避免重复采集日志。如何删除，请参见删除Logtail采集配置。
7. 预览数据及设置索引，单击下一步。日志服务默认开启全文索引。您也可以根据采集到的日志，手动或者自动设置字段索引。更多信息，请参见配置索引。

相关操作

如果您需要将阿里云账号B下的历史数据迁移到当前的Logstore中，可以在原Logstore中创建数据加工任务，将数据复制到当前Logstore中。具体操作，请参见复制Logstore数据。

重要
跨账号加工数据时，需使用自定义角色或密钥方式进行授权，此处以自定义角色为例。

• 第一个角色ARN用于授予数据加工任务使用该角色来读取源Logstore中的数据。角色权限配置说明请参见授予RAM角色源Logstore读权限。
• 第二个角色ARN用于授予数据加工任务使用该角色将数据加工结果写入目标Logstore。角色权限配置说明请参见授予RAM角色目标Logstore写权限（跨账号）。