详情页标题前

在数据传输DTS中,消息一直在重复消费,这是我查看到的异常信息,想知道是什么原因导致的?-云小二-阿里云

详情页1

在数据传输DTS中,我们服务现在出现了问题,消息一直在重复消费,这是我查看到的异常信息。在数据传输DTS中,消息一直在重复消费,这是我查看到的异常信息,想知道是什么原因导致的?-云小二-阿里云
完整的日志为:
2023-12-25 14:49:19.525 INFO 1 — [kaRecordFetcher] c.a.d.s.c.r.KafkaRecordFetcher : KafkaRecordFetcher: offer kafka record has failed for a period (10s) [ ConsumerRecord(topic = cn_beijing_vpc_rm_2zeoyz23rl9ir30o8_yx_dts2js_version2, partition = 0, offset = 280703077, CreateTime = 17034756
91783, serialized key size = -1, serialized value size = 447, headers = RecordHeaders(headers = [RecordHeader(key = togo, value = [0, 1, 1, 0, 0, 0, 1, 0, 6, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 2, 0, 0, 0, 6, 0, 0, 0, 7, 0, 0, 0, 12, 0, 0, 0, 0, 0, -70, -119, -23, 8, 6, -42, -25, -57, -40, 12, 0])], isRea
dOnly = false), key = null, value = [B@265b0e14)]
位点一直停在11:41,但是我们的程序还在一直消费,在数据传输DTS中,消息一直在重复消费,这是我查看到的异常信息,想知道是什么原因导致的?-云小二-阿里云
并且发现有重复消费的情况。想知道是什么原因导致的?

以下为热心网友提供的参考意见

数据传输服务DTS中消息重复消费的问题可能有多种原因。一种可能的原因是消费端SDK没有正确处理消费完的消息,没有及时向服务端发送ACK确认信息。当服务端没有收到ACK时,它会认为消息未被成功消费,因此会再次推送相同的消息。这就导致了消息的重复消费。

另一种可能的原因是订阅任务的消费组在数据订阅到期后并未及时续费或删除,导致消费组保留的时间超过了7天。如果在此期间实例被释放,那么对应的消费组也会被删除,可能会导致消息重复消费。

此外,还需要检查Demo版本是否使用正确,因为不同的源库类型和数据格式需要使用不同的Demo版本。同时,也需要查看订阅任务是否有数据写入Kafka,可以在控制台的消费组管理中查看未消费的消息数是否大于零。

以下为热心网友提供的参考意见

您试下重建消费组指定位点重新消费看下。您使用这个工具包先排查下;https://help.aliyun.com/zh/dts/user-guide/troubleshoot-issues-in-change-tracking-tasks?spm=a2c4g.11186623.0.i3 如果创建了多个消费组,会重复消费,否则不会;订阅client有重启可能也会导致重复消费。此回答整理自钉群“DTS客户交流群-2”

转转请注明出处:https://www.yunxiaoer.com/181174.html

(0)
上一篇 2024年1月3日
下一篇 2024年1月3日
详情页2

相关推荐

  • 大家平常诊断PolarDB内核问题,最常用的手段是多加点日志吗? -云小二-阿里云

    大家平常诊断PolarDB内核问题,最常用的手段是多加点日志吗?还有啥更”高明”的手段?mariadb官方用rr,看起来挺不错。 以下为热心网友提供的参考意见 诊断PolarDB内核问题时,除了增加日志输出外,还可以采用以下更”高明”的手段: 使用性能分析工具:例如Perf、SystemTap等,可以深入到系统…

    阿里云 2023年12月28日
  • 很长的sql polar慢日志显示省略了 ,如何从PolarDB拿到完整的sq?-云小二-阿里云

    很长的sql polar慢日志显示省略了 ,如何从PolarDB拿到完整的sq? 以下为热心网友提供的参考意见 要从PolarDB获取完整的SQL日志,您可以通过以下步骤操作: 登录到阿里云控制台。 进入PolarDB管理控制台。 在左侧导航栏中,选择“性能诊断”。 在性能诊断页面中,选择“慢查询分析”。 在慢查询分析页面中,您可以查看到完整的SQL语句。 …

    2024年1月2日
  • DataWorks网络连接VPC查看不到?-云小二-阿里云

    DataWorks网络连接VPC查看不到? 以下为热心网友提供的参考意见 当您在DataWorks中无法查看到网络连接的VPC时,可能的原因和解决方案如下: 场景一:如果数据源与DataWorks工作空间在同一个阿里云主账号下,并且在同一个地域,应确保独享资源组已绑定数据源所在的VPC。若可用区不同,需要在控制台添加路由来进行跨区域的连接。 使用云企业网CE…

    阿里云 2023年12月24日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 大数据计算MaxCompute需要按照如下链接去操作吗?-云小二-阿里云

    大数据计算MaxCompute自定义udf连接云上vpc网络的redis获取数据,需要按照如下链接去操作吗?https://help.aliyun.com/zh/maxcompute/user-guide/use-udfs-to-access-resources-in-vpcs还是说按照以下链接https://help.aliyun.com/zh/maxco…

    2023年12月31日
  • 使用Serverless 应用引擎能否使用内网地址访问oss?-云小二-阿里云

    oss中的内网地址,使用ecs可以内网连通(ecs和oss同地域即可) 因为oss无法归属到vpc下 使用Serverless 应用引擎能否使用内网地址访问oss? 以下为热心网友提供的参考意见 使用Serverless 应用引擎可以使用内网地址访问OSS。ECS和OSS同地域即可内网连通,但因为OSS无法归属到VPC下,所以需要注意网络配置和权限设置,以确…

    阿里云 2023年12月28日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。