稳定性说明
读日志服务
稳定项 |
说明 |
可用性 |
可用性较高。 |
写OSS
稳定项 |
说明 |
并发度 |
按照日志服务Shard进行分区并创建投递实例,支持快速扩容。 如果日志服务源Logstore进行Shard分裂,可以在数秒以内完成投递实例的扩容,加快数据导出速度。 |
数据不丢失 |
OSS投递任务基于消费组进行扩展,提供一致性保证。投递完成后,才会提交offset,因此可以保证数据写入OSS之前,offset不被提交,即保证投递数据不丢失。 |
监控告警
稳定项 |
说明 |
监控告警 |
数据投递有完善的监控,可实时追踪投递任务的延迟、流量等指标。您可以根据业务需求,配置自定义告警,及时发现投递问题(例如导出实例不足、网络Quota限制等)。具体操作,请参见为OSS投递任务(新版)设置告警。 |
使用限制
网络
限制项 |
说明 |
网络类型 |
通过阿里云内网传输数据,网络稳定性和速度具有保障。 |
权限管理
限制项 |
说明 |
授权 |
涉及OSS投递操作权限和数据访问权限。更多信息,请参见准备权限。 |
服务端加密 |
如果开启了服务端加密,需要为RAM角色添加额外的权限。更多信息,请参见OSS配置文档。 |
读流量
限制项 |
说明 |
读流量 |
单个Project以及单个Shard存在最高流量限制。更多信息,请参见数据读写。 如果超过最高流量限制,请分裂Shard或者申请扩容Project读流量限制。超过限制,会导致OSS投递任务读取数据失败,并在内部至少重试10次,如果仍然失败,任务执行会报错,然后任务重启。 |
写OSS
限制项 |
说明 |
并发实例 |
并发实例数量与Shard数量相同(包括读写Shard和只读Shard)。 |
投递限制 |
|
时间分区 |
OSS投递是攒批进行,每次写一个文件,文件内包括一批数据,文件路径由该批数据中最小的receive_time(数据到达日志服务的时间)决定。 |
文件格式 |
数据被投递到OSS后,支持存储为CSV、JSON、Parquet、ORC四种文件格式。更多信息,请参见JSON格式、CSV格式、Parquet格式和ORC格式。 |
压缩方式 |
支持snappy、gzip、zstd三种压缩方式以及不压缩。 |
OSS Bucket |
|
配置项
限制项 |
说明 |
延迟投递 |
延迟投递配置项中设置的时间不能超过目标Logstore的数据保存时间。 建议预留一段缓冲时间,否则可能会导致数据丢失。例如Logstore的数据保存时间为30天,则延迟投递的时间最好不要超过25天。 |
管理投递
限制项 |
说明 |
暂停投递任务 |
投递任务会记录上次投递的日志Cursor,恢复运行时从记录的Cursor开始继续投递。因此暂停投递任务时存在如下机制。
|
内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家
阿里云企业补贴进行中: 马上申请
腾讯云限时活动1折起,即将结束: 马上收藏
同尘科技为腾讯云授权服务中心。
购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠
转转请注明出处:https://www.yunxiaoer.com/163232.html