详情页标题前

我使用flink在做一个100张表左右的数据同步,这种情况下,对于CPU要求的范围大概是多少呢? -云小二-阿里云

详情页1

我使用flink在做一个100张表左右的数据同步,涉及到的业务不是特别复杂,这种情况下,对于CPU要求的范围大概是多少呢?还有内存,这边想知道一下范围方便采购

以下为热心网友提供的参考意见

对于涉及100张表左右的数据同步,Flink作业所需的CPU和内存资源取决于多个因素,包括:

  • 数据量
    数据的总量以及每张表的数据量都会影响所需资源。更大的数据量通常需要更多的CPU和内存来处理。

  • 数据复杂性
    如果数据包含复杂的结构或格式,或者需要进行大量的计算和转换,那么可能需要更多的CPU资源。

  • 并发度
    Flink作业的并行度会影响所需的资源。更高的并行度可以提高处理速度,但也会增加对CPU和内存的需求。

  • 网络带宽
    网络带宽限制可能会成为性能瓶颈,尤其是在从源数据库读取数据或写入目标系统时。

  • 硬件配置
    CPU和内存的类型、数量和速度也会影响Flink作业的性能。

由于这些因素的影响,很难给出一个具体的CPU和内存需求范围。然而,以下是一些经验性的指导原则:

  • CPU
    对于涉及100张表的数据同步,您可能需要至少4核以上的CPU。如果数据量大且复杂,可能需要更多核心。

  • 内存
    至少应为每个Flink任务分配2 GB的内存。对于更复杂的工作负载,可能需要更多内存。例如,如果每个任务需要5 GB的内存,并且有10个并行任务,那么总共需要50 GB的内存。

以下为热心网友提供的参考意见

我现在有50个库在做数据同步, 差不多每个库是90个表, 整库多表同步, 50个库对应50个job, 目前每个job使用的资源差不多0.7CU, JM:0.25+1,TM:0.5+2 。此回答整理自钉群“实时计算Flink产品交流群”

转转请注明出处:https://www.yunxiaoer.com/175450.html

(0)
上一篇 2023年12月13日
下一篇 2023年12月13日
详情页2

相关推荐

  • 使用flink实时写入数据库,并发只能是1,如果并行度加大,就会导致行锁,最后就一直等待?-云小二-阿里云

    使用flink实时写入数据库,并发只能是1,因为同一条记录会出现多次变化,如果并行度加大,就会导致行锁,最后就一直等待? 以下为热心网友提供的参考意见 Flink实时写入数据库并发只能是1,这是因为同一条记录可能会出现多次变化。如果并行度加大,就会导致行锁,最后就一直等待。这主要源于Flink在设计JDBC Sink时,出于性能因素考虑,对写入buffer做…

    阿里云 2023年12月18日
  • 大佬们,我刚接触flink,请教个问题,flinksql不支持这样写吗,数据库函数? -云小二-阿里云

    大佬们,我刚接触flink,请教个问题,flinksql不支持这样写吗,数据库函数? 在数据库是可以执行的,但是在flink校验sql的 时候报错了? 以下为热心网友提供的参考意见 您好!Flink SQL 支持大部分标准 SQL 功能,并且可以与许多开源数据库系统(如 MySQL 和 PostgreSQL)进行交互。然而,在某些情况下,可能会遇到无法直接翻…

    2024年1月4日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 有没有知道flink sql 怎么调式啊,我找了半天也没看到什么资料?-云小二-阿里云

    有没有大佬知道flink sql 怎么调式啊,我找了半天也没看到什么资料?我想debug一个消息进来了,在sql中计算到出去的全过程,在每个算子中的数据的流转变化,不是那个explain计划。以前用DataStream API都可以自己debug,现在换成sql api不知道怎么做了? 以下为热心网友提供的参考意见 找个开发平台调试,streampark或者…

    阿里云 2023年12月25日
  • Flink大会 回放在哪看呀 ?-云小二-阿里云

    Flink大会 回放在哪看呀? 以下为热心网友提供的参考意见 Flink大会的回放可以在Flink Forward的官方网站上查看。具体操作步骤可能包括在Flink Forward的官方网站上搜索相关的大会名称,然后找到相应的回放链接。 以下为热心网友提供的参考意见 在这里可以观看。 以下为热心网友提供的参考意见 本周会上线视频回放。此回答整理自钉群“【①群…

    2023年12月20日
  • Flink这个地方 有状态启动 – 从其他作业恢复; 怎么感觉选择有点怪怪的? -云小二-阿里云

    Flink这个地方 有状态启动 – 从其他作业恢复; 怎么感觉选择有点怪怪的?1、新作业, 无法支持 “从有状态启动”; 2、旧作业,重新启动,选择:从已有的作业进行恢复,但是 不能选择当前作业的快照,只能选择其他作业的快照;相当于在旧作业的的基础上,去恢复其他作业的快照;总感觉处理怪怪的;这种场景用于什么情况呢 以下为热心网友提供的参考意见 新…

    2023年12月13日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。