详情页标题前

大数据计算MaxCompute使用一个udf调接口,可以调整什么设置实现吗?-云小二-阿里云

详情页1

大数据计算MaxCompute使用一个udf调接口,想用多个instance一起跑,可以调整什么设置实现吗?– SET odps.stage.num= 10;
— set odps.stage.reducer.num =30;
— set odps.sql.reducer.instances=30;
— set odps.sql.mapper.split.size=1;
— set odps.stage.mapper.split.size = 1;尝试了这些都不行http://logview.odps.aliyun.com/logview/?h=http://service.cn.maxcompute.aliyun-inc.com/api&p=micro_dw_dev&i=20240102061303730g6tcw2dz8pk&token=Nkw5ckZvMy9EK3liempTZDhGVWJqYVA1azhRPSxPRFBTX09CTzpwNF8yMDc0NzQ3ODg1MTk3NDMwMTQsMTcwNjc2Nzk4NCx7IlN0YXRlbWVudCI6W3siQWN0aW9uIjpbIm9kcHM6UmVhZCJdLCJFZmZlY3QiOiJBbGxvdyIsIlJlc291cmNlIjpbImFjczpvZHBzOio6cHJvamVjdHMvbWljcm9fZHdfZGV2L2luc3RhbmNlcy8yMDI0MDEwMjA2MTMwMzczMGc2dGN3MmR6OHBrIl19XSwiVmVyc2lvbiI6IjEifQ==

以下为热心网友提供的参考意见

在MaxCompute中,要使用多个instance一起运行UDF调接口,可以尝试调整以下设置:

  1. 增加odps.stage.num的值,以增加并行度。例如,将其设置为20或更高。
  2. 增加odps.stage.reducer.num的值,以增加Reducer的数量。例如,将其设置为60或更高。
  3. 增加odps.sql.reducer.instances的值,以增加SQL任务的Reducer实例数量。例如,将其设置为60或更高。
  4. 增加odps.sql.mapper.split.sizeodps.stage.mapper.split.size的值,以增加Mapper和Stage的分割大小。例如,将其设置为2或更高。

请注意,这些设置可能需要根据实际情况进行调整,以达到最佳性能。同时,确保您的MaxCompute账户具有足够的配额来支持这些设置。

以下为热心网友提供的参考意见

看SQL,flag没有生效。
set odps.sql.mapper.split.size ,此回答整理自钉群“MaxCompute开发者社区2群”

转转请注明出处:https://www.yunxiaoer.com/183374.html

(0)
上一篇 2024年1月9日
下一篇 2024年1月9日
详情页2

相关推荐

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。