详情页标题前

大数据计算MaxComputeDouble 类型的做个计算精度也会有问题,不使用CAST的话?-云小二-阿里云

详情页1

大数据计算MaxComputeDouble 类型的做个计算精度也会有问题,不使用CAST的话?
大数据计算MaxComputeDouble 类型的做个计算精度也会有问题,不使用CAST的话?-云小二-阿里云
大数据计算MaxComputeDouble 类型的做个计算精度也会有问题,不使用CAST的话?-云小二-阿里云
大数据计算MaxComputeDouble 类型的做个计算精度也会有问题,不使用CAST的话?-云小二-阿里云
大数据计算MaxComputeDouble 类型的做个计算精度也会有问题,不使用CAST的话?-云小二-阿里云

以下为热心网友提供的参考意见

确实,使用MaxCompute的DOUBLE类型进行计算时,由于其8字节双精度浮点数的特性,存在一定的精度损失。例如,4.515的DOUBLE类型在表示结果时为4.514999999,因此在做四舍五入操作时会被计算为4.51。因此,如果您对计算精度有较高要求,建议将DOUBLE数据类型转换为DECIMAL类型进行计算。

值得注意的是,当MaxCompute项目打开2.0新数据类型开关时,部分隐式类型转换会被禁用,包括STRING转换为BIGINT、STRING转换为DATETIME、DOUBLE转换为BIGINT、DECIMAL转换为DOUBLE、DECIMAL转换为BIGINT等,这些操作都有可能导致精度损失或报错。所以对于涉及精度计算的任务,应尽可能避免这些可能出现问题的转换操作。

以下为热心网友提供的参考意见

double类型会有精度问题存在,可以cast转成decimal来使用。可以参考下这篇文档
https://help.aliyun.com/zh/maxcompute/use-cases/fix-the-precision-issue-of-the-round-function?spm=a2c4g.11186623.0.i27 ,此回答整理自钉群“MaxCompute开发者社区2群”

转转请注明出处:https://www.yunxiaoer.com/176788.html

(0)
上一篇 2023年12月10日 下午3:13
下一篇 2023年12月10日 下午3:15
详情页2

相关推荐

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。