本文探讨了在项目中使用multiply函数进行数值运算时遇到的精度问题。具体表现为使用a.multiply(b,MathContext.DECIMAL32)进行计算时，结果与预期不符。深入研究发现，MathContext.DECIMAL32规定了计算过程中的精度为7位数字，超过7位将进行四舍五入，导致计算结果与计算器计算结果存在差异。
最近在项目中遇到一个关于multiply函数的使用情形，需要用两个值乘积与一个值比较，中间使用时a.multiply(b,MathContext.DECIMAL32)，实际结果与计算器计算结果不一致。
翻阅api描述为：
7个数字是7位数字，如果超过7位会进行四舍五入。
MathContext.DECIMAL*用法
最新推荐文章于 2024-03-03 00:08:47 发布
扫一扫
10-30
608
608
10-31
684
684
03-03
866
866
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
