通常我们习惯这么写:
float a = 2.123f;
float b = 1.101f;
System.out.println("a-b=" + (a-b));
运行结果:a-b=1.022
那么这么写呢?
a = 2.1235f;
b = 1.1012f;
System.out.println("a-b=" + (a-b));
运行结果:a-b=1.0223001
可我们的期望值是:a-b=1.0223
所以float的精度到了4位之后就得这么写:
BigDecimal c = new BigDecimal(Float.toString(a));
BigDecimal d = new BigDecimal(Float.toString(b));
System.out.println("a-b=" + (c.subtract(d)).floatValue());
运行结果:a-b=1.0223
不信你自己试试!
原因请参考:[转载]http://blog.youkuaiyun.com/fancylovejava/article/details/12027039
本文讨论了Java中浮点数运算的精度问题,通过案例展示了如何使用BigDecimal来解决此类问题,确保数学计算结果的准确性。
1275

被折叠的 条评论
为什么被折叠?



