所有开发应该知道的二进制运算溢出问题--19.9

最新推荐文章于 2024-05-20 17:21:35 发布

原创最新推荐文章于 2024-05-20 17:21:35 发布 · 979 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#android #二进制运算溢出 #19.9

android 专栏收录该内容

17 篇文章

订阅专栏

本文介绍了一次系统中抵扣钻石计算错误的问题，详细分析了double类型在二进制运算中出现的溢出现象，并给出了使用BigDecimal进行精确计算的解决方案。

今天测试突然提了一个bug给我，系统里面抵扣砖石不对，我是真的惊了，从服务器拿的数据时19.9元然后我们本地计算，钻石比例是100，然后转换为砖石之后变成了 1989，当初还以为是算错了，后面上网一查，原来是double类型二进制运算溢出问题，不光是java ，.net也会有这样的问题，只有19.9会出问题，9.9和29.9不会；

处理方案

 BigDecimal bignum1 = new BigDecimal(servicePrice);
        BigDecimal bignum2 = new BigDecimal("100");
        BigDecimal bignum3 = bignum1.multiply(bignum2); //乘法运算
        allMoney = bignum3 .intValue();//应付金额（分）