浮点数精度问题

本文通过对比双精度浮点数与BigDecimal在乘法运算中的表现,揭示了浮点数运算精度丢失的问题,并提供了使用BigDecimal进行精确计算的正确示范。

浮点数精度问题:

    public static void main(String[] args) {
        double d = 11.4;
        int i = 13;
        double a = d*i;
        System.out.println("反例:"+a);
        
        BigDecimal num12 = new BigDecimal(d);
        BigDecimal num22 = new BigDecimal(i);
        BigDecimal result32 = num12.multiply(num22);
        System.out.println("反例:"+result32);
        
        BigDecimal num13 = new BigDecimal(Double.toString(d));
        BigDecimal num23 = new BigDecimal(Double.toString(i));
        BigDecimal result33 = num13.multiply(num23);
        System.out.println("正例:"+result33);
        
        BigDecimal num14 = BigDecimal.valueOf(d);
        BigDecimal num24 = BigDecimal.valueOf(i);
        BigDecimal result34 = num14.multiply(num24);
        System.out.println("正例:"+result34);
    }

 

 

转载于:https://www.cnblogs.com/xiluhua/p/10790419.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值