浮点数进行计算

最新推荐文章于 2024-08-08 10:34:48 发布

转载最新推荐文章于 2024-08-08 10:34:48 发布 · 428 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://www.jianshu.com/p/abbdae4f3841

Java基础专栏收录该内容

16 篇文章

订阅专栏

本文探讨了计算机中浮点数运算的精度问题，解释了为何简单数学运算如2.0-1.1会产生非预期结果。通过对比原码、反码、补码和移码的不同，深入解析了数值在计算机中的表示方式。并介绍了使用BigDecimal类来避免浮点数运算误差的方法。

参考 https://www.jianshu.com/p/abbdae4f3841 参考 https://www.jianshu.com/p/07343f25d869

public static void main(String[] args) {
		System.out.println(2.0 - 1.1);// 值为0.8999999999999999
		BigDecimal a = BigDecimal.valueOf(2.0);
		BigDecimal b = BigDecimal.valueOf(-1.1);
		BigDecimal c = a.add(b);
		System.out.println(c);//值为0.9
	}

为什么会出现这种情况？
计算机采用二进制进行计算，有些数据可以用二进制表示。如0.5=1/2=2^(-1）但是有些不行，如0.1，这就好像1/3用十进制无法准确的表示。
计算机采用机器语言来表示数值，即二进制

名称	意义
原码	正数是其二进制本身，负数是符号位为1，数值部分采用绝对值的二进制
反码	正数的反码和原码相同，负数是符号位为1，其他的是原码取反
补码	正数的补码和原码反码相同，负数是符号位为1，其他是原码取反，末位加1
移码	将符号位取反的补码

如以下

编码	108（10进制）	-108(10进制)
原码	01101100	11101100(符号位为1）
反码	01101100	10010011(符号位不变，其他取反）
补码	01101100	10010100（符号位不变，其他取反加1）
移码	11101100（符号位取反）	00010100（符号位取反的补码）