int a=2;
double b=1.9;
System.Out.println(a-b);
运行结果:0.100000009
十进制小数转换二进制的过程中又有精度损失
double类型是64位的数据类型而int是32位的数据类型。
本文通过一个简单的Java程序示例,展示了整型(int)与浮点型(double)进行运算时可能出现的精度损失问题,并解释了这是由于十进制小数转换为二进制时的精度丢失导致。
int a=2;
double b=1.9;
System.Out.println(a-b);
运行结果:0.100000009
十进制小数转换二进制的过程中又有精度损失
double类型是64位的数据类型而int是32位的数据类型。
1515

被折叠的 条评论
为什么被折叠?