
大家好,我是哪吒。
最近碰到一个问题,很有趣,我就不贴代码了,要不你们会以为我在无中生有。

我现在的心情很复杂,我想静静。
我只知道浮点数相加是丢失精度的,但是为什么会丢精度,我就不知道了。
一、0.1+0.2是如何执行的?
1、转成浮点数
浮点数在计算机内部是以二进制的形式存储的,而有些十进制的小数在二进制下无法精确表示,因此在进行浮点数运算时可能会存在精度误差。
浮点数分为单精度对应32位操作系统和双精度对应64位操作系统。目前的操作系统大多是64位操作系统,故这里只解释一下二进制如何转成双精度浮点数的二进制。
双精度浮点数用1位表示符号位,11位表示指数位,52位表示小数位,如下图所示:

符号位:正数为0,负数为1;
指数位:阶数+偏移量,阶数是:2^e-1^-1
e为阶码的位数。偏移量是把小数点移动到整数位只有1时移动的位数,正数表示向左移,负数表示向右移;
小数位:即二进制小

这篇博客探讨了0.1+0.2为何不等于0.3的问题,深入解析浮点数在计算机中的表示、相加过程以及精度丢失的原因。博主介绍了二进制浮点数的存储方式,并提出使用BigDecimal解决浮点数计算的精度问题。
订阅专栏 解锁全文
1171

被折叠的 条评论
为什么被折叠?



