Doodlera的博客

由于计算机的存储原因，浮点数（float，double）等类型计算时存在精度损失。如： 为什么会出现浮点数： 定点格式在知道这些数不会超过预先确定的内存单元，且没有太多小数位的场合比较合适用，在数可能很大或可能很小的场合定点格式完全不适用。用浮点数表示一些极大和极小的数值比较方便，但是在处理浮点数的时候经常会发生精度损失的问题。源自知乎 解决方法： 1、转换为整数运算 2、python的第三方库decimal，scala里面也有BigDecimal ...

终于找到一个从公式而不是画图的角度的答案。终于理解了一些。 https://blog.youkuaiyun.com/f156207495/article/details/82794151?utm_source=copy