sql使用float字段存储不精确的替代方法及原因

存储金额为了偷懒使用了float这个字段类型。结果发现部分小数类型输出不准确。一脸懵逼

然后使用了decimal这个字段类型解决。

产生的原因应该是十进制转换二进制存储产生的。

对十进制小数乘2得到的整数部分和小数部分,整数部分既是相应的二进制数码,再用2乘小数部分(之前乘后得到新的小数部分),又得到整数和小数部分.
如此不断重复,直到小数部分为0或达到精度要求为止.第一次所得到为最高位,最后一次得到为最低位

如：0.7 整数部分为0，然后计算
0.7*2=1.4  取整1
0.4*2=0.8  取整0
0.8*2=1.6  取整1
0.6*2=1.2  取整1
0.2*2=0.4  取整0
循环出现
所以十进制的0.7=二进制的0.1 0110 0110……（循环节是0110）

0.25的二进制
0.25*2=0.5 取整是0
0.5*2=1.0    取整是1
所以0.25的二进制为 0.01 ( 第一次所得到为最高位,最后一次得到为最低位)

 

0.1~0.9只有0.5可以被有限表示，所以很多浮点数是不精确的

转载于:https://www.cnblogs.com/zhuanzhuan1996/p/9407106.html