java浮点数精度问题

Java浮点数精度问题解析

原创

已于 2024-09-03 09:52:19 修改 · 2k 阅读

30 ·

CC 4.0 BY-SA版权

文章标签：

#java

于 2024-06-24 03:31:40 首次发布

浮点数存储

在Java中，浮点数遵循IEEE 754标准，该标准规定了浮点数的表示方式。实际上，几乎所有语言都依据这个标准。

定点数和浮点数区别

比如用8位二进制位表示一个小数，先不考虑负数，如果用定点数表示，可以用前4位表示整数，后四位表示小数，小数点就固定了，数值始终是整数部分.小数部分。如果用浮点数表示，用前4位表示指数(e)，后4位表示尾数(M)，数值就是 $M×2eM\times2^{e}$ , 因为指数不同，代表尾数小数点要移动相应的位，所以叫浮点数。定点数一般很少用到，除非是一些特别的场景，比如实时系统中。

单精度（float) 存储:

占32位， 1位符号位(Sign)，8位指数(Exponent)， 23位尾数(Mantissa)

在这里插入图片描述
小数存储的时候先要规格化（normalize）
比如0.0175 规格化为 $1.75×10−21.75\times10^{-2}$ , 符号位存0(代表正数), 指数部分就存 -2，规定指数部分有一个偏移127，实际存的指数是125，解析的时候指数为 $125 - 127 = - 2$ ，尾数部分就存1.75，实际这些都是存储是二进制，尾数的二进制是1.11, 小数点前的1存储的时候不存储，解析的时候会加上，因为规格化后小数点前有且仅有一个1，所以规定不存储，解析成浮点数的时候再把这个1加在小数点左边，所以尾数就存11000…0 (23位）。
所以float从存储解析可以表示为
$1)^{符号位}×1.尾数×2^{指数-127}$

双精度（double) 存储：

占64位， 1位符号位(Sign)，11位指数(Exponent)， 52位尾数(Mantissa)
在这里插入图片描述

浮点数精度问题原因

从上面的存储格式就知道，尾数部分的位数是有限制的，比如float的尾数是23位，也就是说有效数字只能是23位能表示的精度，23位二进制(加上存储时默认小数点前的1就是24位）能表示的有效数字(significant digits)大约是7~8位（24位二进制能表示的十进制位数）, 也就是说小数的有效数字超过8，就可能有精度损失。所以比如1.2345678F，精度有损失，因为有效数字位数超过了8.