浮点数存储
在Java中,浮点数遵循IEEE 754标准,该标准规定了浮点数的表示方式。实际上,几乎所有语言都依据这个标准。
定点数和浮点数区别
比如用8位二进制位表示一个小数,先不考虑负数,如果用定点数表示,可以用前4位表示整数,后四位表示小数,小数点就固定了,数值始终是 整数部分.小数部分。如果用浮点数表示,用前4位表示指数(e),后4位表示尾数(M),数值就是M×2eM\times2^{e}M×2e, 因为指数不同,代表尾数小数点要移动相应的位,所以叫浮点数。定点数一般很少用到,除非是一些特别的场景,比如实时系统中。
单精度(float) 存储:
占32位, 1位符号位(Sign),8位指数(Exponent), 23位尾数(Mantissa)
小数存储的时候先要规格化(normalize)
比如0.0175 规格化为 1.75×10−21.75\times10^{-2}1.75×10−2, 符号位存0(代表正数), 指数部分就存 -2,规定指数部分有一个偏移127,实际存的指数是125,解析的时候指数为125−127=−2125-127=-2125−127=−2, 尾数部分就存1.75,实际这些都是存储是二进制,尾数的二进制是1.11, 小数点前的1存储的时候不存储,解析的时候会加上,因为规格化后小数点前有且仅有一个1, 所以规定不存储,解析成浮点数的时候再把这个1加在小数点左边, 所以尾数就存11000…0 (23位)。
所以float从存储解析可以表示为
(−1)符号位×1.尾数×2指数−127 (−1)^{符号位}×1.尾数×2^{指数-127} (−1)符号位×1.尾数×2指数−127
双精度(double) 存储:
占64位, 1位符号位(Sign),11位指数(Exponent), 52位尾数(Mantissa)
浮点数精度问题原因
从上面的存储格式就知道,尾数部分的位数是有限制的,比如float的尾数是23位,也就是说有效数字只能是23位能表示的精度,23位二进制(加上存储时默认小数点