DIY主题讨论9：浮点数

最新推荐文章于 2024-07-05 15:12:39 发布

帷幄庸者

最新推荐文章于 2024-07-05 15:12:39 发布

阅读量430

点赞数

CC 4.0 BY-SA版权

分类专栏： DIY JAVA基础文章标签：浮点数

本文链接：https://blog.youkuaiyun.com/weiwoyonzhe/article/details/90724344

JAVA基础同时被 2 个专栏收录

15 篇文章

订阅专栏

DIY

14 篇文章

订阅专栏

博客围绕浮点数展开讨论，一是包装类Float有两个表示最小值的常量MIN_VALUE和MIN_NORMAL，分别对应不同含义；二是分析了double类型1.0 - 0.9结果不精确等于0.1的原因，指出单双精度浮点数表示方式，运算对阶时尾数移位会导致精度偏差。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

【DIY主题讨论9：浮点数】

1）包装类Float中为什么有两个常量来表示最小值：MIN_VALUE和MIN_NORMAL？
MIN_NORMAL = 2^（-126）：
A constant holding the smallest positive nonzero value of type
最小正非零值，对应于IEEE754浮点数标准
MIN_VALUE = 2^（-149）：
A constant holding the smallest positive nonzero value of type
最小正标准值，非标准
2）double a = 1.0-0.9的结果不精确等于0.1，为什么？
单精度浮点数的表示：第一位符号位，0表示正数，1表示负数，后8位指数位，后23位有效数字
双精度浮点数的表示：第一位符号位，0表示正数，1表示负数，后11位指数位，后52位有效数字
计算结果：0.09999999999999998
1.0的二进制表示：
1 11111111100 00000000000000000000000000000000000000000000000000
尾数补码：00000000000000000000000000000000000000000000000000
-0.9的二进制表示（1100其实是无限循环的）：
1 01111111110 1100110011001100110011001100110011001100110011001101
尾数补码：
1 01111111110 00011001100110011001100110011001100110011001100110011
对阶，以1023准，-0.9变成
1 01111111111 10001100110011001100110011001100110011001100110011001
在对阶的过程中发生了精度丢失
拓展：float 1.0f-0.9f = 0.100000024
总结：浮点数在运算时，对阶会发生尾数移位，移位导致了数据表示的精度偏差，进而导致结果偏差