本文深入探讨了单精度浮点数的尾数存储方式，通过计算23位尾数加上默认小数点前的1位1，得出2^(23+1)的总组合数为16777216。进而分析了由于10^7<16777216<10^8，故单精度浮点数的有效位数为7位，部分情况下可达8位。
/单精度数的尾数用23位存储，加上默认的小数点前的1位1，2^(23+1) = 16777216。
//因为 10^7 < 16777216 < 10^8 因此效位数是7位，部分数可以取到8位
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
/单精度数的尾数用23位存储，加上默认的小数点前的1位1，2^(23+1) = 16777216。
//因为 10^7 < 16777216 < 10^8 因此效位数是7位，部分数可以取到8位
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
