本文探讨了计算机中浮点数运算的精度问题，包括常见的0.1+0.2不等于0.3的现象，以及数学运算达到极限的情况，如2的1023次方可以计算出具体数值，但2的1024次方则超出范围显示为无穷大。
https://github.com/camsong/blog/issues/9
0.1+0.2 //0.30000000000000004
1-0.9 //0.09999999999999998
9007199254740993-9007199254740992 //0
Math.pow(2,1023) //8.98846567431158e+307
//但是
Math.pow(2,1024) //Infinity
转载于:https://www.cnblogs.com/alexandra/p/10273345.html
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
