今天改代码时有一处需要将整数型换成小数型。但在js中计算显示的时候发现结果的小数位数多了很多。例如1.3*3=3.90000001···类似这样的。
记得有个方法可以设置小数位数的,但记得不太清,所以把搜素的结果记录一下方便以后查看:
toFixed(n)
n表示要保留的小数位数。
在搜索的过程中意外还发现一种思路,感觉比较直接。就是先把小数换乘以十的倍数变成整数,然后结果再除以相应的10的倍数就行了。
例如(3.55*100*3)/100
个人比较喜欢第二种思路,而且网上说toFixed(n)这个方法某些情况下结果不够准确。
附上搜索的博客地址,详情查看这里
问题总结···js浮点小数计算问题
最新推荐文章于 2024-04-21 23:13:47 发布