在IE里写个JS脚本: alert((7.89*2.5).toFixed(2));
竟然弹出19.72, 而不是19.73 ![]()
接着试了试: alert(7.89*2.5); 弹出19.72499999998. 而不是19.725
才知道原来是这样使得四舍五入至小数点后两位结果值成了19.72, 而不是19.73.
最后只好自己写了个函数代替toFixed函数:
function Round(a_Num , a_Bit) {
return((Math.round(a_Num * Math.pow (10,a_Bit+8)) / Math.pow(10,a_Bit+8)).toFixed(a_Bit));
} // 先乘上10的N+8次方(N是需要保留的小数点位数,用8等更大数字可以使得误差降至极低); 然后四舍五入到最接近的整数. 再除以10的N+8次方;最后就可以平安使用四舍五入函数了.
总算问题解决,差点因为相差一点点而亏大把钱
而这种计算问题发现同样在XSL里面都存在.可以使用同样思想解决.
可以说是另一种BUG,不过解释引擎到底为什么会这样子做,还得去问微软
博客指出在IE中使用JS脚本进行四舍五入计算时出现结果偏差,如7.89*2.5四舍五入保留两位小数结果异常。作者编写了替代toFixed的函数解决问题,还提到XSL里也存在同样计算问题,可用相同思路解决,解释引擎原因待问微软。
240

被折叠的 条评论
为什么被折叠?



