关于JavaScript中计算精度丢失的问题(二)

3.3 加减乘除
对指定数字进行四舍五入可以通过floor/ceil或者正则表达式达到舍入的目的,那么四则运算是不是也可以升级成计算机能够精确识别的整数来计算,计算完毕再降级呢?这个答案是肯定的,我们先来看看加法:
Number.prototype.add = function(arg)
{
var n, n1, n2, s, s1, s2, ps;

s1 = this.toString();
ps = s1.split('.');
n1 = ps[1] ? ps[1].length : 0;

s2 = arg.toString();
ps = s2.split('.');
n2 = ps[1] ? ps[1].length : 0;

n = n1 > n2 ? n1 : n2;
s = Number(s1.movePoint(n)) + Number(s2.movePoint(n));
s = s.toString().movePoint(-n);
return Number(s);
}

这时候再执行之前的加法
alert(Number(0.1).add(0.2));//弹出0.3
这时候就可以计算出精确的结果了。
类似可以写出减法:
Number.prototype.sub = function(arg)
{
var n, n1, n2, s, s1, s2, ps;

s1 = this.toString();
ps = s1.split('.');
n1 = ps[1] ? ps[1].length : 0;

s2 = arg.toString();
ps = s2.split('.');
n2 = ps[1] ? ps[1].length : 0;

n = n1 > n2 ? n1 : n2;
s = Number(s1.movePoint(n)) - Number(s2.movePoint(n));
s = s.toString().movePoint(-n);
return Number(s);
}

类似可以写出乘法:
Number.prototype.mul = function(arg)
{
var n, n1, n2, s, s1, s2, ps;

s1 = this.toString();
ps = s1.split('.');
n1 = ps[1] ? ps[1].length : 0;

s2 = arg.toString();
ps = s2.split('.');
n2 = ps[1] ? ps[1].length : 0;

n = n1 + n2;
s = Number(s1.replace('.', '')) * Number(s2.replace('.', ''));
s = s.toString().movePoint(-n);
return Number(s);
}

类似可以写出除法:
Number.prototype.div = function(arg)
{
var n, n1, n2, s, s1, s2, ps;

s1 = this.toString();
ps = s1.split('.');
n1 = ps[1] ? ps[1].length : 0;

s2 = arg.toString();
ps = s2.split('.');
n2 = ps[1] ? ps[1].length : 0;

n = n1 - n2;
s = Number(s1.replace('.', '')) / Number(s2.replace('.', ''));
s = s.toString().movePoint(-n);
return Number(s);
}

重要提示:由于除法不能精确到几位小数,在计算完成的时候应根据需要进行适当的四舍五入,以避免产生精度差异。
4. 结论
由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,因此这种精度差异几乎出现在所有的编程语言中(例如C/C++/C#,Java),准确的说:“使用了IEEE 754浮点数格式”来存储浮点类型(float 32,double 64)的任何编程语言都有这个问题!而C#、Java是因为提供了封装类decimal、BigDecimal来进行相应的处理才避开了这个精度差异。
为了避免产生精度差异,把需要计算的数字全升级(乘以10的n次幂)成计算机能够精确识别的整数,等计算完毕再降级(除以10的n次幂),这是大部分编程语言处理精度差异的通用方法。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值