javascript下的数值型比较真的没有那么简单

本文探讨JavaScript处理长整型数字及小数时出现的精度问题,包括数字比较异常及parseInt取整异常现象,并提供解决方案。

下面两个小问题是楼猪在实际项目开发中遇到的,贴上来和大家讨论下。
1、数字长长的,在c#里合法的长整型数字在javascript下竟然......
看下面几行简单代码:

复制代码
代码
         var  a  =   2010060612120909191 // 按时间生成的Id1
         var  b  =   2010060612120909199 // 按时间生成的Id2
        alert(a  ==  b);
        
// alert(a); //有什么惊人发现吗?
         // alert(b); //最后几位好像...
         // alert(Number(a) == Number(b));
         // alert(parseInt(a, 10) == parseInt(b, 10));
         // alert(parseFloat(a) == parseFloat(b));
复制代码

您可以拷贝代码自己在本地测试一下。实际运行的结果是,a和b竟然相等,弹出的是“true”。反正楼猪第一次碰到这种情况的时候感到一丝意外。然后楼猪分别让两个数字弹出,这次又意外发现数字改变成了“2010060612120909300”。最后又测试了一下和数字相关的Number,parseInt和parseFloat函数,三个结果依旧是true。
然后楼猪把数字型调整成字符串类型,如下:

复制代码
代码
         var  a  =   " 2010060612120909191 " // 按时间生成的Id1
         var  b  =   " 2010060612120909199 " // 按时间生成的Id2
        alert(a  ==  b); // false
        alert(a);  // 2010060612120909191
        alert(b);   // 2010060612120909199
        alert(Number(a)  ==  Number(b));  // ?
        alert(parseInt(a,  10 ==  parseInt(b,  10 )); // ?
        alert(parseFloat(a)  ==  parseFloat(b)); // ?
复制代码

这次预料中的前三个都没有问题,可是转换成数值型的比较依旧返回true。
是不是这里测试的两个数字都不在javascript的数字限定范围内呢?可是为什么弹出的数字改变成了“2010060612120909300”(百位数字太诡异了)?
自己google无果后,采用了下面的函数比较两个长整型的数字大小:

代码

 2、带个小数点的,parseInt的取舍
这个问题有的javascript书上已经讲过。看下面的代码:

         var  a  =   0.000001 ;
        
var  b  =   0.0000001 ;
        alert(parseInt(a));
        alert(parseInt(b));
        
// alert(parseInt(b, 10));//难道是没填写10进制的原因

您可能已经知道了。parseInt(b)返回的竟然是1!然后,将a和b换成字符串测试一下:

         var  a  =   " 0.000001 " ;
        
var  b  =   " 0.0000001 " ;
        alert(parseInt(a));
        alert(parseInt(b));

这一次,a和b返回的都是0。这个才是我们想要的预期的结果。然后楼猪大胆猜测,据说javascript处理数字碰到以0开头的有的时候是当做八进制处理的。这一想,kao,有道理。可是这里我们测试的两个浮点数字a和b都是以0开头啊?好吧,楼猪是真的想不到其他原因了,只好对产生奇怪结果的数字b,又改成parseInt(b, 10)测试一下,晕,还是1。然后,楼猪又Number和parseFloat测试了一下:

         var  a  =   0.000001 ;
        
var  b  =   0.0000001 ;
        alert(Number(a));
        alert(Number(b));
// 1e-7
        alert(parseFloat(a));
        alert(parseFloat(b)); 
// 1e-7

哈哈,这次楼猪似乎接近发现真相了。b在Number和parseFloat之后,都弹出1e-7,科学计数法嘛。看来还真的是八进制的问题。然后nc楼猪想当然地以为只要先将要parseInt的数字先toString或者String一下问题就可以解决了:

         var  b  =   0.0000001 ;
        alert(parseInt(b.toString(), 
10 ));
        alert(parseInt(String(b), 
10 ));

 晕啊,这次怎么还是1呢?改成下面的还是一样的:

         var  b  =  String( 0.0000001 );
        alert(parseInt(b));

那么,对于这种八进制parseInt返回科学计数法的数字,我们怎么取整呢?按照开发需要,Math里有函数可以帮我们轻松实现功能的:

         var  b  =   0.0000001 ;
        alert(Math.floor(b));

至于javascript常用的Math函数的floor和ceil方法的区别,您可以参考相关文档,这里不赘述。最后,期待您的宝贵意见和建议。









本文转自JeffWong博客园博客,原文链接:http://www.cnblogs.com/jeffwongishandsome/archive/2010/06/06/1752770.html,如需转载请自行联系原作者

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值