处理js中浮点数计算精度问题

最新推荐文章于 2024-05-17 00:54:13 发布

原创

最新推荐文章于 2024-05-17 00:54:13 发布 · 334 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#javascript

这段代码提供了一组JavaScript函数，用于实现浮点数的精确加、减、乘、除运算，解决了JavaScript中浮点数计算可能出现的精度问题。通过转换为整数计算并调整精度，确保了计算结果的准确性。此外，还为Number类型增加了相应的div、mul、add和sub方法，使得调用更便捷。

主要思想就是将浮点数计算转换成整数计算

//除法函数，用来得到精确的除法结果
//说明：javascript 的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用：accDiv(arg1,arg2)
//返回值：arg1 除以 arg2 的精确结果
function accDiv(arg1,arg2){
   
   
    var t1 = 0,t2 = 0,r1,r2;
    try{
   
   t1 = arg1.toString().split('.')[1].length}catch(e){
   
   }//split()返回通过指定符号划分的数组3.4  [‘3’,’4’]字符串
    try{
   
   t2 = arg2.toString().split('.')[1].length}catch(e){
   
   }
    with(Math){
   
   //with()指定对象下面相当于math.number
        r1 = Number(arg1.toString().replace('.',''));
        r2 = Number(arg2.toString