处理JS中数据失真问题-随笔

最新推荐文章于 2025-05-20 10:12:28 发布

转载最新推荐文章于 2025-05-20 10:12:28 发布 · 725 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/hr-cmbc/p/11316418.html

文章标签：

#前端 #javascript #ViewUI

本文介绍了一种用于处理浮点数加减法的精确运算方法，通过控制小数点后的位数来避免计算机内部的精度损失，确保计算结果的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

// 返回值：arg1加上arg2的精确结果
function accAdd(arg1, arg2) {
    var r1, r2, m;
    try {
        r1 = arg1.toString().split(".")[1].length
    } catch (e) {
        r1 = 0
    };
    try {
        r2 = arg2.toString().split(".")[1].length
    } catch (e) {
        r2 = 0
    };
    m = Math.pow(10, Math.max(r1, r2));
    return (arg1 * m + arg2 * m) / m
}

// 返回值：arg1减去arg2的精确结果
function accSub(arg1, arg2) {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length
    } catch (e) {
        r1 = 0
    };
    try {
        r2 = arg2.toString().split(".")[1].length
    } catch (e) {
        r2 = 0
    };
    m = Math.pow(10, Math.max(r1, r2));
    // 动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
这个方法还是有问题的看下一篇吧

转载于:https://www.cnblogs.com/hr-cmbc/p/11316418.html