js减法经度问题

最新推荐文章于 2023-10-30 15:45:35 发布

曲小强

最新推荐文章于 2023-10-30 15:45:35 发布

阅读量238

点赞数

CC 4.0 BY-SA版权

分类专栏：小卖部 js 文章标签： javascript

本文链接：https://blog.youkuaiyun.com/quhongqiang/article/details/125146555

小卖部 js 专栏收录该内容

63 篇文章

订阅专栏

该函数`num`用于进行高精度的浮点数运算，避免因浮点数精度问题导致的误差。它首先获取两个数的小数位数，然后通过乘以10的幂来消除小数部分，进行整数运算后再除回相同幂次并四舍五入到指定精度。此方法适用于需要精确计算的场景。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

function num(num1, num2) {
    var a, b, c;
    var precision;
    try {
      b = num1.toString().split(".")[1].length;
    } catch (e) {
      b = 0;
    }
    try {
      c = num2.toString().split(".")[1].length;
    } catch (e) {
      c = 0;
    }
    a = Math.pow(10, Math.max(b, c));
    precision = (b >= c) ? b : c;
    return ((num1 * a - num2 * a) / a).toFixed(precision);
}
num(20.01, 5)