解决js浮点数加法减法乘除法精度丢失问题 - 自处理或者使用开源js

深入解析浮点数运算:从IEEE 754标准到手算实例 浮点数是计算机表示实数的基础,它采用类似科学计数法的思想,通过符号、尾数和指数三部分来编码,以平衡数值表示范围与精度。其核心原理遵循IEEE 754国际标准,该标准定义了单精度、双精度等格式以及特殊的零、无穷大和NaN值。理解浮点数运算的技术价值在于,它是确保科学计算、图形渲染、机器学习等高性能应用数值结果可靠性的基石。在实际应用场景中,程序员常会遇到因浮点数精度限制导致的经典问题,例如“0.1 + 0.2 ≠ 0.3”的现象,这源于二进制无法精确表示某些十进制分数。本文以浮点数加法和乘法为例,通过一步步的 阅读详情

最近
前端处理数据最好还是用:decimal.js
https://www.npmjs.com/package/decimal.js

Decimal可以加减乘除比较大小,四舍五入等等。
四舍五入保留2位小数:

new Decimal(value).toFixed(2, Decimal.ROUND_HALF_UP)

更多使用参考官方文档或者:https://www.jianshu.com/p/429637a1c80e

前期文章:
Javascript 浮点数保存或者加减乘除丢失精度问题原因:
https://cloud.tencent.com/developer/article/1592651

js中两个浮点数相加会丢失精度问题,下面的方法基本上可以解决精度丢失问题。另外网上有些方法在返回处直接写(arg1m+arg2m)/m,这样只能解决部分精度问题,因为js在做乘法运算时也会有精度丢失问题,所以需要使用Math函数四舍五入法来处理(这里处理不会出现精度丢失,因为出现的乘法精度问题采用四舍五入后可解决)。所以一定需要Math.round()最处理下。

//加法函数,用来得到精确的加法结果
function accAdd(arg1,arg2){
	var r1,r2,m;
	try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
	try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
	m=Math.pow(10,Math.max(r1,r2));
	return Math.round(arg1*m+arg2*m)/m;
}

Number.prototype.add = function (arg){
	return accAdd(arg,this);
}

其它运算参考下文
https://blog.youkuaiyun.com/weinichendian/article/details/70607533

<script type="text/javascript">
 
    // 两个浮点数求和
    function accAdd(num1,num2){
       var r1,r2,m;
       try{
           r1 = num1.toString().split('.')[1].length;
       }catch(e){
           r1 = 0;
       }
       try{
           r2=num2.toString().split(".")[1].length;
       }catch(e){
           r2=0;
       }
       m=Math.pow(10,Math.max(r1,r2));
       // return (num1*m+num2*m)/m;
       return Math.round(num1*m+num2*m)/m;
    }
    
    // 两个浮点数相减
    function accSub(num1,num2){
       var r1,r2,m;
       try{
           r1 = num1.toString().split('.')[1].length;
       }catch(e){
           r1 = 0;
       }
       try{
           r2=num2.toString().split(".")[1].length;
       }catch(e){
           r2=0;
       }
       m=Math.pow(10,Math.max(r1,r2));
       n=(r1>=r2)?r1:r2;
       return (Math.round(num1*m-num2*m)/m).toFixed(n);
    }
 
    // 两个浮点数相除
    function accDiv(num1,num2){
       var t1,t2,r1,r2;
       try{
           t1 = num1.toString().split('.')[1].length;
       }catch(e){
           t1 = 0;
       }
       try{
           t2=num2.toString().split(".")[1].length;
       }catch(e){
           t2=0;
       }
       r1=Number(num1.toString().replace(".",""));
       r2=Number(num2.toString().replace(".",""));
       return (r1/r2)*Math.pow(10,t2-t1);
    }
    
       // 两个浮点数相乘
    function accMul(num1,num2){
       var m=0,s1=num1.toString(),s2=num2.toString(); 
    try{m+=s1.split(".")[1].length}catch(e){};
    try{m+=s2.split(".")[1].length}catch(e){};
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
    }
    
  </script>
  
  <script>
    document.write("使用js原生态方法");
    document.write("<br/> 1.01 + 1.02 ="+(1.01 + 1.02));
    document.write("<br/> 1.01 - 1.02 ="+(1.01 - 1.02));
    document.write("<br/> 0.000001 / 0.0001 ="+(0.000001 / 0.0001));
    document.write("<br/> 0.012345 * 0.000001 ="+(0.012345 * 0.000001));
    document.write("<br/><hr/>");
    document.write("<br/>使用自定义方法");
    document.write("<br/> 1.01 + 1.02 ="+accAdd(1.01,1.02));
    document.write("<br/> 1.01 - 1.02 ="+accSub(1.01,1.02));
    document.write("<br/> 0.000001 / 0.0001 ="+accDiv(0.000001,0.0001));
    document.write("<br/> 0.012345 * 0.000001 ="+accMul(0.012345,0.000001));
  </script>
 
浮点数精度陷阱:从 0.1+0.2≠0.3 解析 IEEE 754 的 2 个核心局限 本文深入解析了浮点数精度陷阱的根源,从IEEE 754标准的存储机制出发,揭示了0.1+0.2≠0.3等现象背后的二进制表示缺陷和误差累积原理。通过典型案例分析和工程实践解决方案(如误差容忍比较、定点数替代和高精度数学库),帮助开发者有效应对浮点数精度问题,提升数值计算的准确性。 阅读详情

相关推荐

JS小数加减乘除丢失精度问题的解决办法

【代码】JS小数加减乘除丢失精度问题的解决办法。

chali1314的博客 915

js中加减乘除精度丢失问题,解决方法

众所周知在前端开发中,存在精度丢失问题,既经典问题。本文就不分析为什么会造成此原因,只提供解决方法。

A good man 951

Java后端实战:钉钉互动卡片消息从配置到生产级对接

在企业级消息推送场景中,机器人通知已从简单的文本向富交互演进。其核心原理在于通过可交互的卡片模板,将传统单向通知升级为双向、有状态的微型应用界面,实现了用户无需跳转即可完成操作的技术价值。这广泛应用于审批、任务确认、数据填报等需要即时反馈的业务流程。本文聚焦于钉钉平台,深入剖析其互动卡片消息机制,并基于Java后端,系统讲解如何实现包括安全验签、异步回调与卡片动态更新在内的生产级对接方案,涵盖配置管理、服务降级等工程实践关键点,助力构建稳定高效的企业消息交互服务。

weixin_30617737的博客 439

js运算精度丢失问题

js运算精度丢失问题 正常情况下0.0023 * 100 = 0.23,但js运算会出现下面这种精度丢失问题: 0.0023 - 0.00000011 ==> 0.0022998899999999997 0.0023 + 0.00000000000001 ==> 0.0023000000000099998 0.0023 * 100 ==> 0.22999999999999998 0.0023 / 0.00001 ==> 229.99999999999997 实际打印结果:

ycclydy的博客 9462

基于NXP i.MX RT1180的无传感器FOC电机驱动实战指南

磁场定向控制(FOC)是一种先进的电机控制技术,它通过精密的数学变换,将三相交流电机的控制解耦为独立的转矩和磁场分量,从而实现高效、平稳、低噪音的驱动。其核心原理在于利用Park/Clark变换,在旋转坐标系下对电流进行线性控制。这项技术的价值在于显著提升了永磁同步电机(PMSM)的效率与动态性能,广泛应用于机器人、无人机和工业自动化等高精度场景。本文聚焦于利用NXP i.MX RT1180跨界处理器及其MCUXpresso SDK,快速实现一套完整的无传感器FOC解决方案。通过解析硬件平台选型、软件架构,

weixin_33925615的博客 311

安卓手机游戏《英雄迷宫冒险》存档修改

警告 修改前务必备份存档文件夹。该游戏有自动删除存档的功能,有问题的存档会自动删除。 修改对应的游戏版本为1.5。 存档保存位置 内部存储\Android\data\com.xmmf.yxmgmx.taptap\files 该文件夹中文件如下: data.wsf:数据文件。 wsfSave0:第一个存档。 wsfSave1:第二个存档。 修改金钱的例子 先进游戏确认当前金钱数量。当前金钱是2498,然后退出游戏。 根据金钱数量计算出存档中的内容。2498的十六进制是9C2,存档中的内容在存档中搜索该数

番茄鸡蛋的专栏 9369

js小数运算精度丢失问题

小数运算精度丢失问题 问题: 小数的加减法会出现精度丢失,乘除法也会存在精度丢失,示例如下: var a=0.1; var b=0.2; console.log(a+b) //0.30000000000000004 console.log(1.001*1000) //1000.9999999999999 不能直接使用(a*10+b*10)/10了,虽然此案例可以正确显示,但是因为乘法也会精度丢失,有时候也会错误,示例如下: var a=1.001; var b=2.002; console.log((a*

zzzz121380的博客 2482

13、基因相似性度量的相关性及特征选择研究

本文研究了基因相似性度量和特征选择在生物学中的应用,详细介绍了GO术语相似性度量的多种方法,包括语义度量和路径长度度量,并分析了不同方法在酵母和人类数据集上的表现。研究发现,Avg-sum方法和基于路径长度的度量在多数情况下效果较好。此外,通过晚期辐射毒性预测的案例研究,探讨了特征选择的重要性及可能面临的过拟合和噪声干扰问题,并提出了相应的解决策略。

js777的博客 128

前端JS代码中如何完美解决小数点位数加减丢失精度问题

在JS中,进行小数的加减乘除运算时,可能会出现精度丢失的问题。这是因为JS中的数字都是以二进制浮点数表示的,而有些小数在二进制中无法精确表示,例如0.1或0.2。这样,在进行运算时,就会产生一些误差,导致结果不准确。

weixin_45106076的博客 3342

CANoe之I/O功能采集电压

在进入ECU自动化测试中,有时会用到采集ECU电压,CANoe除了可以仿真、监听CAN、ETH、LIN等网络报文外,部分设备(如VN5650、VN1630等)上还有一个I/O口,这个I/O口就可以用来满足我们自动化测试中采集电压的需求。CANoe上的I/O功能用处还是特别大,比如网络管理测试、相关诊断都会用到。

测试领域技术分享 4834

精读204页华为的流程管理(文末附下载链接)

链接:https://pan.baidu.com/s/1eEwdBR5c0PIxkOrNhDZcGg?pwd=wha2 提取码:wha2 复制这段内容后打开百度网盘手机App,操作更方便哦。,以提升企业运营效率和竞争力,同时解决了诸多业务痛点,为华为的全球化发展提供了有力支撑。华为的流程管理对其发展起着关键作用,通过构建完善的流程体系,提升了企业运营效率与竞争力。华为的流程管理在企业发展中至关重要,其围绕。,并通过流程变革不断优化。在流程管理过程中,强调。构建了全面的流程体系。

cdfunlove的博客 284

js精度计算处理

本文为大家重新整理了一个_CalcJS高精度计算方法,

cwl_ch的博客 2823

40、基于指令的GPU编程:OpenACC与OpenMP的深入解析

本文深入解析了两种基于指令的GPU编程模型——OpenACC和OpenMP。从编程复杂度、数据处理方式和性能表现等多个方面对两者进行了对比分析,并结合实际应用场景提供了选择建议。通过详细的代码示例和性能测试结果,帮助开发者更好地理解和应用这两种编程模型,以充分发挥GPU的并行计算能力。

q5r6s7的博客 137

JavaScript 精度问题深度解析

JavaScript数字精度问题的本质是由于采用IEEE 754双精度浮点数标准,导致某些十进制小数无法精确表示。该问题在金融计算、科学运算和条件判断等场景中尤为突出。解决方案包括:整数运算、精度控制、容差比较和使用专用库(如decimal.js)。最佳实践建议金融系统采用整数运算,科学计算选用专业库,避免直接比较浮点数。该问题并非JavaScript缺陷,而是计算机在精度与效率间的必要权衡。开发中应根据业务需求选择合适方案,特别注意货币等敏感计算场景。

记录来时的路 607

【Power Compiler手册】13.UPF多电压设计实现(2)

在这个场景中,在约束传播期间,工具会比较BLOCK中的原子电源域与TOP设计中的原子电源域,并且确认所有属性都匹配。因此,域合并成功,工具会丢弃来自BLOCK的域。在这个场景中,在约束传播期间,工具会比较BLOCK中的原子电源域与TOP设计中的非原子电源域,发现电源域不匹配。在这个场景中,在约束传播期间,工具会比较BLOCK中的非原子电源域与TOP设计中的原子电源域,发现电源域不匹配。在这个场景中,在约束传播期间,工具会比较BLOCK中的原子电源域与TOP设计中的原子电源域,发现它们的一些属性不匹配。

QRBQ 751

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

JS浮点计算问题

问题 用js进行浮点数计算,结果可能会“超出预期”,大部分计算结果还是对的,但是我们可不想在计算这么严谨的事情上还有意外的惊喜。比如: 0.3 + 0.6 = 0.8999999999999999 0.3 - 0.2 = 0.09999999999999998 0.3 * 1.5 = 0.44999999999999996 0.3 / 0.1 = 2.99999999999...

addegofly20150117的博客 227

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

【JavaScript】精确计算加减乘除

有许多库可以帮助处理高精度的数学运算,例如decimal.js、bignumber.js等,它们提供了更精确的算术运算能力。对于显示结果,可以使用Math.round或toFixed方法来格式化输出,但这并不解决底层的精度问题,只是改变了显示的方式。在实际应用中,选择哪种方法取决于你的具体需求和场景。为了进行小数点后精确的加减乘除计算,我们可以采用一种常见的策略,即把小数转换成整数进行计算,然后再转换回小数。通过将数字乘以10的幂次方,使其变成整数,进行运算后再除以同样的10的幂次方,可以减少精度损失。

weixin_47351913的博客 908

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

js扩展精确的加减乘除方法

/** * 除法函数,用来得到精确的除法结果 * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 * 调用:accDiv(arg1,arg2) * 返回值:arg1除以arg2的精确结果 * @author H2014242 * @date 2018年3月26日15:49:40 */ function accDiv(...

lyz602986140的博客 344

C 语言学习笔记

B站up Micro_Frank C语言大师系列课程笔记

g_c_m_g的博客 1225

【JS】js运算过程中失去精度问题,解决方案

运算过程中失去精度,如何解决

Owen的博客 3641

解决JS浮点数(小数)计算加减乘除的BUG

问题这样的:   37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数)   我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998   怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来。   我Google了一下,发现原来这是JavaScript浮点运算的一个bug。   比如:7*0.8 JavaS...

松篁 446

浮点数计算精度问题decimal.js

js计算会转为二进制进行计算,采用IEEE 754标准双精度浮点(64),64位中1位浮点数中符号,11位存储指数,52位存储浮点数的有效数字,从53位开始会舍入(舍入规则:0舍1入)计算结果得到的是一个Decimal对象,需要转换为number(toNumber())或string(toString())x.toFixed(2,Decimal.ROUND_DOWN) //3.45(舍入模式 向上0 向下1 四舍五入)保留多少位有效位数(小数位不会补0 计算有效位数)y.sd() //3有效位数。

cecoal的博客 966
上一篇: Activiti启动自动建表Linux系统下生成小写表名设置
下一篇: mysql配置文件my.cnf配置了绑定ip报错Communications link failure解决方法
小小白兔兔
博客等级 码龄7年 46粉丝 207原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值