教你一文解决 js 数字精度丢失问题

js中数字计算时丢失精度问题解决 在 JavaScript 中,浮点数运算时常会出现精度丢失问题,因为 JavaScript 使用 IEEE 754 双精度浮点数标准表示数字,这可能导致在进行数学运算时精度丢失。选择适合你需求的方法进行处理,可以帮助你避免在计算过程中出现的精度问题。方法可以将数字格式化为固定的小数位数,从而避免精度丢失。有时可以通过数学技巧来减少浮点数运算的误差,例如通过乘法和除法将所有运算转换为整数运算,最终再转换回浮点数。方法可以将浮点数转换为指定小数位数的字符串,避免了显示时的精度问题。 阅读详情

一、关于为什么要解决精度丢失

可以看下例子,因为js失去精度问题也是常见的问题,正常我们可以四舍五入或者 toFixed保留小数这种去解决
在这里插入图片描述
现在遇到问题是我们明知道计算结果是等于0.01的但是最后的结果确实true,如果我们遇到运算问题,小数数值比对问题,那么我们就必须要去解决他,否则也就会出现上者情况,出现逻辑判断出错问题

二、怎么解决js的计算精度丢失问题?

正常来说如果是 小数点保留后2位、3位等等,我们可以使用常见的 * 百位数、千位数 实现整位结果后 将结果在除以对应的数位实现结果,如下

console.log(5.22 - 5.21);

在这里插入图片描述

 console.log((5.22 * 100 - 5.21 * 100) / 100);

在这里插入图片描述

根据上方的描述我们再去着眼看我们最开始的例子
在这里插入图片描述
结果也就成了我们想要的结果

三、toPrecision 特定方法返回四舍五入长度字符串

当然toFixed也是可以实现对应的长度取舍效果的,因为各大浏览器针对toFixed的各类结果都是不同的有兴趣的同学可以参考下下面这篇文章
toFixed详解

在这里我们只介绍 toPrecision 参照方法详解
在这里插入图片描述

那么我们也就知道了此方法是用来干什么的
当然再有一点也就是从左到右 不为0的位置开始计算

上方举例 我们的结果是0.01

如果我们去使用toPrecision的话,那么要填写的参数则为1

在这里插入图片描述
返还的结果也就是我们想要的 0.01

然后我们搭配 parseFloat 对字符串进行一个浮点数值转换后,然后对比得出最后结果

console.log(5.22 - 5.21 < 0.01);
console.log((5.22 * 100 - 5.21 * 100) / 100 < 0.01);
var num = 5.22 - 5.21;
console.log(parseFloat(num.toPrecision(1)) < 0.01);

在这里插入图片描述

结语

✨ 每天创作一点点
✨ 开心快乐一整天
✨ 点赞关注加收藏
✨ 美好一天又一天

铁铁们 感谢支持 我需要你们的三连 👍👍👍
请添加图片描述

JS的浮点数计算精度丢失问题解决方案 近期在做项目的时候,遇到了一些JS浮点数精度的问题。这个问题,其实说大不大,说小不小。但是这次因为涉及到一些财务和结算的问题,然后突然发现这个小问题处理起来还是挺麻烦的。这里把相关的原因的问题的解决方案整理一下,也希望给各位提供一些参考。 阅读详情

相关推荐

解决JavaScript大数ID精度丢失问题

摘要:文章分析了JavaScript处理大数ID时的精度丢失问题,特别是在前后端分离系统中,雪花算法生成的19位Long类型ID超过JavaScript安全整数范围导致数据不一致。提出了使用Jackson的ToStringSerializer将Long类型ID序列化为字符串的解决方案,通过添加@JsonSerialize(using = ToStringSerializer.class)注解实现精确传输,避免前端精度丢失。该方案简单高效,无需修改前端代码,适用于各种分布式ID生成场景,有效解决了常见的大数I

qq_40603125的博客 1006

js运算精度丢失

js运算精度丢失问题(最终运算结果多了很多小数位)

ZWP_990527的博客 1万+

解决JavaScript数字精度丢失问题的方法

本文分为三个部分 JS 数字精度丢失的一些典型问题 JS 数字精度丢失的原因 解决方案(一个对象+一个函数) 一、JS数字精度丢失的一些典型问题 1. 两个简单的浮点数相加 0.1 + 0.2 != 0.3 // true 这真不是 Firebug 的问题,可以用alert试试 (哈哈开玩笑)。 看看Java的运算结果 再看看Python 2. 大整数运算 16位和17位数竟然相等,没天理啊。 又如 var x = 9007199254740992 x + 1 == x // ? 看结果 三观又被颠覆了。 3. toFixed 不会四舍五入(Chrome) 线上曾经

【JS】js运算过程中失去精度问题,解决方案

运算过程中失去精度,如何解决

Owen的博客 3641

基于分数阶傅里叶变换的chirp信号检测与参数估计(原理附代码)

线性调频信号(chirp信号) 顾名思义,该信号的频率随着时间线性变换,其复数表达形式如下: s(t)=e2jπ(f0t+0.5μt2)s(t)=e^{2j\pi(f_0 t+ 0.5\mu t^2)}s(t)=e2jπ(f0​t+0.5μt2) 根据欧拉公式,其相位项为2π(f0t+0.5μt2))2\pi(f_0 t+ 0.5\mu t^2))2π(f0​t+0.5μt2))。信号的角频率是相位对时间的导数。对相位求导后有2π(f0+μt)2\pi(f_0+\mu t)2π(f0​+μt),显然,f0f

weixin_42845306的博客 1万+

基于STM32与MPU6050的实时姿态检测系统设计与实现(源码+硬件解析)

本文详细介绍了基于STM32单片机与MPU6050传感器的实时姿态检测系统设计与实现。通过硬件解析、传感器校准、卡尔曼滤波算法和欧拉角计算,实现高精度姿态检测。提供完整源码和调试技巧,适用于无人机、平衡车等嵌入式开发项目,解决噪声干扰和数据漂移等常见问题。

jupi8的博客 495

js小数运算出现的问题(精度丢失)及解决办法

以下是在项目中遇到的问题 购物车结算时,商品价格(33.01)-优惠券价格(5),本应该是28.01,但是实际的结果是28.009999999999998 之前真没遇到过这种问题,查了很多资料才了解到js 小数相加减是会出现精度丢失的问题 案例 本案例是在浏览器控制台里打印 出现这种问题的原因,查看详细原因(链接) 原因其实就是js number类型运算都需要先将十进制转二进制 但小数点后的位数转二进制会出现无限循环的问题,只能舍0入1,所以会出现小数点丢失问题,感兴趣的可以自己研究,链接在上面。 解决

kukulei2211的博客 3万+

innovus实战攻略 | 用setUsefulSkewMode解锁时序优化的“隐藏技能”!

就像时序优化的“瑞士军刀”,参数虽多,但掌握了分类逻辑后,用起来其实很简单!如果你有更绝的用法,欢迎在评论区分享,大家一起卷起来!简单来说,它就是时序优化的“乾坤大挪移”。通过调整触发器的时钟到达时间,把关键路径的建立时间“借”给非关键路径,从而实现全局时序收敛。别急,这个命令就是你的“时序救星”!(工具最多只能借1.2ns的裕量,防止“借过头”导致新问题!这个参数能帮你兜底!(对关键路径“下死手”,确保优化到位!(设置上限,给工具套上“紧箍咒”!(直接跳过边界,避免优化反噬!(全局管理,防止“借过头”!

weixin_50820814的博客 1355

说说 Javascript 数字精度丢失的问题,如何解决?

这个数无限循环,再大的内存它也存不下,所以不能存储一个相对于数学来说的值,只能存储一个近似值,当计算机存储后再取出时就会出现精度丢失问题。主要是存储二进制时小数点的偏移量最大为52位,最多可以表达的位数是2^53=9007199254740992,对应科学计数尾数是 9.007199254740992,这也是 JS 最多能表示的精度。计算机存储双精度浮点数需要先把十进制数转换为二进制的科学记数法的形式,然后计算机以自己的规则{符号位+(指数位+指数偏移量的二进制)+小数部分}存储二进制的科学记数法。

林恒的博客 1425

Boost变换电路在新能源车充电系统中的创新应用与挑战

本文探讨了Boost变换电路在新能源车充电系统中的创新应用与挑战,重点分析了其在高压快充、能量回收等场景中的技术突破。通过电力电子仿真和新型器件应用,如SiC MOSFET,显著提升了功率密度和转换效率。同时,文章还深入讨论了电磁兼容性(EMC)挑战及智能控制算法的实际应用,为新能源车充电系统的优化提供了实用解决方案。

7z8x2c4v6b9的博客 217

外部PLC触发VisionMaster多流程运行

上一讲,介绍了海康VisionMaster与西门子PLC1200进行S7通信。在前一讲的基础上,讲解如何通过PLC触发,实现VisionMaster的多流程运行。

haier123888的博客 4654

【温故而知新】JavaScript数字精度丢失问题

在JavaScript中,由于基于IEEE 754标准的浮点数表示方法,导致在进行数字运算时可能会发生精度丢失的情况。由于计算机内部使用二进制来表示浮点数,而无法准确地用有限的二进制位数表示所有的实数。因此,浮点数在存储和计算时会存在舍入误差。比如,当进行小数运算时可能会出现精度丢失的情况。例如,0.1 + 0.2 的结果在JavaScript中不是期望的0.3,而是一个近似值0.30000000000000004。这是因为0.1和0.2在二进制表示中无法被精确表示,导致在计算时发生了舍入误差。

日常笔记/总结/系列知识梳理 1668

地图之家总目录

地图之家总目录 cesium示例 leaflet示例

GIS之家家长 1万+

几种解决JS数字精度丢失的方法

在JavaScript中计算两个十进制数的和,有时候会出现令人惊讶的结果,相信这个大家也都知道了! 精度丢失 例如,我们在计算0.1 + 0.1得到的结果是0.2,但是计算0.1 + 0.2的结果并不是0.3,而是0.30000000000000004 这种现象不仅出现在加法,在减法中也会出现类似的结果。 例如1.2 - 1的结果是0.19999999999999996 不过这并不是JavaScript独有的,其他编程语言也会存在同样的问题。 例如在Python环境下输出。 print(.1 + .2)

专注于图像领域,主要研究内容包括计算机视觉和深度学习,特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。 6769

Azure AI-102 认证全攻略: (二十八) 设置 Azure AI 服务 API

在本文中,您学习了如何通过 Azure 门户设置和管理 Azure AI 服务,以及如何通过编程方式访问这些服务。在这篇文章中,我们将深入探讨如何设置 Azure AI 服务,特别是如何通过 Azure API 来进行编程访问,以实现自动化和集成。通过本篇文章的学习,您不仅能够顺利完成 Azure AI-102 认证中的 API 配置和集成内容,还能高效地管理和优化 Azure AI 服务,构建稳定、可靠的 AI 应用。在成功设置并测试了 API 后,接下来要管理和维护您的 Azure AI 服务。

高校图书馆高级系统架构师/研究馆员,推动高校AI从概念演示到可评审、可交付、可运维:路线图与立项评审、PoC交付、评测回归与上线运维(Baseline/Eval/Ops)。 1447

X-AnyLabeling-main标注YOLO关键点POSE

同一物体的框和点的 群组编号 要相同。代表这些点和方框是同一物体上的。标注方框之后记得把后面的。顺序要和你标注的顺序一致。写入1,而且之后的点的。配置导出文件.yaml。

qq_53545309的博客 2109

【javascript】数据精度丢失问题

JavaScript中存在小数点精度丢失的问题是由于其使用的浮点数表示方式。JavaScript采用的是双精度浮点数表示法,也称为IEEE 754标准,它使用64位来表示一个数字,其中52位用于表示有效数字,而其他位用于表示符号、指数和特殊情况。由于使用有限的位数来表示无限的小数,JavaScript无法准确地表示某些小数。其中一个典型的示例是0.1,它在二进制中是一个无限循环的小数。当我们将0.1这样的小数转换为二进制进行存储时,存在近似表示的误差,因此在进行计算时会出现精度丢失的问题。

weixin_45274678的博客 1636

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

JavaScript数字精度丢失问题总结

本文分为三个部分: 1、JS 数字精度丢失的一些典型问题(前端遇小数计算概率大,要有这个精度丢失的意识) 2、JS 数字精度丢失的原因(计算机用二进制存储数据,由于存储位置的限制有时会存在“舍去”。当模仿十进制进行四舍五入时,0舍1入,造成误差) 3、解决方案(一个对象+一个函数)(解决...

chenkan0603802的博客 1141

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

js number 丢失精度_JavaScript精度丢失问题

JavaScript精度丢失问题。 javaScript中臭名昭著的BUG就是0.1+0.2 !== 0.3,因为精度问题,导致所有浮点数运算都是不安全的。正如下面的计算结果,它们并不是我们所预想的:0.1 + 0.2 = 0.300000000000000041 - 0.9 = 0.09999999999999998虽然很多人知道这个浮点数误差这个问题的,可是却不知道背后的原理以及解决...

weixin_42545636的博客 7027

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

JavaScript 数字精度丢失的问题及解决方案

JavaScript 数字精度丢失的问题及解决方案

huihui_999的博客 3738

JavaScript数据精度丢失的底层原理及解决方案

IEEE 754标准是20世纪80年代以来最广泛使用的浮点数运算标准,为许多CPU与浮点运算器所采用。它定义了表示浮点数的格式(包括负零、-0、无穷大(Inf)和非数值(NaN))、特殊数值,以及这些数值的运算规则。IEEE 754规定了四种表示浮点数值的方式:单精确度(32位)、双精确度(64位)、延伸单精确度(43比特以上,较少使用)和延伸双精确度(79比特以上,通常以80位实现)。其中,双精确度是JavaScript中数字的主要表示方式。

u014676858的博客 1301

JavaScript数字精度丢失问题解决方案

在使用javascript进行运算时经常会遇到计算结果不准确问题,该如何处理呢,本篇就来说说当javascript数字精度丢失时我们该怎么办

Sherry Tian的博客 810

JavaScript 金额运算精度丢失问题及解决方案

在 JavaScript 中,浮点数运算可能会产生精度丢失的问题,尤其在处理金额计算时,这可能会导致严重的业务逻辑错误。// false这些问题主要是由于JavaScript 使用 IEEE 754 双精度浮点数(64 位)来表示数字,某些小数无法用二进制精确表示,从而导致精度丢失。本篇文章将深入剖析 JavaScript金额计算精度丢失的原因,并提供多种解决方案来避免这些问题。JavaScript 的浮点运算容易导致金额计算误差,我们可以通过整数运算、、BigDecimal 库等方式来解决。

学习编程的小羊的博客 912
上一篇: React造轮子(reacthook实现一套自己的组件库)轮子公开课——第六课【Checkbox、CheckboxGroup】组件
下一篇: vue Template模板中针对属性如何写空白字符串占位符?(\u00a0)会是一个好的空格占位解决方案
归来巨星
归来巨星 新星创作者: 前端开发技术领域 新星创作者: 前端开发技术领域
博客等级 码龄7年 5391粉丝 95原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

归来巨星

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值