js中number数值计算避免误差的tricky way

最新推荐文章于 2023-12-01 15:24:55 发布
原创 最新推荐文章于 2023-12-01 15:24:55 发布 · 622 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#js

在JavaScript中，由于Number类型采用浮点数存储方式，在进行数学运算时可能会遇到精度问题。例如，简单的乘法操作19.90*100的结果并非预期的1990，而是19.8999999999。本文介绍了一个巧妙的解决方法：通过增加乘法步骤来规避此类问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

js中的number都储存为浮点数，计算的时候会有精度问题。

比如，19.90*100=19.8999999999， 19.90 * 100000 = 1989999.9999999998，而19.90*10， 19.90*1000等结果正确。一个很tricky的方法，是每次都让数据乘以10，比如，要乘以100的话，让19.90*10*10就可避免这个问题。

kinada2010
关注
js浮点数计算精度问题（输入19.9乘100后结果1989.9999999999998）
Kino的博客
01-17 808
在项目中设置商品价格是输入19.9，因为后端存储的是分所以在接口传递参数的时候需要将输入的数乘100，在乘100后出现精度问题。由于浮点型直接计算可能会出问题，所以可以将其先转为整型计算，乘法先去掉小数点，先转为整数乘法，然后再将结果缩小n倍。此方法只解决了乘法的精度问题，因为加减乘除都会存在精度问题，所以可以在这个的基础上改动解决其他的计算精度问题。
JavaScript中Number数字数值浮点运算有误差
weixin_30722589的博客
07-31 170
JavaScript浮点运算的一个bug。　　比如：7*0.8 JavaScript算出来就是：5.6000000000000005 //调用：numberExcept(arg1,arg2) //返回值：arg1除以arg2的精确结果function numberExcept(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toS...
【JS】Number
qq_41298192的博客
07-18 2229
0o常用方法toFixed()
js学习笔记8——Number
weixin_45034895的博客
06-24 314
前端学习笔记8——NumberNumbertypeof最大值NaN最小值计算 Number 在js中，所有的数值都是Number类型，包括整数和浮点数。 看看如下代码 <script type="text/javascript"> var a=111; var b="111"; document.write(a); document.write(b); </script> 这里一个是字符串，一个是数值，
解决js计算误差，计算高精度结果
m0_63676841的博客
09-19 186
消除js计算误差
JS中number数字类型的算术运算符
Listner的博客
01-31 1438
1.算数运算符 可以操作常量，也可以操作并保存变量 基础的算术运算符包括加、减、乘、除四种，以级取余算符（取余运算符取的是被整除后的余数） 变量赋值可以修改，多次赋值会覆盖上一次的值，每个变量只存在一个，且要注意：赋值一定是声明过的变量，每个变量只能声明一次 注意：若+号两边任意一遍是字符串类型（即被双引号包裹），那么运行拼接而非运算，这种字符串拼接的情况只存在于+号，其他运算符都不会出现，即使出...
Tricky-开源
05-01
"Tricky-开源"是一个专为Microsoft Windows操作系统设计的小型实用程序集合，它提供了一种无需安装即可便捷使用的方案。这个工具包包含了多种功能，旨在提高用户在日常操作中的效率和便利性。以下是对其中各个组件的...
Tricky-Track-3D
04-22
《Tricky-Track-3D：C#编程在3D游戏开发中的应用探索》 "Tricky-Track-3D"这个项目显然是一款3D游戏，它的开发主要使用了C#编程语言。C#，全称C Sharp，是微软公司推出的一种面向对象的、运行于.NET Framework之上...
futex are tricky
10-10
Linux内核中的futex机制是一种轻量级的进程同步方法，它在现代线程库的实现中得到了应用，也可以直接用于其他场景。futex（Fast Userspace muTexes的简称）是实现Linux底层锁机制的重要组成部分，尤其是在多线程编程...
c_tricky_questions:c预测输出程序
03-28
标题 "c_tricky_questions:c预测输出程序" 暗示我们正在探讨的是关于C语言编程中的一些棘手问题，特别是那些涉及输出预测的题目。在C语言编程中，这类问题通常涉及逻辑运算、条件判断、循环结构、字符处理、字符串...
js number计算为什么会出现小数和解决方法
hello world
01-13 2533
为了解决浮点数运算不准确的问题，在运算前我们把参加运算的数先升级(10的X的次方)到整数，等运算完后再降级(0.1的X的次方)。直接抹除掉多余的位数，但是这种对精度要求不高的场景可以使用，涉及到金额计算就不能直接用了。JavaScript小数在做四则运算时，精度会丢失，这会在项目中引起诸多不便。保留完是字符串，需要转数字类型。给Number添加方法。
javascript数字类型（Number）不精确问题
椰汁菠萝
11-23 5607
JavaScript中所有的数字，无论是整数还是小数，其类型均为Number。在程序内部，Number类型的实质是一个64位的浮点数，这与Java中double类型的浮点数是一致的；因此，JavaScript中所有的数都是浮点数。遵循IEEE 754标准（浮点数算术标准），JavaScript所能表示的数值范围为正负1.7976931348623157乘以10的308次方到，其最小所能表示的小数为...
js中Number数字相乘后值不对
chensou1769的博客
12-21 820
var a =208971.68 var b =330978.64 Number(a)+Number(b) =539950.3200000001 后面莫名其他多了一个1，经查询是js一个bug number加减乘除都会 解决方法：网上找到了一些解决办法...
JavaScript精度丢失问题
petertanjinjie的博客
10-28 757
JavaScript精度丢失问题。 javaScript中臭名昭著的BUG就是0.1+0.2 !== 0.3，因为精度问题，导致所有浮点数运算都是不安全的。正如下面的计算结果，它们并不是...
JS中0.28*100, 0.29*100 和 0.28/100 得到的值精准度问题
前端一线搬运工的博客
05-09 3316
乘法: 0.28和0.29乘100都没有得到预期的值. 除法: 0.28除100没有得到预期的值, 0.29正常. 解决办法: 我这里是用parseInt()解析成整数 原因: 浮点数不能直接进行相等比较, 计算机中是采用近似值来保存浮点数的，当进行浮点数相关的计算时，需要时刻提防由于精度问题所导致的误差，并注意避免那些会影响到结果正确性的误差（所谓正确性，就是误差超出了所允许的最大范围）。 参考文章: 一个由于浮点数精度导致的错误 ...
JS计算乘上100的时候，精度会丢失的问题
最新发布
m0_53164768的博客
12-01 941
即使已经加了Number强制转数字，出出现了精度丢失的问题。网上查阅资料以后使用了一下方法解决。在数据处理的时候今天碰到一个问题。会显示出很多很多的000000‘
js乘100得出奇怪结果
https://blog.youkuaiyun.com/sinat_36710456
06-15 659
... parseFloat( (16.9*100).toFixed(2) ) ... 可以利用toFixed() 方法，该方法可把 Number 四舍五入为指定小数位数的数字
【JavaScript】 数值 Number
小数点儿_
11-22 2134
与其他对象一样，对象上面可以自定义方法，被Number的实例继承。 - `Number()` 将任意值转为数值: `Number`本身是一个函数，可以当作工具方法使用，将任何类型的值转为数值。 - `Number()` 构造函数: `Number`不仅可以当作工具函数使用，还可以当作构造函数使用，即前面可以使用`new`命令。构造**数值对象**，用于生成值为数值的对象 `Math`是 JavaScript 的原生对象，提供各种数学功能。该对象不是构造函数，不能生成实例，所有的属性和方法都必须在`Math`
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值