js中number数值计算避免误差的tricky way

最新推荐文章于 2025-01-22 17:15:19 发布
最新推荐文章于 2025-01-22 17:15:19 发布
阅读量622 收藏
点赞数
CC 4.0 BY-SA版权
文章标签： js
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/kinada2010/article/details/19541971
在JavaScript中，由于Number类型采用浮点数存储方式，在进行数学运算时可能会遇到精度问题。例如，简单的乘法操作19.90*100的结果并非预期的1990，而是19.8999999999。本文介绍了一个巧妙的解决方法：通过增加乘法步骤来规避此类问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

js中的number都储存为浮点数，计算的时候会有精度问题。

比如，19.90*100=19.8999999999， 19.90 * 100000 = 1989999.9999999998，而19.90*10， 19.90*1000等结果正确。一个很tricky的方法，是每次都让数据乘以10，比如，要乘以100的话，让19.90*10*10就可避免这个问题。

kinada2010
关注
[转]高负载并发网站架构分析
bluehire的专栏
12-23 2万+
由于自己正在做一个高性能大用户量的论坛程序，对高性能高并发服务器架构比较感兴趣，于是在网上收集了不少这方面的资料和大家分享。希望能和大家交流 msn: defender_ios@hotmail.com ——————————————————————————————————————— ? 初创网站与开源软件 6 ? 谈谈大型高负载网站服务器的优化心得! 8 ? Lighttpd+Squid+Apach
js浮点数计算精度问题（输入19.9乘100后结果1989.9999999999998）
Kino的博客
01-17 808
在项目中设置商品价格是输入19.9，因为后端存储的是分所以在接口传递参数的时候需要将输入的数乘100，在乘100后出现精度问题。由于浮点型直接计算可能会出问题，所以可以将其先转为整型计算，乘法先去掉小数点，先转为整数乘法，然后再将结果缩小n倍。此方法只解决了乘法的精度问题，因为加减乘除都会存在精度问题，所以可以在这个的基础上改动解决其他的计算精度问题。
JavaScript中Number数字数值浮点运算有误差
weixin_30722589的博客
07-31 170
JavaScript浮点运算的一个bug。　　比如：7*0.8 JavaScript算出来就是：5.6000000000000005 //调用：numberExcept(arg1,arg2) //返回值：arg1除以arg2的精确结果function numberExcept(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toS...
【JS】Number
qq_41298192的博客
07-18 2229
0o常用方法toFixed()
js学习笔记8——Number
weixin_45034895的博客
06-24 314
前端学习笔记8——NumberNumbertypeof最大值NaN最小值计算 Number 在js中，所有的数值都是Number类型，包括整数和浮点数。 看看如下代码 <script type="text/javascript"> var a=111; var b="111"; document.write(a); document.write(b); </script> 这里一个是字符串，一个是数值，
解决js计算误差，计算高精度结果
m0_63676841的博客
09-19 186
消除js计算误差
JS中number数字类型的算术运算符
Listner的博客
01-31 1438
1.算数运算符 可以操作常量，也可以操作并保存变量 基础的算术运算符包括加、减、乘、除四种，以级取余算符（取余运算符取的是被整除后的余数） 变量赋值可以修改，多次赋值会覆盖上一次的值，每个变量只存在一个，且要注意：赋值一定是声明过的变量，每个变量只能声明一次 注意：若+号两边任意一遍是字符串类型（即被双引号包裹），那么运行拼接而非运算，这种字符串拼接的情况只存在于+号，其他运算符都不会出现，即使出...
js number计算为什么会出现小数和解决方法
hello world
01-13 2534
为了解决浮点数运算不准确的问题，在运算前我们把参加运算的数先升级(10的X的次方)到整数，等运算完后再降级(0.1的X的次方)。直接抹除掉多余的位数，但是这种对精度要求不高的场景可以使用，涉及到金额计算就不能直接用了。JavaScript小数在做四则运算时，精度会丢失，这会在项目中引起诸多不便。保留完是字符串，需要转数字类型。给Number添加方法。
javascript数字类型（Number）不精确问题
椰汁菠萝
11-23 5607
JavaScript中所有的数字，无论是整数还是小数，其类型均为Number。在程序内部，Number类型的实质是一个64位的浮点数，这与Java中double类型的浮点数是一致的；因此，JavaScript中所有的数都是浮点数。遵循IEEE 754标准（浮点数算术标准），JavaScript所能表示的数值范围为正负1.7976931348623157乘以10的308次方到，其最小所能表示的小数为...
js中Number数字相乘后值不对
chensou1769的博客
12-21 820
var a =208971.68 var b =330978.64 Number(a)+Number(b) =539950.3200000001 后面莫名其他多了一个1，经查询是js一个bug number加减乘除都会 解决方法：网上找到了一些解决办法...
JavaScript精度丢失问题
petertanjinjie的博客
10-28 757
JavaScript精度丢失问题。 javaScript中臭名昭著的BUG就是0.1+0.2 !== 0.3，因为精度问题，导致所有浮点数运算都是不安全的。正如下面的计算结果，它们并不是...
JS中0.28*100, 0.29*100 和 0.28/100 得到的值精准度问题
前端一线搬运工的博客
05-09 3316
乘法: 0.28和0.29乘100都没有得到预期的值. 除法: 0.28除100没有得到预期的值, 0.29正常. 解决办法: 我这里是用parseInt()解析成整数 原因: 浮点数不能直接进行相等比较, 计算机中是采用近似值来保存浮点数的，当进行浮点数相关的计算时，需要时刻提防由于精度问题所导致的误差，并注意避免那些会影响到结果正确性的误差（所谓正确性，就是误差超出了所允许的最大范围）。 参考文章: 一个由于浮点数精度导致的错误 ...
JS计算乘上100的时候，精度会丢失的问题
m0_53164768的博客
12-01 941
即使已经加了Number强制转数字，出出现了精度丢失的问题。网上查阅资料以后使用了一下方法解决。在数据处理的时候今天碰到一个问题。会显示出很多很多的000000‘
js乘100得出奇怪结果
https://blog.youkuaiyun.com/sinat_36710456
06-15 659
... parseFloat( (16.9*100).toFixed(2) ) ... 可以利用toFixed() 方法，该方法可把 Number 四舍五入为指定小数位数的数字
js Number类型常用数据操作方法汇总
GongWei_的博客
01-12 1583
常用一些数字类型操作方法
#2 js中number类型计算精度问题解决
最新发布
weixin_50477991的博客
01-22 358
js中number类型计算进度问题解决
JS 小数乘以100产生精度丢失
tututu819的博客
08-09 6293
在JS中一些小数乘以100得到的结果会产生偏差如33.8*100得到的是3379.9999999999995。，类似的数还有32.8,4.9，4.1等。为了避免此类现象可以采用。
前端系统化学习【JS篇】:（二）Javascript、变量和值的简述
BOM485480的博客
10-06 279
前言 细阅此文章大概需要 10分钟\color{red}{10分钟}10分钟左右 本篇中简要概述\color{red}{简要概述}简要概述了： JavaScript语言的三部分构成 JavaScript中的变量 变量的多种定义方式以及他们的区别 值的多重定义方式 如果有任何问题都可以留言给我，我看到了就会回复，如果我解决不了也可以一起探讨、学习。如果认为有任何错误都还请您不吝赐教，帮我指正，在下万分感谢。希望今后能和大家共同学习、进步。 下一篇会尽快更新，已经写好的文章也会在今后随着理解加深或者加入一些图解
JavaScript --数字Number的常用方法
weixin_58694594的博客
09-25 685
【代码】JavaScript --数字Number的常用方法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值