JS乘法误差

最新推荐文章于 2023-03-30 18:08:36 发布
最新推荐文章于 2023-03-30 18:08:36 发布 · 447 阅读 · 0

本文探讨了JavaScript中处理货币单位时出现的浮点数运算异常现象。具体表现为当特定数值乘以100后传递给后端int类型变量时发生的错误。文中提供了一个修正方法：先将数值乘以10000再除以100并取整。
偶然一个测试发现js运算有点怪,导致异常,如下:

页面有个input输入价格,单位是元,可输入2位小数.该数字用JS乘以100后传给Action的一个int变量接收,却发现在某些值下,报异常.

问题所在:
function test(){
	alert("19.9*100="+(19.9*100));
}


输出:
[img]http://dl.iteye.com/upload/attachment/546930/1df34277-385c-37ad-8de8-7a14b0931742.jpg[/img]

解决办法:
将数字乘以10000后,再除以100,再取整

[img]http://dl.iteye.com/upload/attachment/546932/86cc36f9-c7cd-3328-b7e9-91aa98ce0854.jpg[/img]
javascript 小数乘法结果错误的处理方法
12-12
一、用js计算 12.32 * 7  结果是多少？ 答案：86.24000000000001   为什么会出现这种问题？怎么解决？ js在处理小数的乘除法的时候有一个bug，解决的方法可以是：将小数变为整数来处理。 以上的计算可以改为： 12.32 * 100 * 7 /100 得出的结果是：86.24，正确。   另外再计算一下： 8.80 * 100 * 12 / 100 结果：105.60000000000002 38.80也会出现类似的问题。   精确度增加10倍： 8.80 * 1000 * 12 / 1000 结果：105.6 正常了。   16.40 * 1000000 * 6
自定义JS乘法运算误差解决！
weixin_34099526的博客
02-07 957
在实际开发中遇到这样一个乘法公式：数量*单价=总价 像这样的浮点数列子：200*8.2，JS算出的结果是： 像这种浮点数的乘法计算就会有误差，我们需要得到准确的值应该是：1640，与我们后台C#计算结果要一致。 这里我们采用两种方式来解决。 1：乘数和被乘数同时扩大10000倍。因为金额的最小单位也就是厘。然后结果在除以100000000，公式是：（2000000*82000）/100...
JS中计算不准确
a15875146214的博客
11-22 1416
解决JS中计算不准确的问题
js计算误差
_JS的博客
03-30 435
【代码】js计算误差。
js浮点乘除法运算误差解决！(转)
weixin_30416497的博客
04-10 360
//除法函数，用来得到精确的除法结果 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为 精确的除法结果。 //调用：accDiv(arg1,arg2) //返回值：arg1除以arg2的精确结果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString...
javascript(js)的小数点乘法除法问题详解
10-26
在编程语言JavaScript（通常简称为js）中，处理小数时经常会遇到一个困扰开发者的问题，那就是小数点乘法和除法可能出现的精度误差。通常，这种现象发生在使用浮点数进行乘法或除法运算后得到的结果并不精确，导致...
解决JS中乘法的浮点错误的方法
10-26
然而，由于JavaScript在处理浮点数时的内部表示和精度问题，经常会发生乘法运算导致的浮点数误差。在本篇文章中，将详细解析产生该问题的原因，并提供几种解决方案。 首先，我们需要了解为什么会出现乘法的浮点错误...
js乘法
最新发布
08-21
### 3.1 JavaScript中乘法运算的使用方法 JavaScript使用星号 `*` 作为乘法运算符，用于对两个或多个数字进行乘法操作。其基本语法如下： ```javascript let result = operand1 * operand2; ``` 其中，`operand1`...
[数值计算-3]：误差的种类、误差传播、误差分析
热门推荐
文火冰糖（王文兵）的博客
08-19 3万+
第1章误差与有效数值 1.1 什么是误差 实际值与理论值的差，称为误差。 1.2 什么是有效数值 第2章 误差的分类 2.1 模型误差 2.2 测量误差 备注：几乎所有的测量数据都是不准确的，与真值之间都有存在偏差。 2.3 截断误差 2.4 四舍五入误差 2.5 计算机浮点数长度限制引入的误差 这种误差，本质上也是一种四舍五入误差。 2.6 人为过失误差 是计算过程中，人为错误造成的误差，这种误差是可以避免的，也必须避免。 ...
javascript小数相减会出现一长串的小数位数的原因
weixin_30652897的博客
05-08 700
javascript小数相减会出现一长串的小数位数的原因 <script> var a='38.8'; var b='6.8'; alert(parseFloat(a)-parseFloat(b)); var a=134.22; var b=6; alert(a*b); </script> 以上代码为什么产生一长串小数位出来，虽然比较精确，可没...
js 精确的乘法结果
sixteen_cicle的博客
04-24 5065
//乘法函数，用来得到精确的乘法结果 //说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 //调用：accMul(arg1,arg2) //返回值：arg1乘以arg2的精确结果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2
SEPL 乘法计算误差
utopia的专栏
06-29 599
public static void main(String[] args) { ExpressionParser parser = new SpelExpressionParser(); Expression exp0 = parser.parseExpression("152431 * 0.0045"); Expression exp1 = parser.parseExpression("152431 * 0.045"); Expres...
JS浮点数精度之0.0003*10000不等于3
有理想的咸鱼焦
06-20 954
JS浮点数精度之0.0003*10000不等于3 最近做了个控制DSP的上位机软件，采用electron+vue框架 上位机发送前会把数据*10000，DSP收到后会除10000。某天师兄反馈了一个Bug，软件中输入0.0003，按理说下位机应该收到3，结果老是收到2。 经过测试，发现这是javascript浮点数精度问题。在js中，小数的存储并不是精准的。输入如下代码 a=0.0003; console.log(a*10000); //会显示2.9999999999999996 而我在处理时直接使用pa
两个数相乘（包括整数和小数），精度问题
Maizi93的博客
03-23 3313
假设a和b相乘，a、b都有可能是小数，返回相乘的结果（注意精度问题） 举个栗子：a=4, b=0.0002——结果：0.0008 var a = 4; var b = 0.0002; //首先把两个数转换成字符串（十进制） var str1 = a.toString(); var str2 = b.toString(); //分别取得两个数的小数位数（确定精度） var l
javascript(js)的小数点乘法除法问题
深度Java
07-24 1万+
一、用js计算12.32 * 7  结果是多少？答案：86.24000000000001为什么会出现这种问题？怎么解决？js在处理小数的乘除法的时候有一个bug，解决的方法可以是：将小数变为整数来处理。以上的计算可以改为：12.32 * 100 * 7 /100得出的结果是：86.24，正确。另外再计算一下：8.80 * 100 * 12 / 100结果：105.6000000000000238
JS浮点数加减乘除出现误差问题
翱翔于知识的天空
08-03 1233
/****************************************解决JS浮点数(小数)计算加减乘除的BUG Start****************************************/ /** ** 加法函数，用来得到精确的加法结果 ** 说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用：accAdd(arg1,arg2) ** 返回值：arg1加上arg2的精确结果 **/ functi.
js 计算误差的原因 及 加减乘除计算方法
qq_38909255的博客
11-29 1904
先附上代码,后面有原因分析及解决方案，感兴趣可以自行查看： //加法 function Add(arg1, arg2) { var r1, r2, m; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; }
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值