js中float型相乘出现问题

最新推荐文章于 2024-05-30 11:17:01 发布

转载最新推荐文章于 2024-05-30 11:17:01 发布 · 290 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/gshufan/p/6244304.html

文章标签：

#java #javascript #ViewUI

本文探讨了在JavaScript及Java中使用浮点数进行乘法运算时出现的精度问题，并提供了一种改进的乘法函数实现方法，该方法能够确保结果的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

不管是前台页面的js还是后台的java只要是有2个float相乘，结果总是那么不尽人意，因为对于float型或者double型的值，

相乘的时候都可能出现像0.08000000000000002这种数字，比如：0.2 * 0.4 应该是 0.08，但是相乘的时候就已经是0.08000000000000002了，因此拿这个值来运算

肯定会出错的，现在把js代码写在下面()：

//JS乘法函数，用来得到精确的乘法结果

var a=0.2;
var b=0.4;

console.log(a*b);
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
console.log(accMul(a,b))

转载于:https://www.cnblogs.com/gshufan/p/6244304.html