保留小数位数的时候出现0000000001

最新推荐文章于 2023-03-06 19:25:39 发布
原创 最新推荐文章于 2023-03-06 19:25:39 发布 · 1.7k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#toPrecision #保留小数

本文探讨了JavaScript中常见的浮点数运算误差问题，通过实例展示了0.1+0.2不等于0.3的原因，并提供了几种解决方案，包括使用Math.round()和parseFloat()结合toPrecision()来精确控制数值精度。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 

  1. // 关于js失精算法你都遇到哪些，让我们一起来细数一下吧  
  2. console.log(0.07*100); // 7.000000000000001  
  3.  
  4.   
  5. console.log(0.1+0.2); // 0.30000000000000004  
  6.   
  7.   
  8. // ........  

 

事实上，0.1 + 0.2 这这样的 0.1000000000000000055511151231257827021181583404541015625 + 0.200000000000000011102230246251565404236316680908203125 = 0.3000000000000000444089209850062616169452667236328125

这也是造成计算失精的主要原因。

 

wiki:https://en.wikipedia.org/wiki/IEEE_floating_point#Basic_formats

 

oracle失精算法专栏：http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

 

解决方案：

如果是取整数，我们可以这样：

 

 

  1. Math.round((0.07*100))  

 

需要保留小数的，我们可以这样：

 

 

  1. parseFloat((0.07*100).toPrecision(12)) // = 7  
  2.   
  3.   
  4. parseFloat((0.01+0.02).toPrecision(12)) // = 0.03  
JavaScript四舍五入保留两位小数问题记录
lizhencsdn的博客
07-13 702
JavaScript保留两位小数问题记录 拿来即用 (Math.round((num + Number.EPSILON) * 100) / 100).toFixed(2) // num 为需要保留的初始小数 范围测试 经测试适用于但不限于0.0001 到 500.9999 测试验证代码如下 main(); function main() { // 测试0.0001 ~ 500.9999 上限可自行变更 for (let i = 0; i < 500; i++) {
JS加减乘除 计算精度问题（处理小数点后面莫名其妙多出来0.0000001的问题）
qq_35461048的博客
07-30 4848
~(function(root, factory) { if (typeof define === "function" && define.amd) { define([], factory); } else if (typeof module === "object" && module.exports) { module.exports = factory(); } else { root.NP = factory(); } }(this, function() { '
解决金额小数点后显示0000000000...1
weixin_34185512的博客
07-13 530
为什么80%的码农都做不了架构师？>>> ...
EXCEL里的各种奇怪计算问题：数字后面自动多了 0.0001, 数字后面位数变成000，以及一些取整，数学函数
奔跑的犀牛先生
03-06 7191
EXCEL里的各种奇怪计算问题：，EXCEL相关数学函数
javascript 计算小数错误
frankzcy的专栏
01-15 1163
javascript在计算浮点数的时候是不可靠的，这一点在实际开发中常常遇到，但是也常常忽略。 比如你在js中直接使用两个浮点数进行加减乘除，得到结果如下： 1.01 + 1.02 =2.0300000000000002 1.01 – 1.02 =-0.010000000000000009 0.000001 / 0.0001 =0.009999999999999998 0.012
js关于小数点失精算法修正0.07*100竟然=7.000000000000001
weixin_42246997的博客
12-26 3316
今天在做js测试的时候发现一个问题：0.07*100得出的结果不是7，而是7.000......1。如下： // 关于js失精算法你都遇到哪些，让我们一起来细数一下吧 console.log(0.07*100); // 7.000000000000001 console.log(0.1+0.2); // 0.30000000000000004 // ........ 结果为什么是7.00...
vue项目中遇到需要输入两位小数时校验通过，并且后面多余的0是可以输入的情况如何处理？
weixin_46356574的博客
09-15 1241
vue项目中遇到需要输入两位小数时校验通过，并且后面多余的0是可以输入的情况如何处理？ 一、需求分析 1.首先要知道需求具体是什么，简单讲就是我们在一个输入框中输入数字，但是这个数字有可能是6位、7位等；输入后需要对数字进行校验并且在输入错误时输入框要有对应的提示。 2.既然要有提示，那么就成了一个表单校验。校验不通过就要callback对应的错误提示； 3.处理方式可以有正则、JS逻辑，本文介绍JS逻辑； 二、相关代码讲解 html <template> <el-form :model
js两个数字类型的数据相加出现过多小数位
leehuat的专栏
11-15 603
今天在做表格数据统计时，发现两个js数字类型的数据，相加后结果集会莫名其妙的多出 很多小数位，如：3.1 + 2 = 5.100000000001 [code="java"] //直接转化 var val = Number(value) + Number(item); if(!isNaN(parseFloat(val))) { val = val.toFixed(2); } ...
MySQL SUM函数进行计算会出现0000000001或9999999999未知小数
卟在徊头的博客
04-21 4111
MySQL中当使用sum函数来计算 varchar、float类型的字段有可能会出现0000000001或9999999999未知小数。 咱们可以把对应数据结果转换类型为Decimal类型，进行精度保留。具体使用方法如下： SELECT count(id) AS total, cast( sum(commission) AS DECIMAL (19, 5) ) AS sumComm ...
vue金额计算精准度问题
weixin_44021910的博客
08-27 6086
今天用vue做小数点转换百分比的时候遇到：36*19.2 = 691.1999999999999 ，起初以为是vue计算方式有问题，后来想到js有小数点失精的问题，结果测试了一下果然是这个问题： js失精算法 console.log(0.1+0.2); // 0.30000000000000004 console.log(0.07*100); // 7.000000000000001 console.log(0.119*100); // 11.899999999999999 … 结果为什么会这样？
数据库中数据长度到底代表什么呢？
热门推荐
weixin_42328375的博客
03-03 4万+
即使已经参加工作快满一年了，但是却连数据库里面数据的长度都一直没搞清楚到底代表什么意思。 类型是指数据存储类型，这个大家都知道，比如int类型代表4字节（Byte),1字节=8bit,即1B=8b.子节是计算机文件大小的基本计算单位，主要用于应用层，用于客户来识别文件大小的。而bit是用于物理层，数据链路层的传输的，是基于二进制的传输。所以这里int类型可以存储4*8=32位。可以存储十进制-...
JavaScript-学习笔记一
sinat_42285508的博客
05-27 322
计算机编程基础 一、编程语言 1、编程：就是让计算机为解决某个问题而使用某种程序设计语言编写程序代码，并最终得到结果的过程。 2、计算机程序：就是计算机所执行的一系列的指令集合，而程序全部都是用我仧所掌握的语言来编写的，所以人们要控制计算机一定要通过计算机语言向计算机发出命令。 3、计算机语言：指用于人与计算机之间通讯的语言，它是人与计算机之间传递信息的媒介。计算机语言的种类非常的多，总的来说可以分成机器语言、汇编语言和高级语言三大类。实际上计算机最终所执行的都是 机器语言，它是由“0”和“1”组成的二进制
[转]计算器输入的数字有时显示不对
AS3
08-11 1211
自己做了个简单的计算器，很奇怪，大部分时候输入是正确的，但是有的时候输入就不对，比如我输入1.89就会显示1.8900000000000001，但是我输入1.86就显示很正常，不知道是怎么回事，是数据类型定义的不对吗？拜托大家帮我看下~非常感谢~（计算器8-16VS9-cs4.fla  是CS4文件   计算器8-16VS9.fla是cs5）           1.890000...
还在为js计算精度缺失迷茫？简单粗暴教你一招！
南极修炼千年的大冰块
11-25 401
大多数语言在处理浮点数的时候都会遇到精度问题，但是在JS里似乎特别严重，比如： console.log(1.1-0.5); 结果居然是0.6000000000000001，当然加减乘除之类的都会有这个问题。 那这是js的错误吗？ 当然不是，你的电脑做着正确的二进制浮点运算，但问题是你输入的是十进制的数，电脑以二进制运算，这两者并不是总是转化那么好的，有时候会得到正确的结果，但有时候就不那么幸运了。 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//
问题总结···js浮点小数计算问题
RelFly的博客
01-16 803
今天改代码时有一处需要将整数型换成小数型。但在js中计算显示的时候发现结果的小数位数多了很多。例如1.3*3=3.90000001···类似这样的。 记得有个方法可以设置小数位数的，但记得不太清，所以把搜素的结果记录一下方便以后查看： toFixed(n) n表示要保留的小数位数。 在搜索的过程中意外还发现一种思路，感觉比较直接。就是先把小数换乘以十的倍数变成整数，然后结果再除以相应的10
js解决加减乘除运算精度问题。
wwppp987的博客
02-08 906
网上有许多精确运算的案例，但是在实操过程中js加减出现0.00000000001和1.9999999999仍旧是个问题。现有临时解决方案（非金额计算时候可用） 方法1 let sum = 3.141592600000001 sum = (parseFloat(sum.toFixed(6))) 原理：取6位小数（平时够你用了）然后转换为小数类型 输出结果： 3.141593 方法2 Math.round(X * 100) / 100 原理：取6位小数（平时够你用了）然后转换为小数类型 输出结果： 3.1
JavaScript 浮点数陷阱及解法
myc_315191545的博客
10-10 1101
众所周知，JavaScript 浮点数运算时经常遇到会 0.000000001 和 0.999999999 这样奇怪的结果，如0.1+0.2=0.30000000000000004、1-0.9=0.09999999999999998，很多人知道这是浮点数误差问题，但具体就说不清楚了。本文帮你理清这背后的原理以及解决方案，还会向你解释JS中的大数危机和四则运算中会遇到的坑。 浮点数的存储
【问题】javascript计算丢失精度解决方案
腾讯云云开发布道师，慕课网合作讲师
03-16 996
1、问题描述： 两个有限的数字相减得到小数点后面类似00000000000001,69999999999999之类的数。像下面这样0.1 + 0.2没有返回0.3，反而返回0.30000000000000004。原因是因为计算机把数字转成二进制计算再将计算转成十进制的这个过程出现的计算误差。不仅仅是JavaScript会出现这个问题，其他语言也会有。不过解决思路都是一样的 0.1 + 0.2 =...
qt保留小数位数
最新发布
04-12
### Qt 中设置或保留小数位数的方法 在 Qt 开发中，可以通过多种方式实现浮点数的小数位数控制。以下是几种常见的方法及其具体实现： #### 使用 `QString::number` 控制小数位数 通过 `QString::number` 方法可以方便地指定浮点数的显示格式并保留特定数量的小数位数。例如： ```cpp #include <QString> #include <QDebug> double value = 32.0; QString str = QString::number(value, 'f', 2); // 设置保留两位小数 qDebug() << str; // 输出 "32.00" ``` 上述代码中的 `'f'` 参数表示固定精度模式，而第三个参数 `2` 则指定了要保留的小数位数[^1]。 --- #### 使用 `QString::asprintf` 格式化字符串 如果需要更复杂的格式化操作（如添加百分号），可以使用 `QString::asprintf` 方法。此方法类似于 C 风格的 `sprintf` 函数，允许灵活定义输出格式。例如： ```cpp #include <QString> #include <QDebug> double value = 0.12345; QString formattedValue = QString::asprintf("%.2f%%", value * 100); qDebug() << formattedValue; // 输出 "12.35%" ``` 在此示例中，`%.2f` 表示保留两位小数，而 `"%%"` 转义为单个百分号字符[^2]。 --- #### 使用 QSpinBox 或 QDoubleSpinBox 的 `setDecimals` 方法 当涉及用户界面控件时，比如 `QDoubleSpinBox`，可以直接调用其 `setDecimals` 方法来设定输入框中小数部分的最大长度。例如： ```cpp #include <QDoubleSpinBox> #include <QApplication> int main(int argc, char **argv) { QApplication app(argc, argv); QDoubleSpinBox spinBox; spinBox.setRange(-1000.0, 1000.0); // 设定范围 spinBox.setValue(123.456); // 初始化值 spinBox.setDecimals(2); // 保留两位小数 spinBox.show(); return app.exec(); } ``` 这里，`spinBox.setDecimals(2)` 明确规定了该控件只支持最多两位小数的数值输入[^3]。 --- #### 总结 以上三种方法分别适用于不同的场景： - 如果仅需简单处理浮点数，则推荐使用 `QString::number`； - 若有复杂格式需求（如附加单位、特殊符号等），可选用 `QString::asprintf`； - 对于 GUI 应用程序中的交互组件配置，应优先考虑利用 `QDoubleSpinBox` 提供的功能接口完成相应调整。 --- 相关问题
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Embrace924

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值