浮点数计算的时候出现很长的一串

最新推荐文章于 2023-02-06 09:02:13 发布
原创 最新推荐文章于 2023-02-06 09:02:13 发布 · 1.5k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#浮点型计算的问题

本文介绍了一种解决JavaScript中浮点数计算误差的方法。通过使用toFixed(2)方法将计算结果保留两位小数，有效地避免了由于浮点数精度问题导致的显示错误。

 

bug结果

浮点数计算的时候，会出现bug，例如这种情况118.00999999999999，

这个时候我们一般只要118.01，把最终得到的结果toFixed(2)，就可以啦。 

payMoney = parseFloat(payMoney) - parseFloat(useCardMoney)
payMoney = payMoney.toFixed(2);
console.log(payMoney);

成功结果

 

 

浮点数的陷阱：你以为的 0.1 + 0.2其实不是 0.3，BigDecimal你真的用对了吗？
曾经“等你生日那天”都遥远得像未来，如今却可欢愉的挥手说“下个十年见”
05-18 10万+
在金融和交易系统中，哪怕是一分钱的误差都可能造成巨大损失。然而，很多开发者仍在不经意间落入浮点数的陷阱：看似简单的 0.1 + 0.2，为什么在 Java 中不等于 0.3？本篇文章从底层的 IEEE 754 浮点数标准讲起，剖析误差来源，逐层构建 BigDecimal 使用、格式化控制、精度舍入、判等策略等防线，并结合真实案例总结出一套浮点数处理的实战规范，助你规避金额计算中的隐性风险。
python 确保浮点数计算结果正确的方法
m0_59377273的博客
06-23 1593
用python原生,解决浮点数保留位数的问题
JS浮点数运算的精度问题-整数的精度问题
Wnig's Blog
01-25 1057
在使用JS的过程中有没有发现某些浮点数运算的时候，得到的结果存在精度问题：比如0.1 + 0.2 = 0.30000000000000004以及7 * 0.8 = 5.6000000000000005等等。 这个问题并不只是在 Javascript 中才会出现，几乎所有的编程语言都采用了 IEEE-745 浮点数表示法，任何使用二进制浮点数的编程语言都会有这个问题，只不过在很多其他语言中已经封装好...
Float或Double浮点型计算导致小数点后面显示过长数据的解决方法
BBG_0622的专栏
05-22 7267
BigDecimal     在《Effective   Java》这本书中也提到这个原则，float和double只能用来做科学计算或者是工程计算，在商业计算中我们要用java.math.BigDecimal。BigDecimal一共有4个够造方法，我们不关心用BigInteger来够造的那两个，那么还有两个，它们是：     BigDecimal(double   v
超长浮点数大数相乘
weixin_43011522的博客
10-13 324
代码： #include <iostream> #include <string> #include <vector> using namespace std; static string BigMulti(string &a, string &b) { string ret; vector<int> v(a.le...
为什么前端数据会出现很长的浮点数呢？
_Xiaoning_
07-30 1364
今天在项目中遇到了一个问题，前端数据出现了很长的浮点数。我检查了一下后端传过来的数据，数据是正确的，没有浮点。我很好奇为什么会这样，所以研究了一下这个问题的原因，顺便记录一下。
javascript浮点数相减、相乘出现一长串小数
wujinhong2008的博客
04-09 310
149.7 * 100 =14969.999999999998 3.57 - 2.33 =1.2399999999999998 这是JavaScript浮点运算采用IEEE 754标准导致的Bug。 解决方法：采用整数来运算，再转化为浮点数。 采用IEEE 754标准的语言都有这个问题。 详情： https://www.jianshu.com/p/f5c081c17068 https://b...
js计算浮点数出现小数；解决js计算小数问题；js数组相加出现小数；
i_am_a_div的博客
12-17 3499
解决js计算小数出现的精确度问题，js计算浮点数出现多位小数
STM32串口传输浮点数
zhbi98 的技术 Blogs
02-06 9472
现代的计算机系统一般采用 **字节**（Octet, 8 bit Byte）作为逻辑寻址单位，当物理单位的长度大于 1 个字节时，就要区分字节顺序（Byte Order, or Endianness）。 字节序，即字节在电脑中存放时的序列与输入（输出）时的序列是先到的在前还是后到的在前。字节序也用于描述多字节数据在计算机内存中存储或者网络传输时各字节的存储顺序，常见的字节序有 **大端模式（Big Endian）** 和 **小端模式（Little Endian）** 两种，还有一种不太常见的 **中端模
c语言 计算浮点数尾码阶码代码,详谈IEEE浮点数编码机制
weixin_29428137的博客
05-21 2650
在一些工程领域中单单依靠整数是无法满足他们对精度的需求的，这种时候就需要用到浮点数了。今天着重来聊一聊在计算机底层，浮点数的编码方式，以及它相关值的计算方式。二进制小数在介绍浮点数之前先来看看二进制中实数可以如何表示。假设我有一个十进制的小数8.33，那么它的值可以表示为8 + 3 / 10 + 3 / 100 = 833 / 100复制代码各个位的权重依次是10 ^ 0 = 1, 10 ^ -1...
C语言计算浮点数的小数位数，屏蔽掉了浮点运算的误差
gdutxzy的专栏
08-02 4624
第一次去计算个
float除0
龙崎的专栏
10-06 4607
进行浮点数编程时，如果没有注意，常常会出现输出类似 1.#IND,1.#INF 或者 nan, inf 之类奇怪的输出。这通常隐含了浮点数操作的异常。 特殊浮点数的含义 1.#INF / inf：这个值表示“无穷大 (infinity 的缩写)”，即超出了计算机可以表示的浮点数的最大范围（或者说超过了 double 类型的最大值）。例如，当用 0 除一个整数时便会得到一个1.#INF / 
Java数据类型转换，浮点型溢出问题
qq_36312073的博客
12-28 1222
Java数据类型转换问题 Java为强类型语言，低位可向高位转换 计算过程中的转换 计算过程中以高位为准，如int*long计算过程中会先把int转换成long类型，然后再参与运算 注意：会产生溢出，编译没有问题，但是结构是负数，在计算过程中两个int类型相乘结构还是int，溢出。 int count = 100000000; int price = 1999; long totalPrice = count * price; 转换过程中丢失精度 丢失精度问题主要体现在浮点数问题上面 do
C连载21-printf带返回值，打印长字符串以及scanf
weixin_44630050的博客
09-01 268
一、printf()返回值 printf()函数是有返回值的，通常返回的是打印字符的个数，如果有输出错误，printf()返回一个负值（不同版本会有不同的值） #include<stdio.h> int D21_1_prntval(void) { int bph2o = 212; int rv; rv = printf("%d F is water's boiling point.\n", bph2o); printf("The printf() function printed %
浮点数的加法
qq_44895502的博客
05-27 2498
浮点数的加法：浮点数在相加时需要对阶，且运算顺序不同其结果也会不同。虽然两个浮点数进行加法运算时不会发生溢出，但在对阶时会出现大数吃小数的现象，从而导致运算结果错误。 一. 源代码部分 #include <stdio.h> #include <stdlib.h> #include <string.h> #define BUFSIZE 256 int main(...
Python 浮点数计算出十几位小数的解决方法
leleprogrammer的博客
04-16 2544
Python 浮点数计算出十几位小数的解决方法
C++中printf输出超大整数问题
热门推荐
w55100的博客
04-10 1万+
前置客观常识 int                  2字节，65536；long                4字节，2^31-1，(2,147,483,647)，约21亿；unsigned long   4字节，2^32-1，约42亿；long long          8字节，2^63-1，（9,223,372,036,854,775,807），约9e18；PS: C++11中才正式引...
CJson-修改浮点数的位数
tang0_0
10-23 4855
将组成的json转为字符串格式时，对于浮点数的位数是不固定的。
解决STM32F1使用UCOSII打印浮点数乱码问题
midwenhao的博客
11-19 896
问题描述： 前几天写单片机stm32f1+ucos工程的时候突然出现一个BUG， 就是串口打印出一大串的“00000000000000000000000000000000”， 或者是打印出-1等不可思议的负数值。 （由于这种情况的出现很随缘（后面有解释），所以后来取不到串口打印错误图了） 查找分析： ...
【已解决】Python字符串转字节后怎么变长了？长度翻了一倍，如何保持与原字符串的长度一致？
Scott0902的博客
11-27 915
字符串转为字节类型后，长度比原先的字符串长了一倍，系操作不正确导致。先保存字符串的ASCII值为列表，然后再进行bytes转换才能解决。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值