浮点值运算不准确，特别注意

最新推荐文章于 2025-03-10 06:30:00 发布
最新推荐文章于 2025-03-10 06:30:00 发布
阅读量644 收藏
点赞数 2
CC 4.0 BY-SA版权
分类专栏： c#
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_27461747/article/details/89318977
本文通过实验对比float和double类型在数值运算中的表现，发现两者精度差异，并指出若需高精度计算应采用decimal类型。文章深入探讨了浮点数运算的精度问题，对于理解数值类型选择有重要指导意义。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

在这里插入图片描述
可以看到 2222 没有输出
数值 b 不是0 而是 -7.450581e -9

猜想有可能是float 精度太低了,我换成double 试下
在这里插入图片描述
结果还是一样,只是小数位数多了一些

如果要保证浮点值运算准确必须使用 decimal
在这里插入图片描述

44、浮点运算、数值进制转换脚本编写指南
o5p6q的博客
07-23 10
本文详细介绍了如何创建用于计算浮点数平均值的脚本 float_average.ksh，并提供了优化建议。同时，讲解了数值进制转换的多种方法，包括使用 typeset 和 printf 命令进行二进制、十进制和十六进制之间的转换。文中还展示了多个脚本实现，如二进制转十六进制和十进制转十六进制的完整示例，并对脚本流程和使用注意事项进行了分析，帮助读者掌握常见数值处理脚本的编写技巧。
python：decimal --- 十进制定点和浮点运算
实战大师
03-06 2410
python：decimal --- 十进制定点和浮点运算
浮点精度运算不准确的原因
weixin_33724046的博客
06-12 2639
为什么浮点精度运算会有问题 我们平常使用的编程语言大多都有一个问题——浮点型精度运算会不准确。比如 double num = 0.1 + 0.1 + 0.1; // 输出结果为 0.30000000000000004 double num2 = 0.65 - 0.6; // 输出结果为 0.05000000000000004 复制代码 笔者在测试的时候发现 C/C++ 竟然不会出现这种问题，我最初...
浮点数为什么计算不准确
11-28 313
什么是浮点数 浮点数是指用符号、尾数、基数和指数来表示的小数： 如图： 　　因为计算机内部使用的是二进制数，所以基数已经确定，实际数据中往往并不考虑基数，只用符号、尾数、指数这三个部分即可表示浮点数。 　　像0.12345×10^3和0.12345×10^(-1)这样使用与实际小数点位置不同的书写方法来表示小数的形式称为浮点数。 　　浮点数相对的是定点数，
浮点数运算不精确的问题解决和注意事项(BigDecimal)
SSHLY3的博客
12-17 1632
总结：浮点数运算不精确的问题本质上是在存储的时候就不精确，这个问题会持续到即使使用到专业的工具类BigDecimal来使用时，如果仅仅只是传double类型做入参时依然会导致运算不精确，所以即使在使用BigDecimal工具类进行构造时也要使用String类型的构造函数，尽量避免使用double类型的构造函数。仅仅只是传double类型做入参时依然会导致运算不精确，所以即使在使用BigDecimal工具类进行构造时也要使用String类型的构造函数，尽量避免使用double类型的构造函数。
浮点数为何做不到精确计算？
艾华生的博客
05-21 976
1 浮点数为何做不到精确计算？ 众所周知，Java中的浮点数在进行四则运算时，大概率是得不到一个精确值的，只能得到一个十分接近精确值的近似值，为什么会出现这种情况呢？接下来就让我们来探讨一下这个问题吧。 2 浮点数的存储规则 我们都知道，计算机中存储的都是二进制数，浮点数也不例外。那么浮点数是如何存储的呢？根据IEEE（电子和电气工程师协会）规定，任意一个浮点数N都可以用如下科学计数法表示：N=(−1)S∗M∗2EN=(-1)^S*M*2^EN=(−1)S∗M∗2E 其中， 符号（sign）：S决定正数（
浮点数为什么不精确？
码农翻身
06-06 479
1浮点数为什么不精确？其实这句话本身就不精确， 相对精确一点的说法是： 我们码农在程序里写的10进制小数，计算机内部无法用二进制的小数来精确的表达。什么是二进制的小数？ ...
DSP中浮点转定点运算--定点数的加减乘除运算
09-02
在数字信号处理（DSP）系统中，浮点数运算通常被转换为定点数运算，因为定点运算具有更高的效率和更低的功耗，特别是在专门的DSP芯片上。定点数表示法是一种固定小数点位置的数字表示，与浮点数相比，它在硬件实现时...
浮点算术运算指令详解：IEEE 32位浮点数运算
"浮点算术运算指令在编程语言中的应用，特别是S7-300 PLC的语句表(STL)编程中" 浮点算术运算指令是编程语言中的一个重要组成部分，尤其在处理精度要求高的数学计算时。在S7-300 PLC的语句表(STL)编程中，这些指令...
国网104规约遥测值转换十进制.docx
08-06
《国网104规约遥测值转换十进制详解》 在电力系统通信中，国电104规约是一种广泛使用的...无论是浮点值、标度化值还是归一化值，都需要按照规定的步骤进行精确的二进制运算，才能正确解读和处理这些重要的实时数据。
为什么大部分浮点数在计算机中是不准确的
m0_71863644的博客
06-16 1065
为什么大部分浮点数在计算机中是不准确的
浮点精度（float、double）运算不精确的原因
热门推荐
marco的博客
10-12 1万+
为什么浮点精度运算会有问题 我们平常使用的编程语言大多都有一个问题——浮点型精度运算会不准确。比如 double num = 0.1 + 0.1 + 0.1; // 输出结果为 0.30000000000000004 double num2 = 0.65 - 0.6; // 输出结果为 0.05000000000000004 笔者在测试的时候发现 C/C++ 竟然不会出现这种问题，我最...
浮点数精度丢失
最新发布
lliwenchuang的博客
03-10 1941
计算机用存储浮点数，而人类常用的是十进制。某些十进制小数无法精确转换为二进制，就像 1/3 在十进制中无法精确表示（0.3333...）一样。
浮点数运算不准确怎么办？
weixin_41917988的博客
11-28 2138
浮点数是一种用于表示实数的计算机编码系统，它可以表示非常大或非常小的数值。它基于科学计数法，将一个数表示为尾数和指数的乘积。在计算机中，浮点数使用二进制科学计数法表示。由于计算机的存储空间有限，浮点数只能近似地表示实数，因此在进行浮点数运算时，可能会出现精度问题。浮点数精度问题主要源于计算机使用有限的位数来表示实数。由于这种限制，许多实数在计算机中只能被近似表示，这就可能导致精度损失。例如，1/3在十进制中是一个无限循环小数，无法精确表示。在二进制中，类似的问题也存在，例如0.1无法被精确表示。
C语言浮点数计算造成误差
qq_41876834的博客
03-06 2053
解决办法，加一个四舍五入，原因功力还不够，大佬求解。
Unity中数值精度小数点位数
qq_40544338的博客
10-22 6292
一、float转换为string：ToString("f3")：保留3位小数点，3代表保留多少位小数点 str_tmp +="\n"+ arrTargetAngles[i].ToString("f3"); 一、string转换为float保留多少位小数点 好像是多少位就是多少位，超出范围另当别论 float.TryParse(student.Attributes["x"].Va...
【C语言】浮点数的误差分析
ifiwere的博客
05-07 1万+
在编程中，我们经常会用到浮点数。我们发现浮点数运算后的结果经常会有误差，也就是实际结果和理论结果不一致。 例如： 输出的理论结果应该是 123456789.000000。然而并不是，输出的实际结果为 123456792.000000 这就是浮点数的误差。 就像是钟表一样，都有一定的误差，在误差范围内，我们一般默认实际值为正确答案。 在已知误差和理论值的情况下，我们可以明确实际值的...
单片机C语言float浮点型运算中精度的问题
pang9998的博客
06-06 3998
我们在单片机C语言中使用float浮点型运算的时候需要特别注意精度问题，比如下面 float f =0X03FF/0X0FFF;则结果为f=0; float f=(float)0X03FF/0X0FFF;结果才正确 ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值