浮点数精度的一点问题

最新推荐文章于 2024-09-17 00:00:00 发布
最新推荐文章于 2024-09-17 00:00:00 发布
阅读量660 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： C/C++ 文章标签： 测试 2010
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/summerhust/article/details/6949415
本文通过一个具体的示例，展示了单精度浮点数在运算过程中可能产生的误差，并解释了为何会出现这种现象。在示例中，0.65f这个单精度浮点数在计算时出现了轻微的舍入误差，导致最终的整数转换结果与预期不符。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 示例代码：

double j = 0.65f;

int i = 100 * j;

结果i等于64，与我们通常预计的结果不一致；原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999，乘以100后转整数变成64.

 

测试环境：vs2010

 

 

浮点数精度详解
qq_38896265的博客
12-06 1507
浮点数精度问题分析float精度不止7位结论分析结语 float精度不止7位 网络上很多博客都说float的精度为7位，这其实是不正确的说法。 int iA = 1610612864; float fA = iA; std::cout << std::setprecision(10) << fA << std::endl; 上述变量a，是可以被正确输出的。 下表是float类型在内存中的存储形式 符号位 阶码段 尾数段 1bit 8bit 23bit
详解浮点数的精度问题
weixin_43844995的博客
07-20 7822
详解浮点数精度问题
【转】 计算几何中的精度问题
悔惜晟
10-02 1096
<br />转载自 xh176233756最终编辑 xh176233756<br />计算几何头疼的地方一般在于代码量大和精度问题，代码量问题只要平时注意积累模板一般就不成问题了。精度问题则不好说，有时候一个精度问题就可能成为一道题的瓶颈，简直“画龙点睛”。这些年的题目基本是朝着越来越不卡精度的方向发展了，但是也不乏一些%^&%题#$%$^，另外有些常识不管题目卡不卡，都是应该知道的。今天我就开膛回顾下见过且还有印象的精度问题，由于本人见识和记忆均有限，望各位大神瞄过后不吝补充。另外，为了弥补我匮乏的文思，
浮点数精度问题
weixin_41316824的博客
09-09 2317
浮点数由三部分组成： 符号位（1位）：表示数值的正负。 指数部分（通常8位或11位，取决于单精度或双精度）：表示数值的大小范围。 尾数部分（也称为有效数字，通常23位或52位）：表示数值的精确度。
浮点数计算精度问题
2301_78670085的博客
11-13 426
对于上面这两张图很多人是不是会有疑问，为什么计算出来的结果与实际不符。这就牵扯到了计算机语言中浮点数计算的精度问题。
对S7-200PLC双精度浮点数转单精度浮点数例程的一点补充
05-16
总结来说，文章提供了一种处理S7-200 PLC双精度浮点数转换问题的实用方法，并分享了作者在实际工程中采取的有效解决方案。对于从事远程抄表系统开发和维护的工程师而言，这些经验和技巧具有很高的参考价值。通过这种...
Py里面浮点数精度的问题--在numpy中
lcg29的博客
10-01 6914
引言，今年是py加入全国计算机二级大礼包的第一年，看了几道题，比如： 0.1+0.1==0.2  返回True 0.1+0.2==0.3返回False 都是0 1 二进制惹的祸，真是一点不省油。。。。弄好久   累 对于十进制，它只能表示以进制数的质因子为分母的分数。10 的质因子有 2 和 5。比如1/2、1/4、1/5、1/8和 1/10 都可以精确表示，因为这些分母只使用了10的质因...
C语言菜鸟基础教程之单精度浮点数与双精度浮点数
01-20
计算机程序中的浮点数分为单精度浮点数和双精度浮点数。 单精度和双精度精确的范围不一样。 计算机里的最基本的存储单位用位(bit)来表示。bit只能用来存储0或1。 稍大一点的单位是字节(Byte，简写为B）。 再大一级的...
python float精度问题_Python之☞float浮点数精度问题
weixin_39940344的博客
12-09 941
(下面是精度漏洞的问题-转自其它)从下面这段脚本体现出来：>>> x = 0.0>>> for i in range(10):x += 0.1print(x)0.10.20.300000000000000040.40.50.60.70.79999999999999990.89999999999999990.9999999999999999>>>...
阐述 C 语言中的浮点数精度问题？
技术笔记
07-11 1539
C 语言中的浮点数精度问题是由于其存储方式和有限的位数导致的。在编程中，需要充分认识到这些问题可能带来的影响，如数值比较的错误、算术运算的偏差和累计误差等。通过选择合适的数据类型、采用正确的比较方法、优化算法和注意数值范围，可以有效地减少浮点数精度问题带来的潜在错误，提高程序的正确性和可靠性。在 C 语言中，浮点数（float 和 double 类型）的精度是一个重要且容易引起困惑的概念。理解浮点数的精度问题对于编写正确和可靠的程序至关重要。 # 一、浮点数的表示 浮点数在计算机中的存储方式遵循 IEEE
java趣谈--记录容易被忽略的java小知识--（1）浮点数的精度
sun10081的博客
06-02 554
1.猜猜返回值是什么？...揭晓答案false 再看看下面的图必须数据进行类型转换才可相等深度探究下原因，原来是浮点数会发生精度丢失，在计算机内部，数据都是由二进制保存的，无法精确的表达我们所需要的数。举个例子，0.09f，它的存储结果是这样的: 0 01111011 01110000101000111101100你可以看到它分成了3段： 第一段符号位(s) : 0 正数， 1 负数 ， 其实更准...
浮点数的精度问题
weixin_46953402的博客
03-25 528
一、问题 对double类型的数据直接进行运算时，会存在精度问题： 二、原因 1.十进制转二进制 计算机将十进制整数转换为二进制整数采用“除二取余，逆序排列”的方法：用2去除整数，得到一个商和余数，再用2去除商，又会得到一个商和余数，反复执行，直到商为0， 然后把先得到的余数作为低位，依次排列，就是对应的二进制数。 例如将十进制8转为二进制： 8÷2 = 4 余0； 4÷2 = 2 余0； 2÷2 = 1 余0； 1÷2=0 余1； 此时商为0，将余数逆序排序：1000即为8.
浮点数的表示和精度
木牛的博客
05-24 5796
double的尾数是52bit，高于32bit的int，所以用dobule表示int不会有精度损失。matlab内部采用double，1+1/2^53对double来说就是1，所以1+1/2^53不会大于1。从表中可以看到，double内部表示的设计是很有规律的，按照对应64位数的顺序依次为 +0、正非规范数、正规范数、正无穷大、符号位为正的NaN、-0、负非规范数、负规范数、负无穷大、符号位为负的NaN。都是 1.xxxxxx * 2^e 表示的，这个 xxxxx 就是底数，1 是省略不写的。
浮点数计算精度丢失问题及解决方案
最新发布
YT的博客
09-17 2767
本文将详细探讨浮点数计算的精度丢失问题，分析其成因，并提供解决方案。
浮点型精度问题
amingzm123的博客
05-09 780
前言 Python（或Perl，C，C ++，Java，Fortran和其他许多语言）使用浮点型表示数值时经常无法显示期望的准确的十进制数字。该现象被称为“浮点数精度损失”问题。这是因为这些语言多用IEEE 754标准的双精度浮点数表示法来存储小数。因为该标准处理小数时会遇到无限循环小数，截断后就导致精度错误。 通常我们用各种语言所封装的Decimal库来避免精度损失的问题。 单/双精度浮点数 浮点格式采用了“科学计数法”。 二进制浮点数算术运算标准（IEEE浮点数标准）定义了两个基本格式：单精度
《C/C++ 面试 100 例》（三）浮点数精度详解
热门推荐
英雄哪里出来
12-07 14万+
面试官：简单介绍下浮点数的存储方式和有哪些精度问题？
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值