float double浮点数不精确问题

本文详细解释了浮点数在计算机中从十进制到二进制转换过程中产生的精度损失原因。通过具体实例展示了为什么某些浮点数无法被精确表示,并探讨了这如何导致数学运算中的误差累积。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

浮点数不精确的问题主要是因为浮点数的十进制转换二进制存储产生的。

对十进制小数乘2得到的整数部分和小数部分,整数部分既是相应的二进制数码,再用2乘小数部分(之前乘后得到新的小数部分),又得到整数和小数部分.
如此不断重复,直到小数部分为0或达到精度要求为止.第一次所得到为最高位,最后一次得到为最低位


如:0.7 整数部分为0,然后计算
0.7*2=1.4  取整1
0.4*2=0.8  取整0
0.8*2=1.6  取整1
0.6*2=1.2  取整1
0.2*2=0.4  取整0
循环出现
所以十进制的0.7=二进制的0.1 0110 0110……(循环节是0110)


0.25的二进制
0.25*2=0.5 取整是0
0.5*2=1.0    取整是1
所以0.25的二进制为 0.01 ( 第一次所得到为最高位,最后一次得到为最低位)


0.1~0.9只有0.5可以被有限表示,所以很多浮点数是不精确的


### Double 类型浮点数的精度范围 Double 类型浮点数基于 IEEE 754 标准中的双精度浮点数表示法,其能够提供大约 **15 到 17 位十进制小数的精度**[^1]。这意味着,在大多数情况下,`double` 类型可以精确存储和表达具有这些范围内有效数字的小数值。 具体而言,IEEE 754 双精度浮点数使用 64 位来表示一个数字,其中: - 1 位用于符号, - 11 位用于指数部分, - 52 位用于尾数(也称为有效数字)。 由于尾数的有效位数决定了 `double` 的精度,因此它可以在科学计算和其他需要高精度的应用场景下表现良好。然而需要注意的是,尽管它可以支持多达 17 位小数的精度,但在实际应用中通常只推荐依赖前 15 位小数以避免舍入误差的影响[^3]。 以下是 C++ 和 Python 中分别展示如何控制输出精度的例子: #### 控制输出精度的代码示例 ##### C++ ```cpp #include <iostream> #include <iomanip> int main() { double num; std::cin >> num; // 输入一个双精度浮点数 std::cout << std::fixed << std::setprecision(15) << num << std::endl; // 输出保留15位小数 return 0; } ``` ##### Python ```python number = float(input("请输入一个双精度浮点数: ")) formatted_number = f"{number:.15f}" # 使用字符串格式化方法指定15位小数 print(formatted_number) ``` 上述两个例子展示了如何通过编程手段设定输出时所期望的小数位数。对于更复杂的环境或者特定需求,则可能还需要考虑其他因素如舍入模式等。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值