浮点数精度丢失

最新推荐文章于 2024-12-28 15:51:17 发布

原创最新推荐文章于 2024-12-28 15:51:17 发布 · 648 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#精度丢失 #double #float

Java基础专栏收录该内容

13 篇文章

订阅专栏

探讨了浮点数在计算机中因二进制转换而导致的运算误差问题，特别是使用float和double类型时的常见误区。文章介绍了精度丢失的原因，并提出使用BigDecimal或long类型作为替代方案，以确保高精度计算。

首先考虑一下下面的输出值，是否和你想的一样？？

产生原因：首先计算机进行的是二进制运算，我们输入的十进制数字会先转换成二进制，进行运算后再转换为十进制输出。Float和Double提供了快速的运算，然而问题在于转换为二进制的时候，有些数字不能完全转换，只能无限接近于原本的值（类似于十进制的1/3），这就导致了在后来的运算会出现不正确结果的情况。

浮点运算很少是精确的，只要是超过精度能表示的范围就会产生误差。往往产生误差不是因为数的大小，而是因为数的精度。因此，产生的结果接近但不等于想要的结果。尤其在使用 float 和 double 作精确运算的时候要特别小心。
可以考虑采用一些替代方案来实现。如通过 String 结合 BigDecimal 或者通过使用 long 类型来转换。

使用BigDecimal解决精度丢失问题：

BigDecimal b1 = new BigDecimal("0.05");
BigDecimal b2 = new BigDecimal("0.01");
System.out.println(b1.add(b2)); // 求和

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Bruce_Up

关注关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【C语言】 浮点数精度丢失

qq_51931342的博客

04-26

5089

浮点型变量浮点型变量分为单精度（float）型，双精度（double）型和长双精度（long double）型，三类。 浮点数精度丢失比如我们赋值给a=1.23456789e10,加10后，应该得到的值是1.234567891e10 #include<stdio.h> int main() { float a,b; a = 1.23456789e10; b = a + 10; printf("%f",b); return 0; } 但结果却如下...

关于浮点数的精度丢失问题的思考

yanqiu12138的博客

11-17

3754

浮点数精度丢失的原因、浮点数的存储、float与double的范围和精度和解决方法

参与评论您还未登录，请先登录后发表或查看评论

一文大白话讲清楚javascript浮点数精度丢失和解决策略

xiaobangkeji的博客

12-28

1018

一文大白话讲清楚javascript浮点数丢失和解决策略

float,double等精度丢失问题

hirvonen的专栏

01-07

2277

来自MSDN的解释： http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式。这是 CPU 所采用的浮点数据表示形式的副作用。为此，可能会经历一些精度丢失，并且一些浮点运算可能会产生意外的结果。导致此行为的原因是下面之一：十进制数的二进制表示形式可能不精确。

处理JavaScript中浮点数精度丢失的问题

南城

04-19

565

在使用JavaScript进行数学计算时，尤其是涉及浮点数时，经常会遇到精度丢失的问题。浮点数的精度问题是编程中常见的问题，尤其在使用JavaScript这种语言时更加显著。通过上述的方法，可以有效地减少和控制因浮点数运算引入的误差，提高程序的准确性和可靠性。例如可以将所有的数乘以一个因子（如1000），使其变为整数，然后再进行计算，最后再除以同样的因子转回浮点数。在编写代码时，考虑减少不必要的运算步骤，尽量在最后一步再进行四舍五入和转换类型的操作。，它支持任意精度的整数。可以通过在整数后面加。

C++ 中浮点数精度丢失问题

嘟嘟的博客

06-16

4414

必知概念 浮点数由阶码和尾数两部分组成。 E 为阶码，M 为尾数。 浮点数默认保存为 double 类型，就像整数默认为 int 型一样。 float 的十进制精度为 7 位。 double 的十进制精度为 16 位。所以浮点数在计算机中存储时，可能出现精度丢失问题。所以编程时一般都用 double 而不用 float，以免造成难以发现的 bug。下面来看编译结果及代码（浮点数规格化就是对非规格化浮点数进行的处理，包括溢出处理）源码： #include<iostream.

IEEE 754 关于浮点数精度丢失问题

qq_21306539的博客

04-09

695

浮点数运行法则文档：https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html#799 为什么java和js会有精度丢失问题关于计算机浮点数丢失：计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示，如圆周率 3.1415926…，1.3333… 等。JS，Java 遵循 IEEE 754 规范，采用双精度存储（double precision），占用 64 bit 2. IEEE标准什么是IEEE标准

浮点数精度丢失分析及解决

云原生Java Web领域技术博客

12-01

7727

Java语言在处理浮点数，其实现逻辑与整数不同，如果使用不当可能会造成精度丢失、计算不准确、死循环等问题，严重的话，会造成经济损失。本文将从浮点数精度丢失入手，详细介绍下浮点数的原理及使用。

浮点数计算精度丢失问题及解决方案

YT的博客

09-17

3122

本文将详细探讨浮点数计算的精度丢失问题，分析其成因，并提供解决方案。

浮点数精度丢失的原因和解决办法

热门推荐

user2025的博客

08-02

1万+

文章目录二进制浮点数转换为十进制浮点数十进制浮点数转换为二进制浮点数浮点数的存储float类型在计算机中的存储形式中指数为什么要加127，而double类型要加1023？浮点数精度丢失的原因二进制浮点数转换为十进制浮点数 十进制浮点数转换为二进制浮点数 浮点数的存储 float类型在计算机中的存储形式中指数为什么要加127，而double类型要加1023？以float为例，计算机表示单精度浮点数时，是用8位去存储指数部分，即表示0-255，但我们同样需要有负指数，正负指数的位数量为了均等，各自一

精度丢失

xl2015190026的博客

12-07

3367

自己一直纠结于浮点类型精度丢失问题，认为浮点类型的相等比较是不靠谱的，写代码时一直不太敢用，导致了很多不必要的麻烦以及WA，所以自己研究了一下。首先上结论，就是说浮点类型的比较是靠谱的，两个浮点类型，各自保存在各自的空间里，它们所表示的数的大小都是固定的，一比较，大的就大，小的就小，相等的就相等的，不会不靠谱的。不靠谱的是精度损失。比如说一个浮点数，保存在一个浮点类型里面。浮点数表

浮点数值计算精度丢失问题剖析及解决方法

程序员大佬超的博客

02-17

7544

Java和JavaScript的精度丢失解决方案。

(原创)simulink-关于示波器模块显示精度不够等问题

weixin_30341745的博客

04-13

2638

问题1、信号显示精度不够，比如理想信号是正弦信号，但是显示的信号不够smooth 解决方法1、步长设置，在simulation->configuration parameters->solver options里修改type为固定步长，并将fixed-step size修改更加精细解决方法2、示波器模块设置，点开示波器模块，设置->history->limit data ...

解决两数相除，丢失精度问题

格林王子举哥

09-02

1927

平时我们在计算两个数的除法中，很容易丢失小数部分，使用下面的方法即可解决这个问题哦 //先将整数转为浮点数进行相除，保留到小数部分 double value = ((float)curNoMoney/(float)Integer.parseInt(curNeedMoney))*100; //通过改变构造方法，就可以解决精度丢失问题 BigDecimal b = new BigDecimal(Double.toString(valu

matlab 读入精度丢失,为什么会精度丢失？教你看懂 IEEE-754！

weixin_30969227的博客

03-19

1184

上图来自维基百科。IEEE-754 标准是一个浮点数标准，存在 32、64、128 bit 三种格式(上面两幅图分别是 32 bit 和 64 bit 的情况，结构是一致的)，JavaScript 使用的是 64 位，也就是常说的“双精度”，本文将以 64 位举例讲解 IEEE-754 标准。从图中可知，IEEE-754 标准将 64 位分为三部分：sign，1 bit 的标识位，0 为正数，1 ...

simulink正弦波失真问题

lanzhishao的博客

11-23

7801

simulink正弦波失真问题最简单的，给一个Sin wave然后拿scope测，却发现正弦波输出近似为三角波点击model setting 把最大步长改一下，改的小一点。输出漂亮的正弦波：）

Simulink保留指定位小数的办法

CS_madder的博客

03-02

4442

Simulink保留指定位小数的办法

浮点数精度丢失问题考虑过吗？

最新发布

11-16

浮点数精度丢失是计算机编程中的一个常见问题。浮点数由阶码和尾数两部分组成，默认保存为 double 类型，float 的十进制精度为 7 位，double 的十进制精度为 16 位，在计算机中存储时，由于内存空间有限（如 32 位），必须“截断”无法精确表示的部分，所以可能出现精度丢失问题 [^2][^4]。从原理上来说，小数的二进制表示有时不能精确。就像十进制系统中不能准确表示 1/3 一样，二进制也无法准确表示 1/10，这是浮点型出现精度丢失问题的主要原因 [^3]。在实际编程中，有很多浮点数精度丢失的经典案例。例如在 Java 中： ```java public class BigDecimalTest { public static void main(String[] args) { float f1 = 0.9f; float f2 = 0.8f; float f3 = 1.1f; float f4 = 1.0f; float f5 = f1 - f2; float f6 = f3 - f4; System.out.println(f5 - f6); } } ``` 此代码运行结果为 `-5.9604645E-8`，体现了浮点数精度丢失 [^1]。在 C++ 中也有类似情况： ```c #include <stdio.h> int main() { // 直接比较（会输出0，即False） printf("0.1 + 0.2 == 0.3 => %d\n", 0.1 + 0.2 == 0.3); // 打印实际计算结果 printf("0.1 + 0.2 = %.17g\n", 0.1 + 0.2); return 0; } ``` 代码中 `0.1 + 0.2 == 0.3` 比较结果为 `False`，也说明了浮点数精度丢失问题 [^4]。为了解决浮点数精度丢失问题，可使用高精度计算库，如 Java 中的 BigDecimal 类，它可以精确表示和计算浮点数。示例代码如下： ```java import java.math.BigDecimal; public class BigDecimalExample { public static void main(String[] args) { // 基本类型会产生“精度丢失”问题 double x = 10 - 9.9; double y = 1 - 9.0 / 10; System.out.println("10 - 9.9 = " + x); System.out.println("1 - 9.0 ÷ 10 = " + y); // double x = 10 - 9.9 System.out.println("解决：double x = 10 - 9.9 的精度丢失问题。"); BigDecimal dec1 = new BigDecimal("10"); BigDecimal dec2 = new BigDecimal("9.9"); BigDecimal decx = dec1.subtract(dec2); System.out.printf("%.1f - %.1f = %.1f\n", dec1, dec2, decx); // double y = 1 - 9.0 / 10 System.out.println("解决：double y = 1 - 9.0 / 10 的精度丢失问题。"); BigDecimal dec3 = new BigDecimal("1.0"); BigDecimal dec4 = new BigDecimal("9.0"); BigDecimal dec5 = new BigDecimal("10"); BigDecimal decy = dec3.subtract(dec4.divide(dec5)); System.out.printf("%.1f - %.1f ÷ %.1f = %.1f\n", dec3, dec4, dec5, decy); } } ``` 通过使用 BigDecimal 类可以避免浮点数精度丢失带来的问题 [^5]。

浮点数精度丢失

首先考虑一下下面的输出值 ，是否和你想的一样？？

使用BigDecimal解决精度丢失问题：

首先考虑一下下面的输出值，是否和你想的一样？？