关于double/float运算精度问题

最新推荐文章于 2024-08-08 20:43:48 发布
最新推荐文章于 2024-08-08 20:43:48 发布
阅读量514 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zlc147/article/details/79260067
本文探讨了使用 double 和 float 类型进行计算时出现的精度问题，并提出在商业计算场景下采用 java.math.BigDecimal 类来提高计算精度的方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

假设我用0.0056*1000，结果是5.60000000003。在大多数情况下，使用double和float计算的结果是准确的，但是在一些精度要求很高的系统中，这种问题是非常严重的。在《Effective Java》中提到一个原则，那就是float和double只能用来作科学计算或者是工程计算，但在商业计算中我们要用java.math.BigDecimal，通过使用BigDecimal类我们可以解决上述问题


double类型 精度丢失的问题
A_aspectJ的博客
08-05 5163
因为计算机只能识别0和1，即二进制，无论哪种编程语言，都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示， 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
double精度丢失问题
查拉图斯特拉talk的博客
02-09 1312
在Java中，使用double类型时可能会遇到精度丢失的问题。这是由于double类型是一种浮点数类型，在表示某些小数时可能会存在精度损失。这种情况通常是由于浮点数的二进制表示法无法准确地表示某些十进制小数，导致精度丢失。为了避免这种问题，可以考虑使用BigDecimal类来处理精确的十进制数值运算，因为BigDecimal类可以提供更高的精度和控制。另外，尽量避免直接比较两个double类型的值是否相等，而是考虑使用误差范围或者BigDecimal的compareTo方法来进行比较操作。
float计算精度
caihuihai的博客
05-05 393
        1、结果保留一位小数：         float a = (float) 15.3;     float b = (float) 18.6;     DecimalFormat df = new  DecimalFormat("##0.0");  //结果保留一位小数     if(a >= b){     System.out.println("a大"+df...
double,float精度问题
ilrxx的专栏
05-21 2040
Tom在一家汽车配件商店购买了一个价值$1.10的火花塞，但是他钱包中都是两美元一张的钞票。如果他用一张两美元的钞票支付这个火花塞，那么应该找给他多少零钱呢？  下面是一个试图解决上述问题的程序，它会打印出什么呢？  public class Change{ public static void main(String args[]){ System.out.println(2.00 - 1.10
double做数学运算丢失精度
wan_zaiyunduan的博客
01-18 446
测试代码： int x = 400; double xx = (double) x / 1000; System.out.println("xx=="+xx); double num = 51575.52; System.out.println("直接做减法，结果为: "+(num-xx)); BigDecimal num1 = BigDecimal.valueOf(num); BigDe
double数据类型与float数据类型 计算 精度问题
zuo_er_lyf的博客
07-11 362
double数据类型与float数据类型 计算 精度问题： public class ArithUtil { private static final int DEF_DIV_SCALE = 10; //String类型数据的+-*/ //加 public static double add(String d1, String d2) { BigDe...
为什么float和double运算会丢失精度？BigDecimal就一定靠谱？
weixin_42179304的博客
04-19 935
小编精心为大家准备了一手资料以上Java高级架构资料、源码、笔记、视频。Dubbo、Redis、设计模式、Netty、zookeeper、Spring cloud、分布式、高并发等架构技术【附】架构书籍BAT面试的20道高频数据库问题解析Java面试宝典Netty实战算法BATJ面试要点及Java架构师进阶资料《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！[外链图片转存中…(img-OSHd5c00-1713459983890)]
QT开发积累——qt中的double和float精度问题
Arya的博客，专注后端领域
07-30 2764
QT开发积累——qt中的double和float精度问题
解决java数值范围以及float与double精度丢失的问题
08-30
解决java数值范围以及float与double精度丢失的问题 Java中的数值范围和浮点数精度问题是许多开发者经常遇到的问题。下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。 一、...
float、double -- 精度丢失问题
qq_37233070的博客
03-15 1503
float、double – 精度丢失问题在 C#、java 中很常见。
关于float浮点值二进制存储和运算精度损失的话题
哈市雪花的博客
08-08 1642
浮点值的存储、运算都可能会带来精度损失，了解精度损失背后的机制原因方便我们更好的了解什么情况下会发生精度损失、什么情况下精度损失较大，以及思考怎么避免或减少精度损失。
关于float， double的精度问题
a130737的专栏
10-19 881
在计算机中， 我们的real number 是以二进制的方式存储的。 而且zhexie
Double计算精度丢失（金融入门知识点）
Boush
11-09 7309
Double计算精度丢失（金融入门知识点） 一.double精度丢失 二.为什么double会精度丢失 三.BigDecimal错误的用法 四.BigDecimal正确的用法 Double计算精度丢失（金融入门知识点） 最近工作发现不少同事对于double精度丢失还不了解，对于一些新手java程序员，这倒是还可以理解，但是如果是已经工作了几年的老鸟，还不清楚，那就要抓紧补课了。废话不多说，进入今天的正题。 一.double精度丢失 public static void main(String[..
<2011 11 10> 编程中数据处理的问题（三）浮点数运算与精度误差
dizhuang5374的博客
11-05 293
上篇博文提到了两种误差，“转换误差”和“舍入误差”。其实前者完全是因为我们只习惯用十进制的科学计数法，而计算机暂时又只能使用二进制，所以必须转换进制实现人与机器的数据互动。有要是有种外星人天生习惯用二进制思考问题，我想就没这个问题啦。Ha, joking! 这篇博文进一步探讨一下，机器具体怎么在运算中产生“舍入误差”，以及这种误差对数值计算算法有什么样的影响。首先是机器...
Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整
qq_43842093的博客
05-23 8164
BigDecimal在用double做入参的时候，二进制无法精确地表示十进制小数，编译器读到字符串"0.0000002"和“1.0000002”之后，必须把它转成8个字节的double值，也就是1.0000001999999998947288304407265968620777130126953125类似这种。 所以，运行的时候，实际传给BigDecimal构造函数的真正的数值是1.0000001999999998947288304407265968620777130126953125。 BigDecima
java中double类型数据加减操作精度丢失问题及解决方法
雄的博客
01-19 722
double类型数据加减操作精度丢失问题 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。 public double add() { double number1 = 1; double number2 = 20.2; double number3 = 300.03; double result = number1 + number2 +
Mybaties @Select float 丢失精度
banana1006034246的博客
06-19 1359
Spring boot 整合 mybaties时，会出现一个奇怪的现象，假如 数据库里面有float型数据，比如 5.245，使用 @Select注解查询出来显示的是 5.0, 精度哪去了？ @Select("SELECT heat, cost FROM dm_warehouse_cost WHERE date=#{date} AND id=#{id}") WarehouseCost...
mybatis查询float类型异常
wuyuanshun的博客
05-25 2115
mybatis查询float类型异常-mybatis查询float类型结果为空 1.问题 例如我们有一个包含Float类型属性的实体，在通过接口接收对象参数（SpringMVC阶段）没有问题。但是在执行完查询语句后，没有结果。 2.原因分析 有可能是Float类型的精准度丢失，导致数据不准确，可以把Float类型换成Double类型，然后再执行查询或其他数据库操作就可以解决问题了。 ...
java float转double，精度问题
最新发布
05-13
<think>好的，我需要回答用户关于Java中将float转换为double时的精度问题以及解决方案。首先，我得回顾一下用户的问题和相关引用内容。用户提到在转换过程中出现精度丢失，想知道解决方案。用户提供的引用中有关于浮点数精度丢失的一般说明，以及使用BigDecimal、long类型或String处理的建议。 首先，我需要解释为什么float转double会有精度问题。虽然double的精度比float高，但float本身是32位，而double是64位，两者的二进制表示方式不同。当float转换为double时，虽然数值范围扩大了，但float的精度有限，可能在转换后无法精确表示某些小数，导致看似精度丢失。例如，0.1在float中已经是一个近似值，转成double时这个近似值被保留，但可能用户期望更高的精度，但实际上并没有恢复原始精确值。 接下来，解决方案方面，引用中提到BigDecimal、使用long代替、或者字符串处理。我需要详细说明每种方法的步骤和注意事项。例如，使用BigDecimal时，应该用String来构造，避免直接用float或double，因为构造时已经传入了不精确的值。另外，long方法适用于小数位固定，比如货币中的分，可以转换成整数计算后再转换回来。同时，需要注意转换时的缩放因子，避免溢出。 还要考虑用户的实际应用场景，比如金融计算中必须精确，这时候BigDecimal是首选，尽管它占用更多资源。而在性能敏感的场景，使用long可能更合适。需要提醒用户根据具体情况选择方案，并注意可能的陷阱，比如缩放因子的选择和处理。 最后，生成相关问题，帮助用户进一步理解相关主题，比如精度丢失的原因、BigDecimal的最佳实践、其他替代方案比较等。这些问题应该与用户的当前问题相关，扩展他们的知识面。 现在需要将以上思考整理成结构化的回答，确保符合用户的要求：使用中文，行内公式用$...$，独立公式用$$...$$，正确引用标记，代码块用正确语法，问题部分分点列出。同时保持回答清晰，逐步解释问题原因和解决方案，引用相关资料支持观点。</think>在Java中将float转换为double时确实可能产生精度问题，尽管double具有更高的精度（64位 vs 32位），但由于两种类型均采用IEEE 754浮点数标准，本质上都是二进制分数的近似表示。以下分步骤说明问题根源及解决方案： --- ### 一、精度丢失的原因 1. **二进制分数限制** float的精度为6-7位有效数字，double为15-16位。当float值如$0.1$（十进制）转换为二进制时，会形成无限循环二进制小数，导致存储时截断误差[^1]。转换到double时只是扩展了位数，但原始截断误差仍被保留： ```java float f = 0.1f; // 实际存储为0.10000000149011612 double d = (double)f; // 转换为0.10000000149011612（未提升精度） ``` 2. **精度范围差异** float的取值范围为$±3.4×10^{38}$，而double为$±1.7×10^{308}$。虽然double范围更大，但无法修正float原有的精度误差[^2]。 --- ### 二、解决方案及代码示例 #### 方法1：通过字符串中转 直接构造BigDecimal对象时，**避免使用float/double类型参数**，优先通过字符串保留原始精度： ```java float f = 0.1f; BigDecimal bd = new BigDecimal(String.valueOf(f)); // 正确：0.1 double d = bd.doubleValue(); // 转换为double类型 ``` > **原理**：`String.valueOf(f)`会输出float的完整十进制表示，避免二进制截断误差被带入[^4]。 #### 方法2：定点数转整数计算 适用于已知小数位数的场景（如货币单位分）： ```java float price = 19.99f; // 价格单位：元 long cents = (long)(price * 100 + 0.5); // 转为分（+0.5处理四舍五入） // 后续所有计算使用cents（整数），最终结果除以100还原 ``` > **优势**：完全避免浮点数运算，性能高且无精度损失[^3][^5]。 #### 方法3：全程使用BigDecimal 强制使用精确运算时，需统一操作入口： ```java BigDecimal value = BigDecimal.valueOf(0.1f); // 等价于new BigDecimal("0.1") double result = value.setScale(4, RoundingMode.HALF_UP).doubleValue(); ``` > **注意**：涉及除法运算时需显式指定舍入模式，否则抛出`ArithmeticException`[^2][^4]。 --- ### 三、方案对比 | 方法 | 精度保证 | 性能 | 适用场景 | |-------------|----------|--------|------------------------| | 字符串中转 | 高 | 中 | 单次转换或简单计算 | | 整数替换 | 高 | 高 | 固定小数位（如金融） | | BigDecimal | 最高 | 低 | 复杂精确计算 | --- ### 四、典型错误场景 ```java // 错误示例：直接使用float构造BigDecimal BigDecimal error = new BigDecimal(0.1f); // 内部先转为double，精度已丢失 System.out.println(error); // 输出0.100000001490116119384765625 ``` ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值