double运算丢失精度问题解决方案.

最新推荐文章于 2024-09-17 00:00:00 发布
最新推荐文章于 2024-09-17 00:00:00 发布
阅读量5.2k 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/luozhangwen/article/details/5951529

 

输出:0.9999999999999999
       1.00000040











转载请著名出处: 找网网-职业(程序员 UI设计 产品经理...)常用网站导航

double精度丢失问题
查拉图斯特拉talk的博客
02-09 1307
在Java中，使用double类型时可能会遇到精度丢失的问题。这是由于double类型是一种浮点数类型，在表示某些小数时可能会存在精度损失。这种情况通常是由于浮点数的二进制表示法无法准确地表示某些十进制小数，导致精度丢失。为了避免这种问题，可以考虑使用BigDecimal类来处理精确的十进制数值运算，因为BigDecimal类可以提供更高的精度和控制。另外，尽量避免直接比较两个double类型的值是否相等，而是考虑使用误差范围或者BigDecimal的compareTo方法来进行比较操作。
double精度丢失
OuYangZhiPeng
05-30 373
我们知道，浮点数值采用二进制系统表示，二进制系统无法精确表示1/10，就好像十进制无法精确表示1/3 。  所以，我们采用四舍五入/保留小数位方式以获得精简数值。 那么，问题来了：  为嘛2.0-1.9会得到17位小数的数值 （一般都是16位）『解答』http://www.cnblogs.com/shown/p/6305880.html...
float,double等精度丢失问题
demonwang1025的博客
07-11 535
面试的时候遇到了这个问题，只知道精度会丢失，但是不知道为何会丢失，在这里做个记录。问题提出：12.0f-11.9f=0.10000038，”减不尽”为什么？
解决java数值范围以及float与double精度丢失的问题
08-30
下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。 一、Java中的数值范围 Java中的基本数据类型有多种，包括整数类型（int、long）、浮点数类型（float、double）。每种类型...
浮点数计算精度丢失问题及解决方案
YT的博客
09-17 2731
本文将详细探讨浮点数计算的精度丢失问题，分析其成因，并提供解决方案。
使用BigDecimal解决double类型数据运算的精度问题
kuaixiao0217的博客
05-06 995
使用BigDecimal解决double类型数据运算的精度问题
Java小数乘整数_关于float和double丢失精度问题及解决方案
weixin_33872754的博客
02-28 2054
double result = 1.0 - 0.9;System.out.println(result);//0.09999999999999998出现这种结果的原因：float和double类型尤其不适合用于货币运算，因为要让一个float或double精确的表示0.1或者任何其他负数次方值是不可能的(十进制系统中不能准确的表示出1/3，同样二进制系统也不能准确的表示1/10)。1.十进制整数转...
浮点数运算精度问题分析与解决方案
学习记录
08-04 4836
最近在项目中遇到精度计算问题，用Double类型的数据减去Double类型的数据，得出的结果在预期之外，经过一番思考与学习，最后找到解决问题的方案。 一、浮点数运算导致精度问题现象 代码如下： Double num1 = 2.1; Double num2 = 2.0; System.out.println(num1 - num2); 用人类的口算可以知道，结果是0.1。可是...
double类型精度丢失；double转换到64位整数
09-29
//将double类型转为_int64,防止精度1丢失 //将double类型转为_int64,防止精度1丢失
Double计算精度丢失（金融入门知识点）
Boush
11-09 7307
Double计算精度丢失（金融入门知识点） 一.double精度丢失 二.为什么double会精度丢失 三.BigDecimal错误的用法 四.BigDecimal正确的用法 Double计算精度丢失（金融入门知识点） 最近工作发现不少同事对于double精度丢失还不了解，对于一些新手java程序员，这倒是还可以理解，但是如果是已经工作了几年的老鸟，还不清楚，那就要抓紧补课了。废话不多说，进入今天的正题。 一.double精度丢失 public static void main(String[..
double精度丢失总结
kxd828的博客
04-28 3620
这里写自定义目录标题1、double的结构2、double的存储原理3、精度丢失示例4、解决方法
double精度丢失和避免方法
南有南无
05-21 3296
double取余数：% private void test(){ double mainByNumber = 3.3D; double spc = 0.1D; double result = mainByNumber % spc; double result = mainByNumber * spc; ...
JAVA double精度丢失问题
雨汨的博客
05-11 4631
针对十进制，1除以3是除不尽的。很好理解，因为我们一直接触的就是十进制，等于0.333333…十进制 转二进制(每次将小数部分乘2，取出整数部分，如果小数部分为0，就可以停止这个过程)：十进制0.1。0.1*0.1使用计算器计算是0.01，代码里却是0.010000000000000002。在商城里面计算订单金额的时候，我们就不得不解决这个问题了，这时候就用到了。但是：二进制系统中无法精确地表示分数 1/10。《Java核心技术卷》书上也是这么写的。因为计算机只能识别0和1，即二进制，
double类型 精度丢失的问题
A_aspectJ的博客
08-05 5139
因为计算机只能识别0和1，即二进制，无论哪种编程语言，都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示， 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
mysql double 乘法 缺失精度
weixin_30888707的博客
01-11 1824
CREATE TABLE tmp_decimal( id BIGINT auto_increment PRIMARY KEY , amount DOUBLE ); 创建测试表 插入测试数据 INSERT INTO tmp_decimal(amount)VALUES(73.6),(73.60),(73.61); amount格式为double，数据的标度为插...
Double精度丢失问题排查及解决思路
Xiang想
11-02 3207
排查因 Double 引发的精度丢失问题的思路及解决方案，引发对 BigDecimal 的扩展
Double为什么会丢失精度？
热门推荐
u011277123的博客
07-13 3万+
斯蒂芬朱cPlusPlus2019-07-12 09:20:00 前言：在工作中，谈到有小数点的加减乘除都会想到用BigDecimal来解决，但是有很多人对于double或者float为啥会丢失精度一脸茫然。还有BigDecimal是怎么解决的？话不多说，我们开始。 1.浮点数是啥？ 浮点数是计算机用来表示小数的一种数据类型，采用科学计数法。 在java中，double是双精度，64位，...
java中double相加后精度丢失，如何解决
最新发布
10-29
在Java中，由于双精度浮点数(double)的内部表示不是精确的二进制形式，所以在进行大量计算时可能会发生精度损失的问题。如果直接将两个double类型的值相加后发现结果不准确，这通常是因为计算机只能存储有限位的精度，并非所有小数都能完全精确地表示。 解决这个问题有几种策略： 1. **舍入规则**：可以使用`Math.round()`或`java.lang.Math.floor()`、`Math.ceil()`等函数对结果进行四舍五入，但这并不能恢复丢失的精度，只是改变了显示的近似值。 2. **使用BigDecimal**：`java.math.BigDecimal`是一个精确的大数类，它可以避免浮点运算的精度问题。通过创建`BigDecimal`实例并进行加法操作，能得到期望的精确结果。 ```java BigDecimal bd1 = new BigDecimal("0.1"); BigDecimal bd2 = new BigDecimal("0.2"); BigDecimal sum = bd1.add(bd2); ``` 3. **使用RoundingMode**：`BigDecimal`类提供了一种名为`RoundingMode`的枚举，可以根据需要指定四舍五入模式，如`UNNECESSARY`、`UP`、`DOWN`等。 4. **尽量避免不必要的转换**：除非必要，尽量在处理浮点数之前就完成尽可能复杂的计算，以减少精度损失的可能性。 需要注意的是，尽管这些方法可以避免部分精度问题，但并非所有数学计算问题都能得到完美的解决方案，因为数字本身的精确性限制了我们能达到的精确度。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值