Double数据类型精度丢失

最新推荐文章于 2024-08-05 23:40:36 发布
原创 最新推荐文章于 2024-08-05 23:40:36 发布 · 269 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#java

在处理金融业务时，发现使用Double计算金额导致精度丢失。为解决此问题，文章介绍了如何利用BigDecimal的valueOf方法将Double转换为高精度的BigDecimal对象，并利用其内置的数值计算方法，如subtract和add，配合指定精度策略（如四舍五入），确保计算精确到小数点后特定位数。注意，不同页面的数据展示差异可能导致结果不同，但这并不一定是由于精度问题引起的。

在这行业务逻辑代码中用Double来统计金额

 

展示到页面时发现精度丢失 

 使用BigDecimal封装的方法valueOf 转化为BigDecimal类型数据

BigDecimal中封装了很多数值计算的方法

如num1.subtract（num2,mc）相当于num1-mum2 mc是设置的精度可以调策略 比如四舍五入 可以看底层原码 有很多

num1.add(num2，mc) 相当于num1+num2

 这里回复到小数点后2位

前后我使用的数据页面不同 导致结果不同 不是因为精度丢失导致的差距这么大这个要注意

double精度丢失问题
查拉图斯特拉talk的博客
02-09 1381
在Java中，使用double类型时可能会遇到精度丢失的问题。这是由于double类型是一种浮点数类型，在表示某些小数时可能会存在精度损失。这种情况通常是由于浮点数的二进制表示法无法准确地表示某些十进制小数，导致精度丢失。为了避免这种问题，可以考虑使用BigDecimal类来处理精确的十进制数值运算，因为BigDecimal类可以提供更高的精度和控制。另外，尽量避免直接比较两个double类型的值是否相等，而是考虑使用误差范围或者BigDecimal的compareTo方法来进行比较操作。
float、double -- 精度丢失问题
qq_37233070的博客
03-15 1574
float、double – 精度丢失问题在 C#、java 中很常见。
qstring转double丢失精度_MySQL数据精度丢失问题深入探讨
weixin_39522423的博客
12-07 1925
不要盲目的说float和double精度可能发生丢失，而是说在存取时因为精度不一致会发生丢失，当然这里的丢失指的是扩展或者截断了，丢失了原有的精度。decimal是好，但不是说不会发生任何精度丢失。如果问题看得不深入，总会以偏概全。 我们知道，mysql存储小数可以使用float、double、decimal等。这些类型存储的小数精度都比较高。我们平时应用最多的就是两位小数点，所以，这些类型都是可...
Double精度丢失
小树苗的博客
07-03 1124
设计数据库时，总会发现二个都可以，但是都需要认真考虑，现在的自己遇到了一个问题就是明明数据库中的数据是精确的小数点后两位，但是取出来却是不带小数点，纠结了二天，发现有以下二种办法可以解决： 1.BigDecimal public BigDecimal(doubleval) 将double转换为BigDecimal，后者是double的二进制浮点值准确的十进制表示形式。返回...
double类型 精度丢失的问题
A_aspectJ的博客
08-05 5468
因为计算机只能识别0和1，即二进制，无论哪种编程语言，都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示， 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
mysql数据精度丢失问题深入探讨
weixin_30672295的博客
02-26 817
　　不要盲目的说float和double精度可能发生丢失，而是说在存取时因为精度不一致会发生丢失，当然这里的丢失指的是扩展或者截断了，丢失了原有的精度。decimal是好，但不是说不会发生任何精度丢失。如果问题看得不深入，总会以偏概全。 我们知道，mysql存储小数可以使用float、double、decimal等。这些类型存储的小数精度都比较高。我们平时应用最多的就是两位小数点，所以，...
double类型精度丢失；double转换到64位整数
09-29
标题提到的“double类型精度丢失；double转换到64位整数”就涉及到这一关键概念。 精度丢失通常发生在以下几种情况： 1. **浮点数存储**: 浮点数在计算机内部是用二进制表示的，不是所有的小数都能精确地表示为...
double类型数据加减操作精度丢失问题
huanghai_fu的博客
12-02 1861
double类型数据加减操作精度丢失问题精度丢失新的改变解决方法 精度丢失 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。 public double add() { double number1 = 1; double number2 = 20.2; double number3 = 300.03; double result = num
利用BigDecimal类巧妙处理Double类型精度丢失
oah的博客
09-16 2141
我们已经明白为什么精度会存在丢失现象，那么我们就应该知道，当某个业务场景对double数据的精度要求非常高时，就必须采取某种手段来处理这个问题，这也是BigDecimal为什么会被广泛应用于金额支付场景中的原因啦。精度丢失的问题是在其他计算机语言中也都会出现，float和double类型的数据在执行二进制浮点运算的时候，并没有提供完全精确的结果。可以看到，使用方法一的构造函数仍然出现了精度丢失的问题，而方法二和方法三符合我们的预期，为什么会这样呢？​ 方法中的参数也必须是BigDecimal的对象。
double精度丢失总结
kxd828的博客
04-28 3678
这里写自定义目录标题1、double的结构2、double的存储原理3、精度丢失示例4、解决方法
mysql的double和float精度丢失问题
m0_52261367的博客
07-14 1938
double类型，mysql会优先保留16位有效数字，对右侧的数字进行四舍五入。float类型，mysql会优先保留6位有效数字，对右侧的数字进行四舍五入；经过测试，长度过长时。
Java Double类精度丢失问题
incredibleww的博客
03-12 3436
一、精度丢失原理 例1：15.75 -> 1111.11 step1：拆分 将整数和小数部分拆分得：15 和 0.75 step2：计算整数部分 整数部分是 15，计算得 1111，见下图： step3：计算小数部分 小数部分是 0.75，计算得 0.11，见下图： step4：合并 将整数部分和小数部分拼接得到最终的结果：1111.11 复原：1111.11 -> 15.75 step1：拆分 将整数和小数部分拆分得：1111 和 0.11 s..
mysql 查询double_Mysql Double查询进度丢失，在java程序里面解决。
weixin_33324197的博客
01-19 638
问题在mysql 中，为了大胆使用double,减少对积分账号比率问题描述，但是又多出了浮点的问题。从图中可以看出，保存在库里的值也开始丢失精度首先得明白一个问题就是，计算机如何保持小数点的问题。十进制小数如何转化为二进制数算法是乘以2直到没有了小数为止。举个例子，0.9表示成二进制数0.9*2=1.8 取整数部分 10.8(1.8的小数部分)*2=1.6 取整数部分 10.6*2=1....
Java中double类型精度丢失问题
天命王子的博客
05-10 1万+
Java中double 类型精度丢失问题
double类型精度丢失问题以及解决方法
热门推荐
UrasakiNakajima的博客
07-21 3万+
口算结果是0.01。可是用程序执行出来的结果却出乎意料，执行结果为0.009999999999999787。然后把15280.000000000002 - 15280 = 1.8189894035458565E-12这个结果返回给了前端,前端拿去和0比较, 结果就炸了原因：就是double的精度问题， 单个double数可能就有损失精度,，多个double数运算（减法和乘法都输入加法）可能导致损失的精度更多。。。
double会丢失精度，Bigdecimal就一定安全吗
楼兰过客的博客
02-01 1387
在处理精确数值计算时，BigDecimal是Java中一个强大的工具，但在使用过程中需要注意一些潜在的问题。避免使用浮点数构造BigDecimal，而是使用String类型的构造器，在进行除法运算时一定要指定舍入模式，谨慎指定舍入模式，使用compareTo比较BigDecimal的值，要使用BigDecimal进行高精度的运算。
Double float丢失精度是怎么回事？
liguangix的博客
07-01 433
Double Float 丢失精度是怎么回事？一起来看看 System.out.println(f1.0 == 0.99999999); System.out.pirntln(f1.0 == 0.9999999);
String to Double出现误差
weixin_30758821的博客
06-04 556
场景描述 做实际项目的时候，由于使用Double类的valueOf得到一个用String类型保存的金额参数（单位为元），当需要转换成以分为单位即整形表示（Integer类表示）时，需要用之前得到的double数据乘以100，强制将它转换成int类型的数据。可是结果可能会出现一分钱的误差，这会是一个很大的bug，以下模拟了问题的现象以及提出了解决问题的办法。 1、将String类型的数据用Dou...
java 处理高精度计算
kaishihaohaozuoshi的博客
12-29 454
java 处理高精度计算Double.valueOf(String) and Float.valueOf(String)都会丢失精度。 为了解决这个问题，需要用到BigDecimal类。使用的BigDecimal类的时候需要注意的地方： 1. 在实例化BigDecimal 的时候用 new BigDecimal(String) 代替new BigDecimal(double) ，new Big
double 类型的数据计算时丢失精度
最新发布
11-19
### 精度丢失的原因 在计算机中，数据是以二进制形式存储和处理的。double 类型是一种双精度浮点数，遵循 IEEE 754 标准。然而，许多十进制小数无法精确地表示为二进制小数，这就导致了精度丢失。例如，0.1 无法准确...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值