两个Double类型相减出现精度丢失问题

最新推荐文章于 2024-06-29 10:06:20 发布
最新推荐文章于 2024-06-29 10:06:20 发布
阅读量1.8k 收藏 1
点赞数
CC 4.0 BY-SA版权
文章标签： c/c++ 数据库 python
原文链接：http://www.cnblogs.com/qianzf/p/10983468.html
本文探讨了在进行Double类型数值运算时遇到的精度丢失问题，例如720.50-279.5计算结果为440.099999999而非预期的440.1。文章提出了解决方案，即将数据库中的类型改为decimal，确保小数点后两位的精确度。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

两个Double类型相减出现精度丢失问题

720.50-279.5=440.099999999

而不是440.1

解决方法，将数据库中的类型改为decimal类型，小数精确到2位

 

转载于:https://www.cnblogs.com/qianzf/p/10983468.html

1361976860
关注
Double类型相减之后精度问题和取消数据过大产生的E
YAn_2018的博客
01-21 1519
//Object转Double Double d = Double.parseDouble(object.toString()); Double d1 = 283262462.161235; Double d2 = 183299220.660000; //使用BigDecimal，因为Double是二进制数字，BigDecimal 是十进制，可以避免精度问题 BigDecimal b1= new ...
两个double相减_Double类型加减乘除运算
weixin_39831239的博客
12-21 1034
public class MathDoubleUtil {private static final int DEF_DIV_SCALE = 10;/*** 格式化，double保留两位小数* @param d2* @return*/public static String format(Double d2) {try {java.text.DecimalFormat doubleFormat = ...
java中double类型数据加减操作精度丢失问题及解决方法
雄的博客
01-19 720
double类型数据加减操作精度丢失问题 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。 public double add() { double number1 = 1; double number2 = 20.2; double number3 = 300.03; double result = number1 + number2 +
double类型数据加减操作精度丢失问题
huanghai_fu的博客
12-02 1829
double类型数据加减操作精度丢失问题精度丢失新的改变解决方法 精度丢失 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。 public double add() { double number1 = 1; double number2 = 20.2; double number3 = 300.03; double result = num
float、double -- 精度丢失问题
qq_37233070的博客
03-15 1496
float、double – 精度丢失问题在 C#、java 中很常见。
double类型精度丢失；double转换到64位整数
09-29
然而，由于浮点数的二进制表示方式，当进行某些计算或转换时，可能会出现精度丢失的问题。标题提到的“double类型精度丢失；double转换到64位整数”就涉及到这一关键概念。 精度丢失通常发生在以下几种情况： 1. *...
Java中double类型数据进行运算的时候出现精度丢失问题
limenghao2002的博客
06-29 731
double类型的浮点数据进行运算的过程中出现精度丢失问题
【数字精度之痛】：Java中double到BigDecimal的精度丢失问题解决方案
[【数字精度之痛】：Java中double到BigDecimal的精度丢失问题解决方案](https://img-blog.csdnimg.cn/20201229140537533.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9...
使用BigDecimal处理两个double数相减2.0-1.1 = 0.89999999999999999...误差
James_qqh的博客
03-04 2916
public double getSubtotal(){         /*          * 使用BigDecimal不会有误差          * 要求必须使用String类型          * 如果两个double数相减2.0-1.1 = 0.89999999999999999...          * 经过BigDecimal处理就是2.0-1.1=0.9    
float及double类型减法运算时精度丢失问题
weixin_33779515的博客
10-05 1214
当float和double类型在进行减法运算时，会出现精度丢失问题，这种问题主要是由于计算机中普遍使用2进制所造成的。在此做为记录，防止日后遗忘。publicstaticvoidmain(String[]args){ floata=2.1f; floatb=2.0f; floatc...
float或double相减精度丢失
Nightliar的博客
03-07 1148
两个float的数相减会出现精度丢失的问题 package com.hz; import java.math.BigDecimal; public class Test { public static void main(String[] args) { float a = 50.01f; float b = 50.00f; float ss = a - b; BigDec
mysql 2e15_double 计算 精度缺失解决方案（加上 2e-15或是1.2e-15 补充缺失精度） | 学步园...
weixin_35188854的博客
01-19 1306
/*** 由于两个double相乘，会引起精度的缺失，即使使用BigDecimal也不能解决* 比如：11.7*1.95 = 22.814999999999998(正确值应该为22.815) 所以四舍五入时变成22.81而不是22.82* 一个简单解决方法就是round时，加上2e-15或是1.2e-15作为精度缺失的补充*/double a = 11.7;double b = 1.95;BigD...
c++ 从double变为long int 数据丢失_Java浮点数的精度丢失问题
weixin_39802132的博客
12-26 983
1.精度丢失问题(1)精度丢失众所周知，Java中一共有八种基本数据类型，分别是boolean、byte、char、short、int、float、long、double，其中float与double则是用来表示浮点数的，也就是数学中所说的小数大家总是说，Java中的浮点数会造成精度丢失，但是为什么会精度丢失，什么情况下会发生精度丢失，想必很多人没有深究过(2)精度丢失面...
double 计算 精度缺失解决方案（加上 2e-15或是1.2e-15 补充缺失精度）
CTO成长之路——Rosanu
04-16 4017
/** * 由于两个double相乘，会引起精度的缺失，即使使用BigDecimal也不能解决 * 比如：11.7*1.95 = 22.814999999999998（正确值应该为22.815） 所以四舍五入时变成22.81而不是22.82 * 一个简单解决方法就是round时，加上2e-15或是1.2e-15作为精度缺失的补充 */ double a = 11.7; double b =
Double BigDecimal 精度丢失总结
javazhang400的专栏
11-18 837
Double 加减乘除会存在精度丢失问题，这个不用多说，建议BigDecimal 现在说说用了BigDecimal 精度还是丢失，这样有点妖 验证后总结 new BigDecimal直接用 Double.parseDouble精度还是会丢失，这里备记一下 BigDecimal正确用法 方式一 ： BigDecimal decJEY1 = BigDecimal.valueOf(Double.parseDouble("1193.75")); ...
double保留两位小数的四种方法
热门推荐
gongjin28_csdn的博客
03-21 1万+
在Java编程中，我们经常遇到需要对double类型的浮点数进行精确截断或四舍五入保留两位小数的需求。由于double类型在进行浮点运算时存在精度问题，因此，为了获得期望的精确表示，我们可以采用一些专门针对数值处理的类来达到目的。本文将详细介绍几种在Java中常见的、用于将double类型数据保留两位小数的方法。来实现更为复杂的功能。在这里，我们设置了最多显示两位小数，但它默认的四舍五入规则可能因地区而异，不如。包下的格式化工具类，它可以方便地格式化数字输出，包括对小数位数的控制以及四舍五入规则的设定。
C++实数和复数相减方法（其它运算可以参考）
crystal_H_J的博客
05-21 405
定义一个复数类 Complex，重载运算符“-”，使之能用于复数与实数的减法运算。参加运算的两个操作数一个是类的对象，一个是实数，顺序任意。例如：i-c，c-i 均合法（其中，c 为复数类的对象，i 为实数）。主要运用有元运算符重载函数的相关方法，Complex operator-（Complex &d,double x) 这里的x前不能加引用声明符&，否则会出现运行错误。减法规则：复数实部与实数相减，复数虚部不变。
double的相减比较大小是否可行
最新发布
03-04
好的，我需要回答用户关于使用double相减比较大小是否可行的问题。首先，用户之前询问过Double.compare方法，现在转向直接相减的方法，可能需要对比两者的优缺点。 首先，我需要回忆Java中double的基本知识。double...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值