关于 double类型乘以100精度丢失的奇怪问题？

最新推荐文章于 2023-06-28 14:02:41 发布

weixin_30244889

最新推荐文章于 2023-06-28 14:02:41 发布

阅读量1.6k

点赞数

CC 4.0 BY-SA版权

文章标签： c/c++ 移动开发

原文链接：http://www.cnblogs.com/ronphy/archive/2010/11/11/1874824.html

本文通过一个具体的案例展示了在使用C/C++等编程语言进行浮点数运算时可能遇到的精度丢失问题。当double类型的变量在特定数值下乘以100时，出现了预期之外的精度丢失现象。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

double a=71234567.21;
double b=a*100;

结果：7123456720 丢了1了。

发现在千万位是7,8的时候，小数是.21 32的时候会出现。其它未测。

转载于:https://www.cnblogs.com/ronphy/archive/2010/11/11/1874824.html

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

weixin_30244889

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

02基本结构篇（D3_内部类-代码块-数据类型-变量-常量-字面量-方法-构造器）

思维码途

08-13

1223

成员内部类：1、和成员变量一样，可以使用全部的四种权限修饰符和final修饰符2、在成员内部类里可以访问外部类的所有成员变量，调用所有方法，包括静态的。3、在成员内部类里可以定义非静态成员变量，也可以使用static final 定义静态成员常量，但是不能使用static定义静态变量4、调用成员内部类的方法和访问成员内部类里变量，需要先创建成员内部类对象创建成员内部类对象必须要先创建外部类对象a. 在外部类的内部创建对象并使用b. 也可以直接创建一个成员内部类对象（和权限修饰符有关）

Java线上惨痛踩坑记录，你也一定遇到过

Moonxiyue的博客

06-12

269

线上问题年年有，今年特别多。记几次线上惨痛的踩坑记录，希望大家以史为鉴。如果调用上面的方**发生什么？id是Integer类型，而方法的返回值int类型，会自动拆箱转换，由于id是null，转换成int类型的时候，就会报NullPointerException异常。无论是《阿里Java开发手册》、《代码整洁之道》还是《Effective Java》都建议方法返回值类型尽量写成包装类型，类似Integer。还有实体类、接收前端传参类、给前端的响应类中的属性都要写成包装类型，避免拆箱出错。先看一段代码运行

参与评论您还未登录，请先登录后发表或查看评论

double 乘100 强制转换成 long long 保留两位小数时的精度问题

weixin_40981751的博客

05-19

1894

问题提出以39.8为例，先乘100，再保存为long long型整数，结果并不是3980，而是3979，结果有误 #include <bits/stdc++.h> using namespace std; int main(){ double a = 39.8; long long b; b = a*100.00; cout<<b<<endl; return 0; } 问题解决因为

Double乘100会丢精度解决

klx502的专栏

12-12

2543

解决： //先保留2位小数 BigDecimal bdc = BigDecimal.valueOf(moneyDouble).setScale(2, RoundingMode.HALF_DOWN); //double*100会丢精度 BigDecimal roundHalfUpBD = BigDecimal.valueOf(bdc.doubleValue() * 100).se...

float/double 浮点数据*100精度丢失问题

weixin_33768481的博客

04-10

2049

工作中微信支付碰到的一个问题,金额是float数字,微信参数需要分且必须是整数,所以*100的时候就有问题了 System.out.println(9.9f*100); //989.99994System.out.println(19.9f*100); //1990.0实验了好几次,一位小数情况下只有9.9有问题,其他的貌似都可以,为了避免9.9支付失败,只能使用BigDecimal了 Big...

double精度丢失

zhouxzcsdn的博客

03-21

506

N 位二进制的小数的精度是 1/2 的 N 次方。也就是说，N 位二进制数只能表示（1/2 的 N 次方）的整数倍的数。M 位十进制的小数的精度是 1/10 的 M 次方。1/10 = 1/2 * 1/5。那么 1/5 这个数（即0.2），就不能用有限长的二进制小数来表示

数据精度丢失问题

qq_47657875的博客

04-22

242

浮点数在计算机内部是以二进制存储的，但有些十进制小数无法准确地表示为二进制小数。当计算机尝试在这些浮点数之间进行运算时，可能会导致微小的舍入误差。在这个例子中，0.29 * 100会产生一个微小的舍入误差，导致结果略微偏离预期值。然而，在*10 *10的情况下，这个误差非常小，不足以影响最终结果。这是因为乘数10和10都是2的幂，所以它们在二进制下可以准确地表示为1和0。因此，在这种情况下，乘法运算可以以准确的方式执行，得到29作为结果。0.29 * 10 * 10 会得到 29。

#include<bits/stdc++.h> using namespace std; #define int long long const int N = 2e3 + 9; double shou[N][N]; int n, m; int a, b; signed main() { cin >> n >> m; for (int i = 1; i <= n; i++) for (int j = 1; j <= n; j++) if (i == j)shou[i][j] = 0.0; else shou[i][j] = 1e18; while (m--) { int x, y; double z; cin >> x >> y >> z; shou[x][y] = z; } cin >> a >> b; for (int k = 1; k <= n; k++) for (int i = 1; i <= n; i++) for (int j = 1; j <= n; j++) shou[i][j] = min(shou[i][j], shou[i][k] + shou[k][j]); double ans = 100.0 * (100.0 + shou[a][b]) / 100.0; cout << fixed << setprecision(8) << ans << endl; return 0; }我这样的代码可以保留八位小数的精度吗

03-12

最后计算ans，公式是100.0乘以（100.0 + shou[a][b]）除以100.0，然后用fixed和setprecision(8)输出结果。用户的问题是：这样的代码是否能保留八位小数精度？需要检查几个方面。首先，shou数组是double类型，而...

有n个物品快递，依次在第一天到，第二天到，第三天到，第n天到，每个物品有一个体积a i ，和一个重量b i 。小fz有一个书包，体积是v。第一天拿到快递，第二天拿到快递，第三天拿到快递时，每天小fz都会尝试把所有收到的物品尝试多种组合，放在书包中。但是这个世界很奇怪，物品的体积不是按和算的，是按照乘积算的QAQ 即两个物品体积分别为2和3的话，总体积是6。分别是3，5，8的话，总体积是120。每天的物品体积的乘积都要小于等于书包体积，问每天书包最重可能是多少？使用01背包dp的方法完成。C++

热门推荐

天命王子的博客

05-10

1万+

Java中double 类型精度丢失问题

JAVA中double类型精度丢失问题

m0_60393863的博客

02-25

1741

对两个double类型的值进行运算有时会发现结果精度丢失的问题

Java中double精度丢失如何处理

Keep learing, and stay fast

07-14

2273

不论是double还是float都是浮点数，计算机进行计算的时候采用二进制来计算，先将10进制转换成二进制，然后进行计算，最后再将二进制转换为十进制。浮点数会失去一定的精度

double数据乘以100出现位数变多问题

caoyizhi1987的专栏

09-05

8486

很奇怪，我在做除法运算获取一个double数据后，再乘以100转换为百分数时竟然出现位数增多的现象不知为何，但是转换为float后再乘就会解决这个问题这里记录一下： BigDecimal b1 = new BigDecimal(Dou

double 乘以100小数太多

weixin_42588555的博客

01-18

575

在计算机编程中，double 类型的精度可能会在乘 100 时出现精度问题。这是因为在计算机中，浮点数存储有限制，可能会导致精度损失。如果需要精确的结果，可以使用整数类型或精确小数库来处理。 ...

JS中处理浮点类型金额数值相乘精度丢失问题解决方案

iteye_13151的博客

06-09

571

function accMul(arg1,arg2){ var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.re...

double数值乘以100后精度增加的问题

m0_37791204的博客

04-23

3451

问题代码: Double dou = Double.parseDouble("77.10")*100; String str = dou.toString(); System.out.println(str); //7709.999999999999 System.out.println(str.substring(0,dou.toString().indexOf("."))...

踩坑系列：double数据类型乘以100得到的数据不准确

weixin_42921986的博客

03-30

2970

看下面的一段代码的运行结果： public class TestDouble { public static void main(String[] args) { double d =538.8; System.out.println(d*100); } 输出结果很意外的不是 53880 而是53879.99999999999 解决方法一： 538.8100 用10*10 替换,才能得到我们想要的结果 538.810000 用 100100替换。解决方法二： public class TestDou

double乘法失去精度，double保留小数问题

qq_40788718的博客

07-23

4004

计算百分比情景：首先相除，然后×100 ； double保留小数 /** * 小数点后保留四位位小数 */ String result = String.format("%.4f",(dividend / total)) ; double r = Double.valueOf(result) ; double乘法计算失去精度 //接上面的代码 double result = r * 100 ; 这是double可能会丢失精度，比如 0.3060 -> 30.59999999···· 我的解决