关于float计算结果不精确问题

最新推荐文章于 2022-03-03 19:23:12 发布
原创 最新推荐文章于 2022-03-03 19:23:12 发布 · 1.8k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了Java中float及double类型的精度丢失问题，并介绍了如何使用BigDecimal类来解决这一问题，确保数学运算的准确性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

参考文章：Java Float类型 减法运算时精度丢失问题

今天参加面试，面试官问到一个问题，两个float相除怎么证明是否整除，我提出了几个方法，他提示我精度有可能会丢失，然后我就懵逼了，回来搜索了一下发现float和double都是用来科学计算的

float和double的底层实现是二进制的。十进制中的一个有限位数小数，转换成二进制就不一定是有限位数了，一旦位数超过的float和double型的位数宽度，就会出现“精度溢出”

然后提出相对其进行精确计算，需要先进行转换成为BigDecimal对象再进行计算。

add()加法运算
subtract() 减法运算
multiply() 乘法运算
divide() 除法运算
面试虽然炸了，但是学到了以前不知道的东西，算是有所收获吧 大哭

浮点数计算中的精度丢失
甜筒八部 的专栏
06-20 664
浮点数运算为什么会丢失精度 在内存中存储的浮点数方法格式分别是 float 符号位(1bit) 指数(8 bit) 尾数(23 bit) double 符号位(1bit) 指数(11 bit) 尾数(52 bit) 其中指数也有正负之分，有一个bit位是符号位。 于是，float的指数范围为-128 +127（ -2^7= -128 —— 2^7-1=127） ; 而double的指数范围为-1024 +1023（ -2^10= -10...
js中的价格计算float价格乘以int数量的结果不精确
最新发布
05-30 558
在JavaScript中，当一个float（浮点数）和一个int（整数）相乘时，结果将是一个浮点数。这是因为在乘法运算中，如果其中一个操作数是浮点数，JavaScript会将另一个操作数隐式地转换为浮点数，以确保精度。至于为什么1.1乘以10的结果是11.000000000001，这是由于浮点数在计算机中的表示方式导致的精度问题。在计算机中，。1.1在二进制中是一个无限循环的小数，所以在计算机中以浮点数形式存储时，它并不精确。
【Java】Float计算不准确
dongjizheng9270的博客
09-01 135
大家可能都遇到过，float在计算某些值时，会有不准确的情况。 比如如下情况： > 计算不准确 package com.nicchagil.study.java.demo.No10float计算.No01不准确的举例; public class Call { public static void main(String[] args) { ...
Python中浮点型（float）计算不精确原因探究
adorable_的博客
11-09 7951
一、问题说明   在Python中定义两个浮点型进行计算，会发现某些时候计算并不准确。如下图的代码，并没有得到预期的0.3，而是一个无限接近0.3的数值。 为什么会出现这种情况呢？ 二、问题原因   查阅各方资料得知，由于所有数据在计算机中都是以0和1形式存储的，在机器字长有限的情况下，浮点型的精度也是有限的。浮点型在计算机中的存储一般遵从IEEE 754标准。 IEEE 754标准：   IEEE 754标准规定浮点数的存储包括三部分，分别为“数符”（表示数值正负）、“阶码”和“尾数”。（类似于.
float double浮点数不精确问题
慢慢的博客
10-10 1627
一直很困惑浮点数不精确的问题
mysql查询条件为float类型数据（查不到数据）
ZhangYuan2HH的博客
03-03 2085
记一次采坑 数据库明明有一条数据，但因查询条件有float类型数据并带有小数 导致查询不出来 数据为： 查询结果为： 猜测原因是查询时精度导致的。。没细查原因 直接上解决办法： SELECT COUNT(1) FROM yh_coal_price_futures WHERE ( time = '2022-03-02 00:00:00' AND NAME = '动力煤' AND price_type = '结算价' -- AND current_price...
详解iOS之关于double/float数据计算精度问题
08-27
iOS 之关于 double/float 数据计算精度问题详解 iOS 开发中，double 和 float 数据类型的计算精度问题是一个常见的问题。本篇文章将详细介绍 iOS 中 double/float 数据计算精度问题的根源、解决方案和高精度计算...
iOS 解决floatValue，doubleValue等计算不精确问题，一句话解决精确计算，精确比较
10-15
在iOS开发中，我们经常会遇到浮点数计算不精确的问题，这主要源于计算机对浮点数的存储方式。浮点数在计算机内部是以二进制形式存储的，由于十进制到二进制的转换不完全可逆，导致某些十进制浮点数无法精确表示，...
Python浮点型（float）运算结果不正确的解决方案
09-24
Python中的浮点型（float）运算常常会遇到不精确的结果，这是由于计算机内部浮点数的存储机制导致的。在二进制系统中，不是所有十进制小数都能精确地表示，特别是像0.2这样的分数。浮点数在内存中是以二进制浮点数的...
Mysql 查询float类型的字段查询不到结果
0_0
06-18 1034
问题： select * from payments where status = 1 and payment_fee = 0.31 查询结果为空（可四数据库明明有一条数据满足条件的） 解决： 使用format select * from payments where status = 1 and format(payment_fee,2) = format(0.31,2); 使用concat select * from payments where status = 1 and conca
唠一唠Mysql:的double和float查询数据不准确的原因
Daisy的博客
08-08 1195
float: 有这样一张表，里面的数据类型为double 但是我们使用 select * from tableName where float_num=2.2,却查询不出来数据。 目前查询select * from tableName where double_num=2.2是能查询到的，但是当double_num的长度到一定数量的时候还是可能会查询不到。 ...
float类型精度损失问题
小_鱼的专栏
06-10 2566
float范围为： 32 3.4E–038～3.4E+038 double范围为： 64 1.7E–308～1.7E+308 #include     #define EPSILON 0.0001      // Define your own tolerance#define FLOAT_EQ(x,v) (((v - EPSILON) int main()  {      
float为什么不精确
qq_41593847的博客
07-29 2379
二进制的限制 二进制的小数 就是形如 101.11 数字。 101.11 就等于 1 * 2^2 +0 2^1 + 12^0 + 12^-1 + 12^-2 = 4+0+1+1/2+1/4 = 5.75 。 对于二进制小数，小数点右边能表达的值是 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128 … 1/(2^n），计算机只能用这些个 1/2^n 之和来...
C/C++ python float、double为什么浮点计算不准确？ 表示范围及精度
qq_35608277的博客
03-05 6052
>>> 1.2 - 1.0 0.19999999999999996 根本原因：存在（用二进制存储时）“不可表示”，如0.1，0.2和0.01 计算机会把你心里想的十进制小数转换为二进制小数，然后在内存中存储二进制小数 CPython 中的 float 类型使用C语言的 double 类型进行存储。 float 对象的值是以固定的精度（通常为 53 位）存储的二进制浮点数，由于...
Java中解决double和float计算精度不准的问题
qq_35131374的博客
09-27 840
1. 问题背景 我们知道浮点数是无法在计算机中准确表示的，例如0.1在计算机中只是表示成了一个近似值，因此，浮点数的运算结果具有不可预知性。 在进行数字运算时，如果有double或float类型的浮点数参与计算，偶尔会出现计算不准确的情况。 public class BigDeciTest { public static void main(String[] args){ ...
解决 double float 数据运算不精确的问题
mffandxx的博客
01-09 3393
先运行一段代码看看结果再说： 【代码】 结果： 0.060000000000000005 0.5800000000000001 401.49999999999994 1.2329999999999999 对，你没看错，运行结果确实是这样的。
浮点精度运算不准确的原因
weixin_33724046的博客
06-12 2639
为什么浮点精度运算会有问题 我们平常使用的编程语言大多都有一个问题——浮点型精度运算会不准确。比如 double num = 0.1 + 0.1 + 0.1; // 输出结果为 0.30000000000000004 double num2 = 0.65 - 0.6; // 输出结果为 0.05000000000000004 复制代码 笔者在测试的时候发现 C/C++ 竟然不会出现这种问题，我最初...
java float精确计算
05-25
在 Java 中，float 数据类型只能提供 7 位有效数字的精度，因此当进行精确计算时，建议使用 double 数据类型。 另外，可以考虑使用 BigDecimal 类来进行浮点数的精确计算。BigDecimal 类提供了精确的算术运算，可以...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值