java中的double和float数据精度

最新推荐文章于 2023-05-29 21:15:06 发布
原创 最新推荐文章于 2023-05-29 21:15:06 发布 · 779 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#java #二进制 #计算机

今天遇到一个问题，就是java中double类型的精度问题



本来应该是尾数只有一个精度的，结果变成这样，GOOGLE了一下，解释说是计算机本身、二进制来表示double类型会缺失一定的精度--

https://www.iovi.com/post/2014-07-07-talk-about-double-in-java.html

解决方法：

第一种，利用string.format方法



第二种方法是用BigDecimal方法


java浮点数精度问题
大家一起研究研究
06-24 2006
由于浮点数不能在计算机中精确的表示，所以可能导致一些细微的问题。一般场景用double就能满足， 如果需要精确计算（比如涉及到金融行业的累计算），可用BigDecimal，还可以 用整型来表示小数，就是将小数乘以10的倍数变为整数再处理。
Java中float和double的精度
weixin_34268579的博客
09-17 176
比较基本类型double和float和某一个数是否相等的时候，不要用==或>=或<=，因为double和float都是有精度问题的，计算机只能保存一定位数的小数，这就会存在精度问题。 下面我们看一下java中float和double能够比较到小数后几位： 代码实现： public class Main { public static void main(Str...
java double float 精度_精确计算java中float和double的精度
weixin_33789616的博客
02-16 355
Java中double类型的格式是遵循IEEE 754标准的。尽管数学意义上的小数是连续的，但double仅仅能表示其中的一些离散点，把这些离散点组成的集合记为S，S的大小还是有限的。如果要保存的小数P刚好在集合S内，那么double类型就能精确的表示P；否则double类型只能从集合S中找一个与P最近的离散点P‘代替P。以上表述对于float也成立。IEEE 754中float和double的表...
Java 浮点数 float和double类型的表示范围和精度
热门推荐
张小琦的博客专栏
11-15 8万+
隐约记得，浮点数判断大小好像有陷阱，因为底层的二进制数不能精确表示所有的小数。有事后会产生让人觉得莫名其妙的事情。
精确计算java中float和double的精度
diandingyin9417的博客
07-06 185
[本文相关的代码放在github上。地址为：https://github.com/VigourJiang/StructuredFloat] Java中double类型的格式基本遵循IEEE 754标准。虽然数学意义上的小数是连续的。但double只能表示当中的一些离散点。把这些离散点组成的集合记为S。S的大小还是有限的。假设要保存的小数P刚好在集合S内，那么double类型...
java double float 精度_java的double和float精度问题
weixin_36473398的博客
02-12 149
在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit，double有64bit。它们的构成包括符号位、指数位和尾数位。这些位的构成如下：种类-------符号位-------------指数位----------------尾数位----float---第31位(占1bit)---第30-23位(占8bit)----第22-0位(占2...
Java基础系列：数据精度float,double,BigDecimal
天然玩家的博客
05-14 5293
数据精度在金融相关（与钱相关）的领域应用非常广泛，通常使用的浮点型数据类型float和double都有精度限制，在处理更多位数取舍（超出float和double精度范围）以及保留小数点后面的几位小数需要结束BigDecimal处理，在四舍五入的功能上，BigDecimal提供了7种取舍模式，本文配以取舍案例讲解。
java float的精度_java中的float和double的精度问题
weixin_26970501的博客
02-12 1683
此文解释了为何float的范围比int大(同样4字节)，但有些int是float无法正确表达的(精度丢失)java中的float和double的精度问题1、背景知识在java中没有细讲，只是讲了float占32位(bit)，double占 64位。对于计算机来说，用位数表示是合适的。但有人喜欢用字节(byte)表示。一个字节占8位。1 byte = 8 bit.所以float占4个字节，doubl...
java double 精度范围_float 和 double 范围和精度
weixin_31861647的博客
02-23 3608
做java已经有段时间了，可是遇到什么范围啊，精度啊就迷糊，虽然自己经常使用，自己的数据也从未超过int型的范围，但还是多了解下，用着才放心嘛……1. 范围float和double的范围是由指数的位数来决定的。float的指数位有8位，而double的指数位有11位，分布如下：float：1bit(符号位) 8bits(指数位) 23bits(尾数位)double：1bit(符号位) 11bits...
Java float和double类型的精度和进制
qq_44505027的博客
05-29 1660
Java float和double类型的精度和进制
java数值范围以及float与double精度丢失问题
不忘初心的博客
05-19 2万+
1.java中int,float,long,double取值范围 public class TestOutOfBound { public static void main(String[] args) { System.out.println(Integer.MAX_VALUE-(-Integer.MAX_VALUE)); //内存溢出 System.out.println(Integer.
java中float与double精度问题
u012164021的博客
01-06 702
一、float与double介绍 我们使用数据的时候都是使用十进制的方式进行运算，然而在计算机中数据存储都是使用二进制的方式。 我们通过使用十进制进行小数点存储运算时，数据是可以精准展示，但是在进行二进制转换后得出的数据因精度问题就不能精确展示。 1、float与double的区别 在内存中占有的字节数不同 单精度浮点数在机内占4个字节,32位，首位表示符号，8位表示阶数k，剩下表示尾数部分。 ...
java float double精度为什么会丢失？(转)
pingwei000的博客
08-09 389
由于对float或double 的使用不当，可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解: view plaincopy to clipboardprint?public class FloatDoubleTest {   public static void main(String[] args) {   float f = 20014999;   double d = f; ...
Java中float类型精度问题
weixin_34162695的博客
06-10 277
  今天发现了一个小的问题，在网上找了说的不多，在这记录下来方便自己和比人解决自己的问题吧。 代码片段 1float unit = Double.valueOf(ActionUtils.getBillingTransformUnit(request));//取出换算单位1000.02                float   svt = ((curveSegment.getEndVal(...
JAVA基本数据类型范围和float、double精度问题
XiChuan的博客
11-30 1万+
1.八中数据类型的分类如下： 第一类：整型 byte short int long 第二类：浮点型 float double 第三类：逻辑型 boolean(它只有两个值可取true false) 第四类：字符型 char 2.各种基本数据类型所占的字节： boolean 布尔型 1/8 byte 字节类型 1 cha
Java中double或者float类型的数据精度问题
sinat_38848255的博客
07-29 409
Java中double或者float类型的数据精度问题 今天在编程进行一项测试的时候，需要用到double类型的数据做一个for循环，需要定义一个double类型的数据i从0自增到1，幅度为0.05。在使用时发现这个数据没有办法加到1，经过输出找到了问题代码如下： @Test public void test10() throws Exception { double i = 0.0; for(;i <= 1.0;i += 0.05) { System.out.println(i); } }
JAVA float精度
leenpong的专栏
11-20 1593
Java代码 1 1.import java.math.BigDecimal;   2 2.import java.util.Scanner;   3 3.   4 4.public class test {   5 5.   6 6.    public static void main(String[] args) {   7 7.   8 8.        float a
java基本数据类型（浮点型）：float、double，二者之间的区别？
weixin_50777322的博客
07-17 8522
java基本数据类型（浮点型）：float、double，二者之间的区别？
java 中 double 和float
最新发布
07-11
### ### 数据类型分类 在 Java 中，`float` 和 `double` 都属于**基本数据类型**中的浮点数类型。其中，`float` 是单精度浮点数，占用 32 位（4 字节），而 `double` 是双精度浮点数，占用 64 位（8 字节）[^1]。 --- ### ### 默认类型与语法差异 Java 中的浮点数字面量默认是 `double` 类型。因此，如果要声明一个 `float` 变量，必须在数值后加上 `f` 或 `F` 后缀。例如： ```java float a = 3.14f; // 必须加 f 后缀 double b = 3.14; // double 可省略后缀 ``` 这种设计是为了避免精度损失问题。如果尝试将一个 `double` 类型的字面量赋值给 `float` 变量而不进行显式转换或添加后缀，则会导致编译错误[^1]。 --- ### ### 精度与存储结构对比 由于 `float` 和 `double` 使用的是 IEEE 754 标准表示法，它们在内存中分别使用不同的位数来表示尾数和指数部分，因此其精度也不同： - `float`：有效位数约为 6~7 位十进制数字。 - `double`：有效位数约为 15~16 位十进制数字。 例如，以数值 `8.25` 存储为例，在 `float` 和 `double` 中虽然都能正确表示为二进制形式（即 `1000.01`），但由于 `double` 拥有更高的尾数位数，它能更精确地表示更多小数形式的数据。 --- ### ### 精度丢失问题 在实际使用过程中，`float` 和 `double` 都可能出现精度丢失的问题，这是因为它们使用的是**二进制浮点运算机制**，无法准确表示某些十进制小数。例如： ```java public class Test { public static void main(String[] args) { double a = 0.11; double b = 2.32; System.out.println(a + b); // 输出结果可能不等于 2.43 System.out.println(0.11 + 2.32); // 输出结果仍可能不等于 2.43 float c = 0.11f; float d = 2.32f; System.out.println(c + d); // 输出结果也可能存在误差 } } ``` 上述代码中，无论是 `float` 还是 `double`，计算结果都可能存在微小误差，这是由于浮点数在二进制中的近似表示导致的[^2]。 --- ### ### 使用场景对比 | 场景 | `float` 适用性 | `double` 适用性 | |------------------|------------------------|----------------------------| | 科学计算 | ✅（低精度需求） | ✅（高精度首选） | | 图形处理 | ✅（GPU优化场景） | ❌ | | 财务计算 | ❌ | ❌（需用 `BigDecimal`） | | 工程测量 | ✅（如温度采集等） | ✅（如精密仪器数据） | 在需要高精度计算的场景（如金融系统、科学模拟）中，应避免使用 `float` 和 `double`，而推荐使用 `BigDecimal` 类来处理，以确保计算结果的准确性[^1]。 --- ### ### 开发建议 1. **优先选择 `double`**：除非明确需要节省内存或与旧系统交互，否则推荐使用 `double`，因为其精度更高。 2. **避免直接比较相等**：由于精度问题，应使用误差范围判断两个浮点数是否“接近”，例如： ```java boolean isEqual = Math.abs(a - b) < 1e-6; ``` 3. **关键计算使用 `BigDecimal`**：对于涉及金额、税率等关键业务逻辑时，应使用 `BigDecimal` 来避免精度问题[^1]。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值