float double的精度损失

最新推荐文章于 2023-12-28 02:24:42 发布
原创 最新推荐文章于 2023-12-28 02:24:42 发布 · 469 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#postman

转：http://blog.youkuaiyun.com/fanfanjin/article/details/6908333

说的比较全面，但里面float四舍五入使用BigDecimal的方式有误，应为以下：

 

float d = 18896.45f;

BigDecimal b = new BigDecimal(Float.toString(d));
System.out.println(b.setScale(1, BigDecimal.ROUND_HALF_UP).floatValue());

 

红色代码不能使用强制转换(double) d,一样会有精度损失。

python float 精度损失_【小思考】Python的float转换精度损失所想到的
weixin_39903538的博客
01-28 615
首先，为啥会要讨论这个问题。我得为昨天拖了小组后腿深表歉意。其实程序逻辑很快就理通了的，但自己总是会因为各种各样的小问题束缚手脚，看接下来这个图片：稍微有数据敏感性的同学就能看出，中间这么一大堆又是0000又是999还是这么多位的小数，一看就是异常数据。这块数据的产生，源于代码里对两个字符串做了float转换并相减，导致出现了这种数据异常的错误。那么问题来了，1.这种异常是如何产生的？2.有哪些方...
float、double -- 精度丢失问题
qq_37233070的博客
03-15 1608
float、double – 精度丢失问题在 C#、java 中很常见。
java中float/double浮点数的计算失精度问题
登徒浪子blog
11-17 2902
 java中浮点数的计算今天在数值计算时碰到一个问题.程序如下:  double a = (3.3-2.4)/0.1;  System.out.println(a);你可能认为结果很简单,不就是9嘛,是事实上,结果为:8.999999998,为什么呢?我翻阅了一些资料,终于找出了原因.为什么浮点数会丢失精度？  十进制数的二进制表示可能不够精确浮点数或是双精度浮点数无法精确表示的情况并不少见。
float类型精度损失问题
小_鱼的专栏
06-10 2662
float范围为： 32 3.4E–038～3.4E+038 double范围为： 64 1.7E–308～1.7E+308 #include     #define EPSILON 0.0001      // Define your own tolerance#define FLOAT_EQ(x,v) (((v - EPSILON) int main()  {      
Float精度丢失
dieti3630的博客
09-16 160
BigDecimal _0_1 = new BigDecimal(0.1); BigDecimal x = _0_1; for(int i = 1; i <= 10; i ++) { System.out.println(i+" x 0.1 is "+x+", as double "+x.doubleValue()); x = x.add(_0_1); ...
关于float,double的精度丢失
zhangzhao100的专栏
09-01 6125
1.疑惑 由于对float或double 的使用不当，可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解:   Java代码  public class FloatDouble {          /**功能：打印float和double浮点数十进制和二进制表示       * @author mike       * @param args
MySQL中Decimal类型和Float Double的区别(详解)
09-09
在MySQL数据库中，数据...而`Float`和`Double`虽然存储空间更小，但存在精度损失的风险，适用于对精度要求不高的情况。在设计数据库时，应根据数据特性和业务需求来合理选择数据类型，以确保数据的准确性和系统的性能。
基于C++浮点数(float、double)类型数据比较与转换的详解
12-31
浮点数在内存中的存储机制和整型数...1、将字符串转换为float、double过程存在精度损失，只是float、double各自损失的精度不相同而已std::string str=”8.2″;float cc=atof(str.c_str()); //cc的值为8.1999998std:
浮点数的精度损失
GD_small_bit的博客
08-25 1588
对浮点型数据还不够了解？快进来，包你进步。
关于float的精度丢失总结
再鹤的博客
08-31 3431
最近在项目中遇到这么一个问题： 在提交支付的金额进行前后台的校验遇到两个金额不同的情况，我查询日志后发现是float精度丢失引起的；以下的代码运行后输出的是多少呢？ float a = 0; a = a + Float.parseFloat("152348.37"); System.out.println(a);结果是：152348.38 [
Java中float和double的精度损失
发光吖的博客
04-25 1066
Java当中的float和double类型的主要设计目标是为了简单的科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果，所以不应该被用于要求精确结果的场合。正式场合应该使用BigDecimal。 我们来看看这个例子： float base = 0.0F; for (int i = 0;i<100...
一篇文章讲明白double、float丢失精度的问题
constant_rain的博客
10-18 4587
该方法是不可预测的，以0.1为例，你以为你传了一个double类型的0.1，最后会返回一个值为0.1的BigDecimal吗？不会的，原因在于，0.1无法用有限长度的二进制数表示，无法精确地表示为双精度数，最后的结果会是0.100000xxx。该方法是完全可预测的，也就是说你传入一个字符串"0.1"，他就会给你返回一个值完全为0，1的BigDecimal，官方也表示，能用这个构造函数就用这个构造函数叭。计算机是通过二进制计算的，如果我们在二进制的视角来看待上面问题，就很容易发现问题了。
float精度丢失问题详解
huxiaodong1994的博客
08-29 4391
今天运行一个程序，发现一个很有意思的情况，可以看到代码如下所示 public static void main(String[] args) { float a = 1; for (int i = 0; i<20000000; i++) { a++; } System.out.println(a); } public static void main(String[] args) { floa
浮点数（float、double）精度损失问题
lcy的博客
12-28 1744
以前简单了解过浮点数的精度损失问题，但是没有系统整理过。😂。
浮点运算都存在精度损失
yu_shi_bin的专栏
06-24 1465
http://www-900.ibm.com/developerWorks/cn/java/j-jtp0114/index.shtml
关于c中 int, float, double转换中存在的精度损失问题
weixin_30335353的博客
05-20 424
先看一段代码实验： #include<limits> #include<iostream> using namespace std; int main() { unsigned int i = numeric_limits<unsigned int >::max(); float f = i; unsigned...
C语言float相加产生精度损失的原因
PlutoZuo的博客
11-16 1158
C语言float相加产生精度损失的原因
浮点数在计算机中的存储方式
weixin_30279751的博客
11-18 380
文章参考地址：http://www.cnblogs.com/xugang/archive/2010/05/04/1727431.html C语言和 C#语言中，对于浮点型的数据采用单精度类型(float)和双精度类型(double)来存储： float 数据占用 32bit； double 数据占用 64bit； 我们在声明一个变量 float f = 2.25f 的时候，是如何分配内存的...
计算误差的真相：为什么 float 加法会出现精度损失？
Lion_Long的博客
06-26 4068
float（浮点数）是一种在计算机编程中常用的数据类型，它用于表示带小数点的数字。在大多数编程语言中，float类型通常使用32位来表示，也被称为“单精度浮点数”或“单精度实数”。它可以表示的数值范围比整数类型要大得多，并且可以存储小数位数较多的数值。在C++、Java等语言中，float类型的定义通常如下：需要注意的是，在Java中赋值给float类型的数值后面必须加上字母“f”，否则会被默认为double类型。
qstring 转double精度损失
最新发布
06-13
### 解决QString转换为double时精度损失的问题 在Qt中，`QString::toDouble()` 方法用于将字符串转换为双精度浮点数。然而，在某些情况下，可能会遇到精度损失的问题。以下是几种解决方案，确保在转换过程中保留高精度。 #### 1. 使用 `QLocale` 进行精确转换 `QLocale` 提供了一种方法来处理不同区域设置下的数字格式化和解析问题。通过使用 `QLocale::toDouble()`，可以避免因小数点或千分位符号引起的解析错误。例如： ```cpp QLocale locale(QLocale::English, QLocale::UnitedStates); QString str = "123456789.123456789"; bool ok; double num = locale.toDouble(str, &ok); if (ok) { qDebug() << "Converted number:" << num; } else { qDebug() << "Conversion failed"; } ``` 此方法确保了即使在不同的区域设置下，也能正确解析字符串为双精度浮点数[^2]。 #### 2. 设置更高的精度 在转换前，可以通过调整显示的精度来减少潜在的精度损失。例如，使用 `QString::number()` 设置更高的精度后再进行转换： ```cpp double originalValue = 123456789.123456789; QString str = QString::number(originalValue, 'f', 15); // 设置15位小数 double convertedValue = str.toDouble(); qDebug() << "Original Value:" << originalValue; qDebug() << "Converted Value:" << convertedValue; ``` 通过这种方式，可以在转换前后保持较高的精度[^1]。 #### 3. 避免不必要的中间转换 尽量减少从 `double` 到 `QString` 再回到 `double` 的中间转换次数。每次转换都可能引入舍入误差。如果必须进行多次转换，建议始终使用相同的精度设置以减少误差累积。 #### 4. 使用 C 标准库函数进行手动转换 对于需要极高精度的情况，可以考虑使用 C 标准库中的 `strtod` 函数进行手动转换。这种方法绕过了 Qt 的内部实现，从而可能获得更高的精度： ```cpp #include <cstdlib> QString str = "123456789.123456789"; char *endPtr; double num = std::strtod(str.toUtf8().constData(), &endPtr); if (*endPtr == '\0') { qDebug() << "Converted number:" << num; } else { qDebug() << "Conversion failed"; } ``` 这种方法直接利用底层的 C 库函数，避免了 Qt 层面的潜在问题[^3]。 #### 5. 数据库字段设计注意事项 如果涉及数据库操作，应特别注意字段类型的定义。对于需要高精度的数值，建议使用 `DECIMAL` 或 `NUMERIC` 类型而非 `FLOAT` 或 `DOUBLE`，因为后者在存储时可能存在精度损失。例如，在 SQLite 中定义字段时： ```sql CREATE TABLE ExampleTable ( id INTEGER PRIMARY KEY, value DECIMAL(18, 9) -- 总共18位，小数点后9位 ); ``` 这样可以确保数据在存储和读取过程中保持高精度[^4]。 ### 示例代码 以下是一个完整的示例，展示如何在转换过程中避免精度损失： ```cpp QString str = "123456789.123456789"; QLocale locale(QLocale::English, QLocale::UnitedStates); bool ok; double num = locale.toDouble(str, &ok); if (ok) { qDebug() << "Converted number:" << num; } else { qDebug() << "Conversion failed"; } ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值