也谈浮点精度问题:找回丢失的精度

implicit conversion increases floating-point precision: ‘float‘ to ‘double‘ [-Werror,-Wdouble-promot frameworks/native/libs/gui/SurfaceComposerClient.cpp:345:57: error: implicit conversion increases floating-point precision: 'float' to 'double' [-Werror,-Wdouble-promotion] ALOGE("client setMatrix, %.2f, %.2f, %.2f, %.2f,", (dsdx), (dtdx), (dtdy), (... 阅读详情

要点

在java float double精度为什么会丢失?浅谈java的浮点数精度问题 中描述了java中float精度丢失的问题:即便是整数也可能发生精度丢失。顺着其思路,我们简要复习一下关于floating point的精度问题

IEEE754
arithmetic formats

Binary floating-point numbers are stored in a sign-magnitude form where the most significant bit is the sign bit , exponent is the biased exponent, and "fraction" is the significand without the most significant bit .

IEEE754-1985 中规定的浮点数格式由三部分组成,符号位,指数,小数(又称尾数mantissa)。

  • 符号位(sign bit):1为负数,0为正数
  • 指数(exponent biasing):使用的是biased exponent, 也被称为移码。移码就是将数值加上某个偏移量(单精度是127,双精度是加上1023)。为什么用移码,wiki解释:使用二进制的补码来存储,不方便于比较。使用移码,负值变为正值[-126,127]变为[1,254],方便对阶。
  • 小数(fraction):最高一位省略. 当1 < exponent < 2e − 2,这个省略的一位是1,此时我们称之为规范化的数(Normalized numbers)。如果指数为0,小数部分不为0,这个省略的一位是0,我们称之为Denormalized numbers。当指数和小数部分都是0时,这个省略位也为0,根据符号位的不同,表示正负0。其他就(Infinities和NaNs)不作介绍。

关于normalized,我们十进制很熟悉,比如20014999,就是2.0014999*10^7,二进制的normalized呢?首先将20014999转换成二进制数

1 0011 0001 0110 0111 1001 0111

然后normalized,就是1.001100010110011110010111*2^24。得到指数为24+127=151 (10010111),小数为.001100010110011110010111(最高位省略),符号数为0。因此其单精度浮点数为:

0 10010111 0011 0001 0110 0111 1001 0111

细心的读者会发现,其小数部分为24位,而单精度的浮点数小数位只有23位。如果精度不足以表示时怎么办?下文我们就介绍IEEE754的Rounding alorithms。

rounding algorithms

Round to Nearest – rounds to the nearest value; if the number falls midway it is rounded to the nearest value with an even (zero) least significant bit

y

round
to
nearest

+23.67 +24
+23.50+23 or +24
−23.35−23
−23.50−23 or −24

用一个估计值(二进制准确表示的值)来代替原有值,最常用的就是找一个最接近的二进制值来表示。如果有两个同样接近的二进制数,则选择最后一个bit值为0的数。因此上面例子中的最后几位0111,round之后变为1000,最后得到20014999二进制表示为:

0 10010111 0011 0001 0110 0111 1001 100  

从上面可以看出,小于2^24(16777216)的正整数,单精度浮点数可以准确表示。

问题

我们的问题是:有一个浮点数经过 double-> float –> double的转换,我们如果找回丢失的精度?目标精度是0.00001

经测试,double->float时后可保留7位有效精度

 

使用Math.round来找回丢失的第5位精度

 

一些参考链接

精 度丢失问题

转换器

转换器2

更多的问题

 

StrictMath

BigDecimal

JS的浮点数计算精度丢失问题解决方案 近期在做项目的时候,遇到了一些JS浮点数精度的问题。这个问题,其实说大不大,说小不小。但是这次因为涉及到一些财务和结算的问题,然后突然发现这个小问题处理起来还是挺麻烦的。这里把相关的原因的问题的解决方案整理一下,也希望给各位提供一些参考。 阅读详情

相关推荐

Java浮点类型和计算“精度丢失”原因

本文将介绍浮点数的基本概念,包括单精度和双精度浮点数的区别,以及计算精度丢失问题的原因和解决方法。通过深入理解浮点数的内部表示和计算机中的运算规则,我们可以更好地处理浮点数计算中的精度问题,提高程序的稳定性和准确性。

晓郎编程 1496

MDK5常见错误

MDK5常见错误错误1、 改正方法: 错误2、 改正方法:

Cecilia_li的博客 1832

【C语言】 浮点数精度丢失

浮点型变量 浮点型变量分为单精度(float)型,双精度(double)型和长双精度(long double)型,三类。 浮点数精度丢失 比如我们赋值给a=1.23456789e10,加10后,应该得到的值是1.234567891e10 #include<stdio.h> int main() { float a,b; a = 1.23456789e10; b = a + 10; printf("%f",b); return 0; } 但结果却如下...

qq_51931342的博客 5148

Warning[Pa093]: implicit conversion from floating point to integer 类型强制转换

出现这个问题主要是有类型转换引起的,先学习这三个知识(数字类型、C 库函数 - printf()参数、强制转换)。注释掉的是隐式转换,没有注释的是“强制转换”

weixin_37756433的博客 5847

BigDecimal解决浮点数运算精度丢失问题

我们知道计算机是二进制的,而且计算机在表示一个数字时,宽度是有限的,无限循环的小数存储在计算机时,只能被截断,所以就会导致小数精度发生损失的情况。的值,如果相等就返回 0,如果第 1 个数比第 2 个数大则返回 1,反之返回-1。通常情况下,大部分需要浮点数精确运算结果的业务场景(比如涉及到钱的场景)都是通过。方法不仅仅会比较值的大小(value)还会比较精度(scale),而。1.0 的 scale 是 1,1 的 scale 是 0,因此。来定义浮点数的值,然后再进行浮点数的运算操作即可。

略 1437

关于浮点数的精度丢失问题

** 浮点数的精度问题 ** 研究原因 小程序项目中,向客户端传值时传成了Number类型,结果在展示时出现了精度丢失的问题 研究内容 本篇内容一部分为徐文浩先生的深入浅出计算机组成原理后的笔记整理,细节方面有加以完善 一、浮点数的简单介绍 在IEEE754(二进制读点书算术标准,详情见链接 )标准中定义了比较常用的单精度浮点数和双精度浮点数。一个浮点数可以表示为v = s * e * f(即符号...

yotomato的博客 1080

破除匪夷所思bugs,从修正编译警告开始

交付软件给客户却是很多问题,一些问题解决就可以了。但有些问题却是一时出现,一时不出现,十分令人恼火,程序猿是超人也难以应付。本文以编译警告为引入点述说在开发过程中的匪夷所思的问题。引以为鉴,重视警告的影响。

Qt君 6163

carsim与simulink联合仿真学习笔记(二)——使用C-class车模做driver model仿真(5 driver sensors)

Driver model 在carsim的Simulink库中自带外部驾驶员模型,打开后如图所示: 然后打开carsim中对应的数据集,如图所示: 具体仿真步骤不在赘述,注意到这里选择的是E-Class车模,那么如果我想选择C-Class车型进行仿真呢?点三角选择车型可以看到: 马赛克部分是我后来建的,如过没有使用过是没有马赛克部分的。那么既然这里没有C-class,又该怎么办呢? 创建C-...

xufuqiang2017的博客 4121

处理iOS开发中的各种警告

iOS开发中我们会遇到各种警告,包括第三方不再支持更新导致的警告,苹果一些过时方法的警告,其中尤其是ASIHttpRequest的不支持更新导致有很多的警告,所以我在这里做了罗列 Semantic Warnings WarningMessage -WCFString-literal input conversion stopped due to an inpu...

3164

VS配置RTKLIB(卫星定位开源代码)环境

@RTKlib代码调试教程-Visual Studio 2019 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。 ##RTKLIB-rtklib_2.4.3 提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 @RTKlib代码调试教程-Visual Studio 2019 提示:这里可以添加本文要记录的大概内容: 例如:随着人工智能的不断发展,机器学习这门技

qq_42209977的博客 4487

实体对齐(Entity Alignment)相关论文与数据集整理

实体对齐(Entity Alignment)、知识图谱融合方法总结整理 年份 模型 主要思想 博文推荐 论文 代码 2019 Entity Alignment between Knowledge Graphs Using Attribute Embeddings 实体对齐数据集整理 名称 — DBpe-dia(DBP) LinkedGeoData(LGD) Geonames(GEO) YAGO ...

bjxxkjdxcdd的博客 1万+

double类型精度丢失问题以及解决方法

口算结果是0.01。可是用程序执行出来的结果却出乎意料,执行结果为0.009999999999999787。然后把15280.000000000002 - 15280 = 1.8189894035458565E-12这个结果返回给了前端,前端拿去和0比较, 结果就炸了原因:就是double的精度问题, 单个double数可能就有损失精度,,多个double数运算(减法和乘法都输入加法)可能导致损失的精度更多。。。

UrasakiNakajima的博客 3万+

django drf 框架知识点(一)——serializer序列化器_用法全解

【django drf】序列化器:别名设置,全部参数序列化,自定义字段,只读只写,部分更新

qq_59344127的博客 1339

关于浮点数的精度丢失问题的思考

浮点数精度丢失的原因、浮点数的存储、float与double的范围和精度和解决方法

yanqiu12138的博客 3824

实用软件工程(第2版)吕云翔编简答题部分答案(自用整理)

整理自用

m0_61217768的博客 4109

在 Fiori Elements Object Page 的表格中用 UI.Hidden 隐藏列:语义、边界与落地实践全解析

摘要: Fiori Elements的Object Page表格中,UI.Hidden注解支持静态和动态隐藏列。动态隐藏分为两种:基于父实体属性隐藏整列,或基于子实体属性按行隐藏单元格。关键约束包括:支持服务端操作的列禁止使用动态隐藏,否则会导致UX不一致。ABAP CDS不支持路径式UI.Hidden,需改用XML注解。该功能需与UI.Importance、个性化等机制明确区分,避免混淆。对于可能参与排序/过滤的列,建议仅使用静态隐藏。实际应用中需注意注解位置(整列或单元格级)和业务场景的匹配。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 206

浮点数精度丢失分析及解决

Java语言在处理浮点数,其实现逻辑与整数不同,如果使用不当可能会造成精度丢失、计算不准确、死循环等问题,严重的话,会造成经济损失。本文将从浮点数精度丢失入手,详细介绍下浮点数的原理及使用。

云原生Java Web领域技术博客 8001

Python与ArcGIS系列(二)获取地图文档

在ArcPy中,要引用当前的地图文档(Map Document),可以使用 mapping 模块中的 MapDocument 类。值得注意的是,在arcgis内部python窗口运行该代码才能访问已加载进arcgis的文档,如果通过其他idle则无法访问。要引用磁盘上的地图文档并对其进行一些设置,同样可以使用ArcPy中的 mapping 模块和 MapDocument 类。对于我们平常的工作,接触最多的就是图层数据处理,获取图层后就可以方便地进行下一步处理。

weixin_43894929的博客 2202

解决浮点数精度丢失问题:BigDecimal

解决浮点数精度丢失问题:会有一些例外的情况发生,如十进制0.2转为二进制数时,则会发生无限循环情况,而实际的计算机存储的位数是有限的,只能截断存储,这就导致了小数精度丢失问题。compareTo() 方法可以比较两个 BigDecimal 的值,如果相等就返回 0,如果第 1 个数比第 2 个数大则返回 1,反之返回-1。在计算机中,十进制的整数是不断除以2直到商为0为止,然后把余数逆序组成二进制小数,如十进制中的10转为二进制的过程,如下图所示,最终二进制为。时,为了防止精度丢失,推荐使用它的。

是琼琼琼琼琼啊的博客 2018

AI上推荐 之 NeuralCF与PNN模型(改变特征交叉方式)

1. 前言 随着信息技术和互联网的发展, 我们已经步入了一个信息过载的时代,这个时代,无论是信息消费者还是信息生产者都遇到了很大的挑战: 信息消费者:如何从大量的信息中找到自己感兴趣的信息? 信息生产者:如何让自己生产的信息脱颖而出, 受到广大用户的关注? 为了解决这个矛盾, 推荐系统应时而生, 并飞速前进,在用户和信息之间架起了一道桥梁,一方面帮助用户发现对自己有价值的信息, 一方面让信息能够展现在对它感兴趣的用户前面。 推荐系统近几年有了深度学习的助推发展之势迅猛, 从前深度学习的传统推荐模型(协

Miracle8070 1万+

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

浮点数精度丢失

计算机用存储浮点数,而人类常用的是十进制。某些十进制小数无法精确转换为二进制,就像 1/3 在十进制中无法精确表示(0.3333...)一样。

lliwenchuang的博客 2537

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

【Java基础】浮点数精度丢失问题剖析

(6)因为我们是把小数点左移3位,因此将3减去1得2,化为二进制,并补足7位得到0000010,放入第29到第23位。(6)如果n是左移得到的,则将n减去1后化为二进制,并在左边加“0”补足七位,放入第29到第23位。如果n是右移得到的或n=0,则将n化为二进制后在左边加“0”补足七位,再各位求反,再放入第29到第23位。作为有符号整数的指数可以有正负之分。(6)因为小数点被右移了3位,所以将3化为二进制,在左边补“0”补足七位,得到0000011,各位取反,得到1111100,放入第29到第23位。

Money、坤的博客 4604

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

贝叶斯统计 [韦来生编]

贝叶斯(Bayes)统计是近几十年来迅速发展起来的数理统计的一个重要分支。贝叶斯方法与经典统计方法的主要不同之处是进行统计推断时除了利用样本信息外,还要利用参数的先验信息,因此可以提高统计推断或统计决策的效果。它在经济、金融、生物、医学、自然科学和社会科学等许多领域具有广泛的应用。贝叶斯方法的研究已渗透到了统计学的几乎所有领域。作者在给中国科学技术大学概率论与数理统计专业本科生开设的“数理统计”课程中有一章专门讲授“贝叶斯方法和统计决策理论”,近十年来也给中国科学技术大学概率统计专业研究生开设过几次“贝叶斯分析”课。本书是在对过去讲稿的内容作了适当的增减和调整的基础上完成的。  本书共分六章。第1章是绪论,介绍了贝叶斯统计的若干基本概念,同时对必要的数理统计的基础知识有重点地作了回顾。第二章介绍了确定先验分布的若干可供选择的方法。第三章介绍了几类常见统计模型参数的后验分布的主要结果和计算方法。第四章和第五章分别介绍了“贝叶斯统计推断”和“贝叶斯统计决策”的内容。第六章介绍了贝叶斯统计计算的若干方法,包括蒙特卡洛方法和马尔可夫链蒙特卡洛(MCMC)方法以及相关统计软件的简介。本书的每一章附右大量的例题和习题,书末附有常用的几个表格和部分习题解答供读者查用。  大约可在54学时内讲授本书的第1章至第六章的主要内容,教师可根据学时需要选讲本书第1章至第六章的部分内容。书中标“*”号的章节可略去不讲,留给读者作为阅读材料。第六章例题中的R代码和部分例题的数据文件等可从作者个人主页下载。  作者在编写本书的过程中参考了J.O.Berger教授的《统计决策论及贝叶斯分析》和茆诗松教授编写的《贝叶斯统计》等书中的一些内容,以及《贝叶斯分析》一书中由张伟平博士编写的有关贝叶斯统计计算的一些内容。在此表示衷心感谢。  本书编写准备过程中,中国科学技术大学统计与金融系的几个研究生帮助完成了本书部分中文的录入和排版,作者对他们的辛勤工作表示真诚的感谢。高等教育出版社为本书的出版给予了大力支持。在此一并致谢。

浮点数精度丢失问题

浮点数精度丢失问题:某些十进制小数在二进制中是无限循环小数,如0.1,会导致存储和计算时的精度丢失。设置转换时的精度只能避免无限循环的计算,但无法解决存储位数有限导致的精度丢失。使用高精度计算库(如BigDecimal)可以缓解浮点数的精度丢失问题。总之,浮点数精度丢失是由于存储位数有限导致的,在涉及精确计算时,需要考虑使用高精度数据类型或计算库,而不是仅仅依靠设置转换精度。

优快云_xysf的博客 1301

浮点数值计算精度丢失问题剖析及解决方法

Java和JavaScript的精度丢失解决方案。

程序员大佬超的博客 7655
上一篇: jaxb jaxp使用xml来生成动态页面 - xml xsd xsl ( xpath xslt ) css 概念入门
下一篇: 七种武器:Collection 之 Google Guava
FireCoder
博客等级 码龄17年 65粉丝 100原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

FireCoder

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值