看完这篇文章,你肯定理解什么是浮点数了!

【多图警告】彻底搞懂浮点数 本文用大量图片讲解了浮点数在计算机中的存储方式以及浮点数的最值、精度等问题,文末有测试用的C++程序 阅读详情
AI摘要

本文深入探讨了浮点数的起源及计算机内部表示方法——IEEE754标准。介绍了为何使用浮点数及其如何通过指数实现小数点位置的灵活性,以适应更广泛数值范围的需求。此外,还详细解析了如何将十进制数转换为符合IEEE754规范的浮点数形式。

浮点数是我们在编程中常用的一个数据类型,不知道大家想过没有,它为什么叫做float呢?

还有,计算机对浮点数的内部表示方法IEEE 874到底是怎么回事?

要彻底理解浮点数,需要从计算机的底层存储开始。

假设有一个32 bit的计算机,需要你来设计一个支持存储“小数”的方案,你会怎么办呢?

定点数

最简单的办法就是把这32位存储分成若干部分, 例如三个部分

(1) 用1位来表达正负位, 0为正, 1为负。

(2) 再划出8位来表示整数部分

(3) 剩下的23位表示小数部分。

就像这样:

640?wx_fmt=png

上图表示的数值就是182.375,由于小数点固定在了第23位和第24位之间,这种方式可以称为“定点数”。

很明显,由于整数部分的长度比较短,所能表示的数据的范围就比较小。 小数部分比较长, 所能表示的精度就比较高。

我们暂时把这种数据类型叫做fixed number A 。

如果想要表达更大范围的数怎么办? 我们还可以定义一个新的数据类型: fixed number B。 让整数部分扩大一些。

640?wx_fmt=png

用23位表示整数,这范围比8位大多了, 但是精度又会受到损失了,可见用这种定点数的表示法,范围和精度是一对儿矛盾。

如果再定义fixed number C, fixed number D, 程序员简直就不知道用哪个了, 并且实现他们之间的计算也很麻烦。

所以定点数并不是完美的解决方案。

浮点数

怎么解决定点数的“僵化”问题呢?

我们都知道科学记数法,例如368.79 用科学计数法表示就是 3.6879 * 10 ^2 。

其中3.6879就是尾数,10 是基数, 2 是指数。

浮点数就是利用指数达到了小数点“浮动”的效果。从而可以灵活地表达更大范围内的数, 比如 :

3.6879 * 10 ^ 2 = 368.79

1.2345 * 10 ^ 3 = 1234.5

7.89 * 10 ^ 2 = 789

小数点的位置是不固定的。

不过对于同一个浮点数,也有很多表达方式, 368.79 可以表达为:

3.6879 * 10 ^ 2

0.36879 * 10 ^ 3

36.879 * 10 ^ 1

由于其多样性, 很多计算机厂商都设计了自己的表示浮点数的规则,以及对浮点数运算的细节。 多样的规则对于程序的可靠性和移植性都是不利的。

1976年, 一家叫Intel的公司要设计一个叫做8087的芯片, 这个芯片在8086处理器(这可是大名鼎鼎的芯片啊,计算机系的同学估计很熟悉吧)上增加了支持浮点数的功能。 他们请加州大学伯克利分校的William Kahan教授作为顾问,帮助设计8087芯片。

Intel 还支持Kahan教授加入IEEE资助的制定工业标准的委员会, 最终这个委员会采纳的标准非常接近于Kahan为Intel设计的标准,这就是大名鼎鼎的 IEEE 754 标准。

(码农翻身注:这段描述来自于《深入理解计算机系统》)

该标准在1985年发布,成为了各个计算机厂商都支持的规范,大大提高了程序的可移植性。

最新的标准是2008年发布的 IEEE 754-2008 。

640?wx_fmt=png

William Kahan教授

IEEE 754

这个标准中有单精度(32位)和双精度(64位), 我们以32位为例来介绍一下,理解了32位,64位就不在话下了。

640?wx_fmt=png

用科学记数法表示,应该是这样的:

(+ or - ) 1.(mantissa) * 2 ^ exponent

注意:小数点前面是有个1的。

我们接下来用一个例子来计算一下, 把5.8 这个10进制小数转换为IEEE 754表示的浮点数。

首先,5.8 = 1.45 * 2 ^ 2,可能有人问,这是怎么算出来的? 很简单:

5.8/2 => 2.9 

2.9/2 => 1.45 

接下来就可以把他表示成IEEE 754的形式:

(1) 可以看出 符号位 s = 0

(2) 指数(exponent) 是2 吗?

No!  指数也有正负之分,我们既要能用8位二进制数字表示正数,又要能表示负数。

所以2的8次方这256个数字要区分开来使用: 从0到127 表示负数, 从128到255表示正数。

127 被称为 Bias  value (偏置值)

所以exponent = 127 + 2 = 129 , 把129用二进制表示就是10000001。

(注:如果原始的指数是 - 2 , 那exponent 就是 127- 2 = 125)

640?wx_fmt=png

(3) 尾数mantissa 是0.45 , 需要转化成二进制,怎么做呢? 也很简单,不断地乘2,取结果的整数部分就行,详细过程如下:


640?wx_fmt=png

可以看出,出现无限循环了,我们取够IEEE 754要求的23位就行了(0.01 1100 1100 1100 1100 1100 1......),可见浮点数是不精确的!

最终,我们把5.8变成了符合IEEE 754 规范的浮点数表示: 

640?wx_fmt=png

很简单的,对吧?

敏锐的同学可能已经看出问题了,这个尾数总是1.mantissa的形式, 那用这种方式怎么才能表示零呢?  

这就留作一个小问题让大家去探索吧, 你会发现非规格化,无穷大,NaN等有趣的东西。


(完)

码农翻身,用故事讲解技术本质, 更多精彩文章,请移步《码农翻身三年文章精华》

半精度浮点数fp16和脑浮点数Bf16的说明和总结 查阅了大量资料,都是将脑浮点数或者半精度浮点数和单精度、双精度进行对比,却没有发现将bf16和f16进行对比的资料。 阅读详情

相关推荐

记录一下本地部署Dify的坑

1. 截止2025-3-4为止,请注意,不要直接拉Dify的1.0.0版本。请先试用0.15.3版本。1.0.0有一个bug需要解决。3. 请使用docker-ce 新版本,docker-engine等老版本可能会有部分容器启动脚本执行莫名报错。2. 注意,请使用docker-compose V2版本,或者V1较高版本,否则会导致解析官方yml模板错误。

哈利路亚的收藏夹 5348

浮点数详解(一篇彻底学通浮点数)

文章目录浮点数一.什么是浮点数二.浮点数的形式三.规格化浮点数四.浮点数的运算 浮点数 一.什么是浮点数 浮点数是与定点数相对的概念,计算机中的定点数约定小数点的位置不变,即人为约定俗成地规定了一个数小数点的位置。例如定点纯整数约定了小数点在数值位的最后。定点纯小数约定了数值位的最高位在小数点后面。 由于计算机字长的限制,当需要表示的数据有很大的数值范围时,他们不能直接用定点小数或者定点整数表示 二.浮点数的形式 三.规格化浮点数 四.浮点数的运算 ..................

weixin_45863060的博客 16万+

YOLOv11+SAHI实战:5步搞定无人机航拍小目标检测(附VisDrone数据集调参技巧)

本文详细介绍了如何结合YOLOv11目标检测框架与SAHI切片推理技术,高效解决无人机航拍图像中的小目标检测难题。通过VisDrone数据集调参技巧和5步实战指南,帮助开发者快速构建高性能检测系统,显著提升小目标检测的准确率和效率。

rum55的博客 192

(知识汇总) 浮点数详解 (IEEE 754标准)

【IEEE浮点数表示法】 IEEE 浮点数标准是从逻辑上用三元组{S,E,M}来表示一个数 V 的,即 V=(-1)S×M×2E 1,符号位 s(Sign)决定数是正数(s=0)还是负数(s=1),而对于数值 0 的符号位解释则作为特殊情况处理。 2,有效数字位 M(Significand)是二进制小数,它的取值范围为 1~2-ε,或者为 0~1-ε。它也被称为尾数位(Mantissa)、系数............

fang 0 jun的博客 1万+

思科9117AP从零配置EWC模式实战:Wi-Fi6网络搭建避坑指南

本文详细介绍了思科9117AP在Wi-Fi6网络环境下配置EWC模式的实战指南,涵盖镜像准备、网络环境配置、模式转换步骤及高级运维技巧。通过EWC模式,企业可实现控制器与AP的一体化部署,显著降低成本和简化运维,特别适合中小企业Wi-Fi6网络搭建。

weixin_28318011的博客 336

【华为2021校招】笔试题【通用硬件】

时间:2020/07/15 19:00 时长:60min 题型:40单选+5多选 难度:中等 考察范围:模电、数电、SI、EMC、电源、微机原理、计算机网络、材料

Jkcia的博客 4万+

什么是浮点数?以及浮点数运算?

浮点数是与定点数相对的概念,计算机中的定点数约定小数点的位置不变,即人为约定俗成地规定了一个数小数点的位置。例如定点纯整数约定了小数点在数值位的最后。定点纯小数约定了数值位的最高位在小数点后面。由于计算机字长的限制,当需要表示的数据有很大的数值范围时,他们不能直接用定点小数或者定点整数表示。

近日终于有时间好好回顾下一些作品了,有帮助的好好看就行 7793

ArcGIS Pro 3.0实战:5分钟搞定GDB批量转SHP的Python脚本(附常见错误修复)

本文详细介绍了在ArcGIS Pro 3.0中使用Python脚本将地理数据库(GDB)中的要素类批量转换为Shapefile(SHP)格式的实战方法。文章提供了从基础到增强的完整脚本,重点解决了中文路径报错、字段名截断和属性表乱码等常见问题,并分享了错误处理与编码修复技巧,帮助用户高效、准确地完成数据格式转换与交换。

happy2的博客 769

程序员必知之浮点数运算原理详解

程序员必知之浮点数运算原理详解   导读:浮点数运算是一个非常有技术含量的话题,不太容易掌握。许多程序员都不清楚使用==操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华,所有的软件开发人员都应该读一下。   随着你经验的增长,你肯定 想去深入了解一些常见的东西的细节,浮点数运算就是其中之一。 ...

weixin_30883271的博客 6111

ABB机器人将实时坐标发送给西门子PLC的具体方法示例

ABB机器人将实时坐标发送给西门子PLC的具体方法示例

Robot_PLC_HMI_Automation 4915

第28节:cesium 加载高程数据(含源码+视频)

cesium 加载高程(地形)数据

qq_29384639的博客 1742

什么是浮点型?什么是单精度浮点数(float)以及双精度浮点数(double)?

前言 作为一名“资深”的java学习者,怎能不懂这些java基础中的基础呢?本文就带各位温顾温顾java浮点型、单精度浮点数、双精度浮点数。 浮点型 浮点型浮点型别给我整些花里胡哨的定义,浮点型简单来说就是表示带有小数的数据,而恰恰小数点可以在相应的二进制的不同位置浮动,可能是这样就被定义成浮点型了。不得不佩服这文化程度,定义个数据名称都这么有深度 ...

宜春 17万+

代谢组数据分析(一):生成代谢组数据SummarizedExperiment对象

本文介绍了基于Zeybel 2022年发布的多组学数据集的分析脚本,该数据集包含微生物组、宿主人体学指标、临床学指标、血浆代谢组和免疫因子等多维度数据,涵盖56位患者的横截面数据和22位患者的纵向时间序列数据。脚本旨在生成适用于下游分析的数据对象,主要包括phyloseq和SummarizedExperiment两类。phyloseq对象用于整合微生物群落数据,支持多数据整合、可视化、丰富分析功能和便捷的数据处理;SummarizedExperiment对象则广泛应用于基因组学和转录组学研究,便于数据整合、

专注生信领域 2997

浮点数详解

导读:浮点数运算是一个非常有技术含量的话题,不太容易掌握。许多程序员都不清楚使用==操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华,所有的软件开发人员都应该读一下。  随着你经验的增长,你肯定 想去深入了解一些常见的东西的细节,浮点数运算就是其中之一。1. 什么是浮点数?  在计算机系统的发展过程...

北半球先生的博客 4798

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

浮点数运算原理

导读:浮点数运算是一个非常有技术含量的话题,不太容易掌握。许多程序员都不清楚使用==操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华,所有的软件开发人员都应该读一下。  随着你经验的增长,你肯定 想去深入了解一些常见的东西的细节,浮点数运算就是其中之一。1. 什么是浮点数?  在计算机系统的发展过程...

gabby____的博客 789

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

浮点数原理

  导读:浮点数运算是一个非常有技术含量的话题,不太容易掌握。许多程序员都不清楚使用==操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华,所有的软件开发人员都应该读一下。   随着你经验的增长,你肯定 想去深入了解一些常见的东西的细节,浮点数运算就是其中之一。 1. 什么是浮点数?   在...

火玉的博客 881

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

每个程序员都必读的10篇文章

【原文:http://it.deepinmind.com/其它/2014/05/15/10-articles-every-programmer-must-read.html】 作为一名Java程序员和软件开发人员,那些每个程序员都应该知道的XXX的文章教会了我不少东西,它们提供了某个特定领域的一些实用的并且有深度的信息,这些东西通常很难找到。在我学习的过程中我读到过许多非常有用的文章,我把它

zhazhiqiang2010的专栏 835

关于浮点数的EPSILON

如何获取EPSILON的值 在C语言中,float和double的EPSILON值在float.h头文件中以宏的方式给出,分别是 FLT_EPSILON DBL_EPSILON 在C++中,则可以numeric_limits模板类的epsilon方法获取到,分别是 std::numeric_limits<float>::epsilon() std::numeric_lim...

norman_irsa的博客 2万+

强烈推荐,建议收藏!每个Java程序员都必须阅读的10篇文章!

大家好,我是庆哥,我一直在自学Java,今天我又来分享Java知识了 重磅预告,今天的内容很干,如果你觉得没收获,欢迎私信怼我,如果觉得收获不小,麻烦动动你的小指头给庆哥点个赞,我需要你们的支持…… 今天要分享的内容干货总结起来就是: What Every Programmer Should Know about … 没关系,我知道你们英语和庆哥一样不好,我给翻一下,就是**”每个程序员必须知道系列……“** 这么一看,干货无疑了!今天主要分享的是10篇文章,而这些文章都有一个特点,就是全面而又系统.

庆哥Java的优快云技术博客 8371

同事用"两个浮点数相等" 被说了一顿

正文大家好,我是bug菌~最近进行代码的review过程中看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。1浮点数据的不...

最后一个bug的博客 514

ieee754浮点数转换工具_关于JS浮点数运算不精确的原因和解决方案

背景之前在一个项目中,涉及到了金额,协议组定的标准是按照分的单位进行传递的,但是交互上,web页面中为了更友好的体验,是使用的元作为单位的,这个时候就需要转换一下单位本来是很简单的一个转化的需求,在和后端联调的时候发现,保存的时候返回了参数错误,原因就是由于js浮点数精度带来的影响,导致保存的时候保存的位数特别多。之前的开发过程中,对这个不精确的问题只是了解,有问题了就parseInt一下,但没有...

weixin_39716160的博客 404
上一篇: Java国王:我来告诉你什么才是真正的封装!
下一篇: 漫画:如何判断一个数是否在40亿个整数中?
码农翻身
码农翻身 《码农翻身》作者 《码农翻身》作者
博客等级 码龄8年 3万+粉丝 1084原创
评论 6
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值