计算机基础——浮点数的小细节

最新推荐文章于 2025-12-03 10:01:15 发布
原创 最新推荐文章于 2025-12-03 10:01:15 发布 · 1.9w 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#学习

博主通过实例发现1f等于0.99999999f，揭示了计算机中浮点数表示的精度限制。文章强调了回溯《计算机组成原理》的重要性，提醒读者理解二进制在数值计算中的局限性。

浮点型数据的小细节

//无意发现，以下语句的居然为true
System.out.println(1f == 0.99999999f)

一开始还挺蒙圈，后面想想计算机底层都是基于二进制(0/1)来完成的。就回头翻了翻《计算机组成原理》。

别说，发现自己确实该回炉重造一下《计算机基础》了，以下是自己的学习笔记，博主不想再打字和画图了，所以直接贴笔记了哈哈。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

行啦，暂时就先说到这，越到后面越发现基础是多么重要啊！！

注：此文章为个人学习笔记，如有错误，敬请指正，十分感谢！！

01【计算机基础、Java概述】
緑水長流*z
07-30 1万+
01【计算机基础、Java概述】 一、计算机的基础 1.1 计算机基础 1.1.1 计算机基础概述 Java是一门编程语言，语言有英语、法语、俄罗斯语等，仅我们国家就有汉语、藏语、满语等，但不管是什么语言，都是用来沟通的介质。其表达意思的本质都是一样的，程序员编程的本质就是让计算机去工作，而编程语言就是程序员与计算机沟通的介质程序员要想让计算机工作，必须知道计算机能干什么，怎么干的，这也就是我们必须学习计算机基础的原因； 程序员用编程语言写程序，最终开发出的结果就是一个软件，这些软件必须运行在操作系统
关于浮点数的学习笔记
子宽的专栏
04-09 2559
浮点数是计算机常用的一种表示实数的方法。虽然平时感觉不到，但是浮点数的运算、设计会和整数有很大的不一样，了解浮点数的底层原理，有助于调试程序中遇到的一些奇奇怪怪的问题。 本文将从两个方面展开，先介绍浮点数的通用表示形式，讨论浮点数误差等话题，然后介绍IEEE标准对浮点数做了哪些规范。 浮点数的格式 取一个基底β\betaβ，一个精度ppp，浮点数根据 ±d.dd...d×βe \pm d.dd...d\times \beta^e ±d.dd...d×βe 用d.dd...dd.dd...dd.dd...d和
浮点型数值在计算机内的存储方式
罗马尼亚硬拉
04-13 1990
前言 不论一个数值是整型还是浮点型，他在计算机内都是以0和1来表示的，也就意味着同一串01码，我们既可以以指令方式读取，也可以以数值方式读取，按指令方式读取就说明这串01码是指令码，按数值方式读取就说明这串01码是数值码。从而说明，某一串01码的含义是什么，取决于我们以什么样的方式来看待、处理这段01码。 提出问题 浮点数在计算机中有单精度和双精度两种，在c语言中，float表示单精度浮点数，double表示双精度浮点数，且大多数都是以ieee754的方式进行存储。 那么float类型的1.0
组成原理|为什么计算机中0.3 + 0.6 等于 0.899999999...？
weixin_30265171的博客
06-19 1048
浮点数的不精确性 打开浏览器控制台 输入 0.3 + 0.6 ，结果输出了0.8999999，不相信你可以按F12打开控制台试一试O(∩_∩)O 这是为什么？ 我们先看下面的介绍，最后文末会给出答案。 定点数的表示 使用BCD编码：用二进制来表示十进制的编码方式 编码过程：我们用 4 个比特来表示 0～9 的整数，那么 32 个比特就可以表示8个这样的数 然后我们把最右边的 2 个 0～9 的...
计算机基础超详细知识点
qq_30725967的博客
03-07 8131
计算机基础详细知识点总结
深入浅出Python——Python基础语法全解
热门推荐
路虽远，行则必至！
07-24 9万+
前言：Python 是一个高层次的结合了解释性、编译性、互动性和面向对象的脚本语言。 文章目录一、Python简介1. 了解Python2. Python介绍3. Python特点4. Python发展历史5. Python版本二、Python解释器1. 解释器的作用2. 解释器的安装三、PyCharm安装与使用1. PyCharm的作用2. PyCharm安装与使用四、注释1. 注释的作用2. 注释的分类及语法五、变量1. 变量的作用2. 定义变量2.1 标识符2.2 命名习惯2.3 使用变量2.4 认识
计算机基础那些事~
2301_79803270的博客
02-13 2346
计算机基础那些事~
计算机基础（笔记）——计算机网络（链路层）
莫等闲
01-16 5390
链路层 两种截然不同类型的链路层信道。第一种类型是广播信道,这种信道用于连接有线局域网、卫星网和混合光纤同轴电缆( Hybrid Fiber Coaxialcable,HFC)接入网中的多台主机。因为许多主机与相同的广播信道连接,需要所谓的媒体访问协议来协调帧传输。在某些场合中,可以使用中心控制器来协调传输。第二种类型的链路层信道是点对点通信链路,这在诸如长距离链路连接的两台路由器之间,或用户办公...
python入门基础——新手必看
2301_78622258的博客
07-21 1460
本文详细解释了变量和注释，输入输出的一些操作，数据类型的种类，数据类型的强制转换，以及一些基本的运算符，算术表达式，如果有不理解和觉得有问题的，可以在评论区留言，共同探讨，希望本文对刚接触python的同学有帮助，这也是本文的终极目标。不过我侧重c语言，后面也会继续跟进。
2010(2)计算机基础期末考试试卷(A卷).doc
04-30
根据给定文件的信息，我们可以提炼出以下相关的计算机基础知识...以上知识点涵盖了计算机基础课程的主要内容，从计算机的发展历程、基本概念到硬件与软件的具体细节，旨在帮助学生全面了解计算机系统的构成与运作原理。
2011年考研计算机大纲——计算机组成原理复习要领
09-11
这部分内容对于考生来说非常重要，因为它不仅占据了较大的分数比例（45分），而且还是理解现代计算机系统运作机制的基础。 ### 一、考查目标 1. **理解单处理器计算机系统的工作原理**：考生需要掌握单处理器...
2010(2)计算机基础期末考试试卷(A卷)-2.doc
05-16
根据给定文件的部分内容，我们可以总结出以下计算机基础知识点： ### 一、计算机科学历史与发展 1. **图灵与存储理论**： - 英国数学家阿兰·图灵在1936年提出的“存储理论”模型对数字计算机的发展产生了深远的...
【AI学习-comfyUI学习-第十二节-FLUX局部重绘工作流-各个部分学习-第十二节】
qq_22146161的博客
12-02 834
最近，学习comfyUI，这也是AI的一部分，想将相关学习到的东西尽可能记录下来。加载图像这就是上传的那张桥墩照片没问题这也算各一个开始吧，我也在学习摸索中。
C++基础：Stanford CS106L学习笔记 1 类型与结构
WM2101的博客
12-02 307
本文介绍了C++的类型系统和结构体特性。在类型系统方面，C++采用静态类型，变量类型一旦确定不可更改，与Python的动态类型形成对比。静态类型能提高效率并减少运行时错误。文章还介绍了using类型别名、auto类型推断以及函数重载等现代类型特性。在结构体方面，展示了如何定义和使用结构体，以及使用std::pair模板简化多值返回的实现方式。通过对比Python和C++的代码示例，突出了C++在类型安全性和编译时检查方面的优势。
windows上位机开发学习（二）计时器案例（下） int大小
qq_43091070的博客
11-29 913
本文介绍了Windows上位机开发中计时器案例的代码实现过程。首先通过工具箱添加Timer控件并设置1秒间隔，然后详细讲解了核心代码：1)声明全局变量记录时间；2)实现"开始"按钮点击事件，解析用户输入并初始化计时器；3)编写Timer的Tick事件处理逻辑，每秒更新界面并判断倒计时结束。文章还展示了完成效果图，并附带单片机int类型大小对照表。最后提供了C#串口通信编程的学习参考网址，欢迎交流讨论。
【Prompt学习技能树地图】LangChain原理及应用操作指南
最新发布
致力于成为一名data scientist 的奋斗者
12-03 479
基础层主要解决两个核心问题：模型调用的统一化和数据存储的标准化。通过抽象接口设计，为上层应用提供了稳定、可预测的编程模型。表3.2：基础层核心组件概览组件类别核心功能解决的关键问题典型实现模型抽象统一模型调用接口屏蔽不同模型API差异存储抽象统一数据访问方式标准化各类存储系统操作文档处理多格式文档加载与转换统一文档处理流程PDF、HTML、Markdown解析接口规范定义标准化调用契约确保组件间兼容性BaseLLM、VectorStore接口。
学习：《The QUIC Transport Protocol: Design and Internet-Scale Deployment》
qq_45913654的博客
12-02 536
QUIC协议是基于UDP的新型传输协议，旨在解决TCP协议在互联网环境中的固有缺陷。
DeepSeekMath-V2学习
hang on it more longer
11-29 906
DeepSeekMath-V2 通过 **"生成器 - 验证器 - 元验证器" 三位一体架构和"验证器先行" 训练策略 **，实现了 AI 数学推理的质的飞跃，不仅在顶级数学竞赛中达到人类金牌水平，更建立了一个能够自我验证、自我完善的推理系统，为 AI 在科学证明、复杂推理领域的应用开辟了新道路。注：本介绍基于 DeepSeekAI 于 2025 年 11 月 27 日发布的官方论文和技术文档。
鸿蒙学习实战之路：设备能力检测：自适应不同硬件环境
u011864152的博客
11-29 2575
设备能力检测是指应用程序在运行时识别当前设备硬件特性，并据此调整应用行为的技术。屏幕尺寸和分辨率检测传感器可用性检查硬件性能评估外设连接状态监控。
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

窝在角落里学习

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值