《深入理解计算机系统》 CMU15213 笔记(一)

本文探讨了计算机如何用有限位表示无限数域中的数,通过实例解析了整数溢出和浮点数不精确的问题,强调了理解计算机内部表示的重要性和注意边界检查的必要性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

  • 看看第一个例子:
    在这里插入图片描述
    1.看看一个计算:
    在这里插入图片描述
    5000050000会产生一个负数hei man!为什么呢?
    因为此计算机的int是32位,50000*50000超出了它的最大值

2.再看看另一个计算:
在这里插入图片描述
这个结果同样令人惊奇,它溢出了

  • 那么,接下来继续看例子
    在这里插入图片描述
    正整数还是很符合的,但是浮点数呢?
    在这里插入图片描述
    可以猜得出来,结果并不为3.14,这就涉及到了浮点数的设计了

问题本质:计算机用有限的位组合形式表示在数域中无限扩张的数

一个数加到极限后,再加一后,会变成负数

  • 接下来继续看:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值