人类用文字来表示客观世界,而计算机中使用二进制来表示客观世界。
鱼-->
1001110001111100--->

而由于计算机中二进制位是有限的,所以计算机只能表示有限的集合。同时也会产生一些特殊的问题,本文主要关注计算机中数字的表示以及其限制。
计算机中以二进制来表示数字,其和十进制的转换关系如下:
二进制 1011 = 1*2^3 + 0*2^2 + 1*2^1 + 1*2^0 = 11 十进制
*注:如无特殊说明,以下提到的数据均针对无符号数。
由于计算机中表示数字的二进制位是有限的,故其能表示的数字范围也是有限的,如使用32位可能表示[0, 4294967295]之间的整数。同时也带来一个问题——溢出。
想象一下在32位表示整数的计算机中,能表示的最大整数是4294967295,如果执行某次整数的加法,其结果大于4294967295会发生什么?那么结果就会溢出,加法的结果比应该的结果小了。
为方便说明,观察3位表示整数的计算机中,其能表示的最大整数为7,二进制表示111,计算5+5=2,结果为2而不是10,到底发生了什么呢?从其二进制表示可以容易看出以上过程。
十进制 5 + 5 = 10 2
二进制 101 + 101 = 1010 3位机中截取结果 010
可以看到此时计算结果发生溢出,其值超出了计算机可以表示的最大值,而其结果为截取可表示的位数所表示的数字。
同样的计算机中数字的加减乘除都可能发生溢出。