- 博客(5)
- 收藏
- 关注
原创 浮点数的表示与运算
强制类型转换:为什么int是32转换为float32位会损失精度?因为float中只有1(最高位隐含为1)+23个=24有效数值,而int有31个有效数值位,转换过程损失精度那为什么反过来float转int可能溢出或损失精度?int只会取float的整数部分。
2024-04-25 22:54:06
1236
2
原创 移位操作和原码、补码的乘除法运算规则
原反补不论左移右移均补零,注意时舍弃的bit非零会时丢弃的bit非零,因为超出最大表示范围对于负数,算数移位-20x7。
2024-04-23 12:05:22
2530
3
原创 标志位 OF, SF, CF, ZF的生成
1. 仅用于的加减运算,说明有符号加减运算发生溢出2. 硬件计算方法:OF=最高位产生的进位⊕次高位产生的进位,OF=1表示溢出例如X:1000 (-8)和Y:0111(7) ,其中次高位的进位为0+0=00,最高位的进位为1+1=10,OF=1⊕0=1,溢出。
2024-04-21 23:39:27
3715
1
原创 补码相关知识点
在二进制的计算中,由于只有加法器,所以X-Y会转化为X+(-Y)。那么Y和(-Y)之间如何转换呢?为什么这么转换呢?这就涉及补数,以0111为例,他的补数为[1000+1]也就是1001,:各位取反+1因为0111+1001=1 0000,也就是四位二进制数的mod。好比时钟的mod为12,假设现在八点,想转动到6点,既可以逆时针转2个单位(8-2)mod12=6,也可以顺时针转10个单位(8+10)mod12=6。
2024-04-18 15:02:18
366
5
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人