csapp第二章学习笔记

1.同整形数一样,浮点数也有固定大小的位数来表示

1.1 浮点数也会像整数一样上溢/下溢。
1.2 有些简单的分数,没有准确的IEEE754标准来表示。(eg:0.2)
1.3会丢失精度,而整数不会。
*每个操作都会得到稍微错误的结果

2.数学表达式不同的表示方式会得到不同的结果

2.1违反结合律/分配律
(eg:(3.14+1e10)-1e10 != 3.14+(1e10-1e 10)     
    2e10*(2e10-2e 10) !=2e10*2e10-2e10*2e10 ) )

3.忌用“==”来判断浮点数是否相等

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值