C++溢出总结

对于溢出的考虑是必要的。总结以下几点:

1. INT_MIN由于位全1所以变为正数会溢出。因此负数溢出的情况比正数少一个

2. 刷题尽量使用long,结果不溢出,但中间数值容易溢出

 

题目1leetcode整数反转

让判断integer是否溢出。查了一些资料,做一些溢出判断总结:

 

方法1. 设置一个long型变量存储结果。判断 是否< INT_MIN 或者 > INT_MAX。

 

方法2. 保持使用int, 乘 加 之前判断是否溢出

if (rev > INT_MAX/10 || (rev == INT_MAX / 10 && pop > 7)) return 0;
if (rev < INT_MIN/10 || (rev == INT_MIN / 10 && pop < -8)) return 0;
rev = rev * 10 + pop;

作者:LeetCode
链接:https://leetcode-cn.com/problems/reverse-integer/solution/zheng-shu-fan-zhuan-by-leetcode/
来源:力扣(LeetCode)
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

判断rev*10+pop后是否会溢出。(因为不能真的加,不知道够还是超过了最大\小值。 所以预先判断是否会超。)

Q: 那为什么是7 and -8 呢:因为 [−2^31,  2^31 − 1] 中,2^31 =-2147483648. 末尾是8,2^3-1 = 2147483647. 末尾是7。

Q:那为什么不能用int直接加了之后再判断呢? 答:因为这样程序会报错:

terminate called after throwing an instance of 'std::out_of_range'

Q:在Leetcode的"字符串转换整数” 中,输入"-2147483648"。 结果溢出了。

报错 Line 31: Char 37: runtime error: signed integer overflow: 2147483640 + 8 cannot be represented in type 'int' (solution.cpp

找了几篇博客,都说是因为溢出,把int 换成double或者float就好了。但是代码已经有判断是否溢出的条件了。找了半天原因,原来是因为在代码中,我用原数判断的溢出,但是运算还是用绝对值算的,在遇到-2147483648时,绝对值自然就溢出了。看来自己还是不够细致

 

题目2 leetcode 两数相除

1. 正负的讨论。溢出只发生在负数的时候。也就是INT_MIN转化成INT_MAX时。因此把除数和被除数都换成负数来算。并把负数单独拎出来。

2 考虑除数是1,INT_MIN是位全1,因此在while判断时要考虑整除的情况

3 考虑虽然结果不要求越界,但是中间数可能会越界,因此把int都改成long

 

 

持续更新中...

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值