想起之前遇到一个有趣的bug,非常值得记录下来。
项目使用的协议需要指定参数类型,出错协议的某个参数设为int,传参时该参数默认为(1<<32 - 1),大部分时候不会用到默认数值,但万一的情况出现了,然后就报错了。
分析:(1<<32 - 1)这个运算过程中,优先计算(1<<32),这时超出int的范围,python源码将此变量自动转换为long,再减去1后,类型依然是long。
解决方案:int(1<<32 - 1)即可
本文记录了一个有趣的Python编程bug,项目中因参数类型指定为int,但在使用(1<<32-1)作为默认值时,由于超出int范围而自动转换为long类型,导致后续操作出现错误。文章分析了问题原因,并提供了简单的解决方案。
想起之前遇到一个有趣的bug,非常值得记录下来。
项目使用的协议需要指定参数类型,出错协议的某个参数设为int,传参时该参数默认为(1<<32 - 1),大部分时候不会用到默认数值,但万一的情况出现了,然后就报错了。
分析:(1<<32 - 1)这个运算过程中,优先计算(1<<32),这时超出int的范围,python源码将此变量自动转换为long,再减去1后,类型依然是long。
解决方案:int(1<<32 - 1)即可

被折叠的 条评论
为什么被折叠?