RuntimeWarning: overflow encountered in short_scalars
在做一个较大数据量的加法时碰到这个问题,按理说python可以自动改变数据类型,把int型变成long甚至longlong,但这里没有。。。
一个可控的方法是用numpy提供的数据类型。(numpy是专门用于科学计算的库,里面提供了大量的方法、数据类型辅助科学计算)比如:
16位的int不够用可以声明为32位的:
import numpy as np
amplitude_amount = np.int32(0)
他还有诸多类似的数据类型声明,这样就可以自由控制我们对内存和需求的平衡了!
a = np.int64(0)
b = np.long(0)
c = np.longlong(0)
本文探讨了在Python中处理大数据量加法运算时遇到的溢出警告问题,并介绍了使用numpy库来解决这一问题的方法。通过声明不同位数的整数类型,如32位或64位整数,可以有效地管理和避免溢出错误。
1604

被折叠的 条评论
为什么被折叠?



