1.发现问题
想得到一个长度为57的、从0开始的、间隔为0.01的数组,想当然地如下coding,结果意料之外:
>>> import numpy as np
>>> t1 = np.arange(0, 0.01*57, 0.01)
>>> t1.shape
(58L,)
但是如果用同样的方法,可以得到正确的长度为58的、从0开始的、间隔为0.01的数组,结果如下:
>>> t2 = np.arange(0, 0.01*58, 0.01)
>>> t2.shape
(58L,)
到底是什么出了问题?
2.浮点数的精度问题
查找了一些资料,比较乱,通过总结和整理,列出一些关键内容,以便理解为什么会出现上述问题。
(1)在计算机中用二进制表示小数
python中的浮点型(float)类似于C语言中的double类型(我觉得其实就是一样的,毕竟标准的python是用C写的),是双精度浮点型,可以用直接的十进制或科学计数法表示。每个双精度浮点数占8个字节(64位),完全遵守IEEE754号规范(52M/11E/1S),即其中的52位用于表示底数,11位用于表示指数,剩下一个位表示符号。看上去相当完美,但是实际精度依赖于机器架构和创建python解释器的编译器。
我们将0.1表示为二进制的形式,如下计算,可以看到0.1在十进制下明明是一个有限小数,在二进制下表示却是无限循环的(实际上0.0~0.9这十个小数中只有0.0和0.5在二进制形式表示下是有限的):
根据IEEE754标准,有效位数只能表示52位,在python下,0.1其实是这样表示的(python没有提供
.bin
函数,只有.hex
函数):>>> (0.1).hex() '0x1.999999999999ap-4'
0x
表示十六进制,p-4
表示小数点要向左移动4位;IEEE754标准中的52位在这里是不包括小数点前面的那个1的,所以将'0x1.999999999999ap-4'
展开,结果如下:# 原表示: 0.0001 1001 1001 1001 1001