由numpy.arange函数看双精度浮点数的精度问题

1.发现问题

想得到一个长度为57的、从0开始的、间隔为0.01的数组,想当然地如下coding,结果意料之外:

>>> import numpy as np
>>> t1 = np.arange(0, 0.01*57, 0.01)
>>> t1.shape
(58L,)

但是如果用同样的方法,可以得到正确的长度为58的、从0开始的、间隔为0.01的数组,结果如下:

>>> t2 = np.arange(0, 0.01*58, 0.01)
>>> t2.shape
(58L,)

到底是什么出了问题?

2.浮点数的精度问题

查找了一些资料,比较乱,通过总结和整理,列出一些关键内容,以便理解为什么会出现上述问题。

(1)在计算机中用二进制表示小数
  • python中的浮点型(float)类似于C语言中的double类型(我觉得其实就是一样的,毕竟标准的python是用C写的),是双精度浮点型,可以用直接的十进制或科学计数法表示。每个双精度浮点数占8个字节(64位),完全遵守IEEE754号规范(52M/11E/1S),即其中的52位用于表示底数,11位用于表示指数,剩下一个位表示符号。看上去相当完美,但是实际精度依赖于机器架构和创建python解释器的编译器。

  • 我们将0.1表示为二进制的形式,如下计算,可以看到0.1在十进制下明明是一个有限小数,在二进制下表示却是无限循环的(实际上0.0~0.9这十个小数中只有0.0和0.5在二进制形式表示下是有限的):
    python-float1

    • 根据IEEE754标准,有效位数只能表示52位,在python下,0.1其实是这样表示的(python没有提供.bin函数,只有.hex函数):

      >>> (0.1).hex()
      '0x1.999999999999ap-4'
    • 0x表示十六进制,p-4表示小数点要向左移动4位;IEEE754标准中的52位在这里是不包括小数点前面的那个1的,所以将'0x1.999999999999ap-4'展开,结果如下:

      
      # 原表示:
      
      0.0001 1001 1001 1001 1001 
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值