引言,今年是py加入全国计算机二级大礼包的第一年,看了几道题,比如:
0.1+0.1==0.2 返回True
0.1+0.2==0.3返回False
都是0 1 二进制惹的祸,真是一点不省油。。。。弄好久 累
对于十进制,它只能表示以进制数的质因子为分母的分数。10 的质因子有 2 和 5。比如1/2、1/4、1/5、1/8和 1/10 都可以精确表示,因为这些分母只使用了10的质因子。相反,1/3、1/6 和 1/7 都是循环小数,因为它们的分母使用了质因子 3 或者 7。二进制下(进制数为2),只有一个质因子,即2。因此你只能精确表示分母质因子是2的分数。二进制中,1/2、1/4 和 1/8 都可以被精确表示。但是,1/5 或者 1/10 就变成了循环小数。所以,在十进制中能够精确表示的 0.1 与 0.2(1/10 与 1/5),到了计算机所使用的二进制数值系统中,就变成了循环小数。当你对这些循环小数进行数学运算时,并将二进制数据转换成人类可读的十进制数据时,会 对小数尾部进行截断处理。
不同语言运行0.1+0.2 可以见0.1+0.2在各种语言中的结果
回归正题,博主在numpy中求一个整数矩阵