
计算机知识
PYB不开心
这个作者很懒,什么都没留下…
展开
-
浮点数的比较
在数学运算当中经常会涉及到判断两个数是否相等的情况 对于整数很好处理 A==B这样的一个语句就可以解决全部的问题 但是对于浮点数是不同的 首先,浮点数在计算机当中的二进制表达方式就决定了大多数浮点数都是无法精确的表达的 现在的计算机大部分都是数字计算机,不是模拟机,数字机的离散化的数据表示方法自然无法精确表达大部分的数据量的。 其次计算机浮点数的精度在单精度float类型下,只有7位,在转载 2015-09-14 17:57:26 · 284 阅读 · 0 评论 -
c++ primer 5th:无符号数的转换
假设 unsinged u1 = 10, u2 = 42; 输出u1-u2是4294967264,为什么得到这个结果呢? 首先无符号数在内存中所有的bit都是表示值的,那么u1-u2 = -32,这个数在内存中的表示应该是1xxxxxxxxxx.它的值是 –2^(31) + a(a由最高位后面的二进制表示) = -32。它会被强制转换为无符号数,这是最高位的1表示不是负数了,而是2^31,从而该原创 2015-09-14 20:50:57 · 677 阅读 · 0 评论 -
处理编码解码错误:
今天打开一个unicode格式的txt文件结果出现’gbk’ cannot decode characterxxxxxx,明明已经指定了utf-8但是没用,折腾了2小时最后发现win32控制台自动设置为gbk格式,必须用IDLE来执行py文件………..原创 2016-03-16 17:59:45 · 514 阅读 · 0 评论