本文探讨了数学中数值运算的精确性与计算机中数值存储的局限性。在数学中，数值运算不受限制，而计算机由于存储单元的有限性和字节约束，无法存储无限精度的数或循环小数，例如1/3在计算机中不能精确表示。C语言等编程语言在处理这类问题时会体现这种差异。
本文摘抄自谭浩强的C语言程序设计第五版第42页
在数学中,数值是不分类型的,数值的运算是绝对准确的,例如:78和97的和为175,1/3的值是0.3333333…(无限循环小数).数学是一门研究抽象问题的学科,数和数的运算都是抽象的,而在计算机中,数据是存放在存储单元中的,它是具体存在的.而且,存储单元是由有限的字节构成的,在每一个存储单元中,存放数据的范围时有限的,不可能存放"无穷大"的数,也不能存放循环小数,例如使用C程序计算和输出1/3.
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
