mostetr0508的博客

原创 在对数字（小数）进行乘法运算后，数据显示不正确

项目场景： 提示：这里简述项目相关背景： 在对拿到的数据需要进行运算再进行显示。 问题描述 提示：这里描述项目中遇到的问题： 在对拿到的数据需要进行运算再进行显示时，直接进行乘法运算，显示的数据和预期不一致，小数点后多了很多位小数。— 原因分析： 提示：这里填写问题的分析： 在网上查看资料后发现是浮点数运算的精度问题： 在内存运算中，计算机首先将浮点数从十进制转换为只有0和1的二进制再转换为十进制，在转换的过程中便出现了偏差。 当然，出现数据运算后不正确的还有其他运算。 以上仅为个人理解，具体请参考别