js/ts数值计算精度丢失问题及解决方案

概念及问题

• js中处理浮点数运算时会出现精度丢失。
• js中整数和浮点数都属于Number数据类型，所有的数字都是以64位浮点数形式存储，整数也是如此。所以打印x.00这样的浮点数的结果为x而非x.00。
• 当浮点数进行数学运算（加减乘除）时，有时会出现问题，如下4张图：
  
  
  

问题分析

js中数值采用IEEE754 标准的64位双精度浮点数，对于64位的浮点数在内存中的表示，最高的1位是符号位，接着的11位是指数，剩下的52位为有效数字（52+11+1 = 64位）：

• 第0位：符号位，s表示，0表示正数，1表示负数
• 1~11位：储存指数部分，e表示
• 12~63位：存储小数部分（即有效数字），f表示。

符号位决定了一个数的正负，指数部分决定了数值的大小，小数部分决定了数值的精度。

IEEE754 规定，有效数字第一位默认总是1，不保存在64位浮点数之中。也就是说，有效数字总是1.xx…xx的形式，其中xx…xx的部分保存在64位浮点数之中，最长可能为52位。

因此，js提供的有效数字最长为53个二进制位（64位浮点的后52位 + 有效数字第一位的1）

那么，js中计算0.1+0.2时，到底发生了什么？

1. 十进制的0.1和0.2会转为二进制（浮点数用二进制表达时，是无穷无止的）如：0.1 => 0.0001100110011001…(无限)
2. IEEE 754标准的64位双精度浮点数的小数部分最多支持53位二进制，所以两者相加之后得到的二进制就是大概这个样子：0.010011001100110011001100110011001100…
3. 最终，以你为浮点数小数位的限制而阶段的二进制数字，再转为十进制，就成了0.30000000000000004，所以在进行算术计算时就产生了误差。

解决方案

方案一

数值转整 —— 计算完毕 —— 数值回转

局限性：小数位数不确定这个方法行不通

方案二

js内置的toFixed()方法可以将数值转换成保留指定小数位的字符串。注意：此方式适用于简单的数值运算，需要注意舍入误差（因为转换后是字符串，丢失了浮点数的特性，最后结果肯定存在微小的误差。）

PS：toFixed() 是一个 四舍六入五成双 的诡异方法（也叫银行家算法）。
“四舍六入五成双”的含义： 对于位数很多的近似数，当有效位数确定后，其后面多余的数字应该舍去，只保留有效数字最末一位，这种舍入规则是“4舍6入5凑偶”。

“4舍6入5凑偶”：4指 <=4时舍去，6指>=6时进上，5指的是根据5后面的数字来定，当5后有数时，舍5入1；当5后面无有效数字时，需要分2种情况来讲：5前为奇数时，舍5入1；5前为偶数，舍5不进（0是偶数）。

方案其它——用成熟的库

• Math.js （广泛的数学库）
• decimal.js （十进制类型的任意精度数值）
• big.js （任意精度的大数运算——适用于需要高精度计算的场景：金融、密码学、科学计算和大数据处理等）