【小程序】解决浮点数精度损失问题

原创

已于 2022-09-17 15:53:15 修改 · 3.2k 阅读

CC 4.0 BY-SA版权

文章标签：

于 2022-09-17 11:27:40 首次发布

本文探讨了JavaScript环境中浮点数运算的精度损失问题，并介绍了几种解决方法，包括使用math.js、decimal.js及number-precision等第三方库实现精确计算。

最近在做开发的时候出现了老生常谈的问题：浮点数精度损失。只不过之前是Python环境下的，如今是JS环境。
举几个🌰

> 0.1 + 0.2
0.30000000000000004

> 0.3 - 0.2
0.09999999999999998

> 0.8 * 3
2.4000000000000004

> 0.3 / 0.1
2.9999999999999996

在Python环境下，我们可以使用默认的库decimal来完成精确计算

>>> from decimal import Decimal
>>> float(Decimal('0.1') + Decimal('0.2'))
0.3

但是js环境呢？查了一下，js自身没有decimal这样的库，查了一下，有博文说可以先将浮点数扩大至整数，计算完后再缩小至浮点数

> (0.1 * 10 + 0.2 * 10) / 10

但是！，实际情况是有特例！！！！

> 35.41 * 100
3540.9999999999995

所以这样并不能解决问题

经过一番查找，通过第三方的库可以解决问题