BigDecimal的基础使用

BigDecimal精度处理与非金融场景下的货币运算
本文探讨了在进行小数运算时遇到的精度问题,特别是使用BigDecimal的ROUND_DOWN方法导致的误差。当处理double类型并需要向下截取小数位时,可能会出现不预期的结果。解决方案是避免使用double,直接转换为String类型操作。在非金融项目中,建议通过扩大100倍后再处理的方法来减少精度误差,并且可以用int类型表示价格。此外,还分享了避免精度问题的其他策略和参考资料。

一、基础操作
加法 add()函数

减法subtract()函数

乘法multiply()函数

除法divide()函数

绝对值abs()函数

BigDecimal的ROUND_DOWN()中的坑

一、double类型精度缺失处理
由于计算小数,需要向下截取小数位,保留两位小数,但是用了ROUND_DOWN截取却出现了问题

public class Test {
public static void main(String args[]){
//0.03,0,06,0.09
double a = 0.09;
double b = new BigDecimal(a).setScale(2, BigDecimal.ROUND_DOWN).doubleValue();
System.out.println(b);
}
}

0.03->0.02,0.06->0.05, 0.09->0.08,但是如果是三位小数截取不会有问题,大于1,截取也不会有问题,只有2位小数截取两位有问题,使用BigDecimal.ROUND_HALF_DOWN可以避免这种情况。

这个原因在于使用了double类型的参数来进行转换,将double转换成String类型的,就可以转化正常了。感谢博友的提醒,csdn真是个好地方。

二、对于非金融领域货币的处理
在非金融类项目中对货币处理时, 一般取2位精度, 通常的设计方法是在运算过程中扩大100倍, 在需要展示时再缩小100倍, 减少精度带来的误差。所以此时价格可以设置为int型,不需要设置double型的。

参考文章:
https://blog.youkuaiyun.com/haiyinshushe/article/details/82721234
https://blog.youkuaiyun.com/hzr0523/article/details/80620610

在 Vue.js 中进行精确数值运算时,由于 JavaScript 原生的浮点数类型(如 `Number`)存在精度丢失问题,因此通常会引入第三方高精度计算库来替代原生数值类型。虽然 Java 中有 `BigDecimal` 类用于解决这一问题[^3],但在 Vue.js(即 JavaScript/TypeScript 环境)中无法直接使用 Java 的 `BigDecimal`,但可以借助类似功能的库实现相同效果。 ### 推荐使用的库 1. **decimal.js** `decimal.js` 是一个功能强大、广泛使用的高精度数值计算库,支持加减乘除、幂运算、取模、比较等操作,并提供丰富的配置选项,如精度设置和舍入模式。 2. **big.js** `big.js` 是另一个轻量级的高精度数值库,API 更为简洁,适合只需要基础四则运算的场景。 3. **bignumber.js** 提供与 `decimal.js` 类似的功能,语法略有不同,适用于需要更高控制能力的项目。 ### 在 Vue 项目中使用 decimal.js 进行精确运算 以下是一个在 Vue 组件中使用 `decimal.js` 实现高精度加法的示例: ```vue <template> <div> <p>结果: {{ result }}</p> </div> </template> <script> import Decimal from 'decimal.js'; export default { data() { return { a: new Decimal(0.1), b: new Decimal(0.2), result: '' }; }, mounted() { this.result = this.a.plus(this.b).toString(); // 使用Decimal对象进行加法运算并转换为字符串 } }; </script> ``` 通过该方式,可确保在 Vue 应用中进行金融、科学或任何对精度敏感的计算时不会出现精度丢失问题[^4]。 ### 注意事项 - 所有参与运算的数值都应使用 `Decimal` 构造函数创建。 - 避免将 `Decimal` 对象与原生 `Number` 混合使用,以防止精度丢失。 - 最终输出结果时,建议使用 `.toString()` 或 `.toNumber()` 显式转换。 ### 替代方案:使用 toFixed 方法 对于简单的格式化输出需求,可以使用 `Number.prototype.toFixed(n)` 来限制小数位数,但其本质并未改变浮点数的存储机制,仅适用于显示层面的精度控制,不适合用于中间计算过程。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值