浮点数扩展

这篇博客探讨了Java中浮点数运算存在的舍入误差问题,导致预期的相等比较结果出现错误。通过示例代码展示了即使数值看似相等,由于浮点数的表示精度限制,比较结果可能不一致。为了解决这个问题,文章提到了BigDecimal类,这是一个用于高精度和任意精度算术运算的类,可以避免浮点数比较中的精度损失。建议在需要精确计算的场景下使用BigDecimal。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

浮点数扩展

银行业务怎么表示?

思考下列代码运行结果

public class Text{
    public static void main(String[] args){
float f = 0.1f;
double d = 1.0/10;
System.out.println(f==d);
System.out.println(f);
System.out.println(d);
}}

输出结果为:

false
0.1
0.1
public class Text{
    public static void main(String[] args){
float d1 =582354648f;
float d1 =582354648f + 1;
System.out.println(f==d);
System.out.println(f);
System.out.println(d);
}}

输出结果为:

true
5.8235462E8
5.8235462E8

运行发现原本应该输出是true的,却是false

运行发现原本应该输出是false的,却是true

结果:浮点数存在 舍入误差

结论:最好完全使用浮点数进行比较!

为了解决这个问题产生了 BigDecimal 类

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值