Dart(flutter) 小数(double)运算 出现多位小数或精度问题

问题描述:

Dart中的 double 与 js 中的 小数运算 一样,会出现 精度问题, 如以下情况:

var a = 1.0;
var b = 1;
var c = 1.1;

a - b   =  1.00
c - b   =  0.10000000000000000009

0.2 + 0.1    =  0.30000000000000004


原因分析:

这是由于 Dart 使用了和js一样的 IEEE 754 双精度标准进行存储。


解决方案:

  1. 像js一样 将 小数转化为 整数 后,计算后再 转回小数
    如: 取 两位小数
 int aInt = (a*100).floor();
 int bInt = (b*100).floor();
 int cInt = (c*100).floor();
 (aInt - bInt)/100   =   1
 (cInt - bInt)/100   =   0.1
  1. 使用 第三方库 如
 decimal: ^1.1.0
import 'package:decimal/decimal.dart';
 final d = Decimal.parse;
 d('0.2') + d('0.1'); // => 0.3
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值