mysql中统计精度问题

mysql数据统计
1在订单中计算orderPrice 分别用如下sql进行统计 得到结果如下
SELECT sum(order_price) as orderPrice,sum(price) as splitPrice FROM alipay_shop_split_record WHERE pass_status=1
数据a 1512151.11   数据b 1498940.31

SELECT round(sum(order_price),3) as orderPrice,round(sum(price),3) as splitPrice FROM alipay_shop_split_record WHERE pass_status=1 
数据a 1512151.110  数据b 1498940.314

由于截断误差造成的
因为现在的CPU都是算double的。 
float运算会被转化为double运算,结果四舍五入成float的精度。 
结果0.8999999999...就变成了0.9。 
double相减后面还有n个9,但是被简单截断隐藏了,它不会四舍五入。 
如果你格式化输出数字,你可以看到大约还有15或者16个9。


float,double容易产生误差,对精确度要求比较高时,建议使用decimal来存,decimal在mysql内存是以字符串存储的,

用于定义货币要求精确度高的数据。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值