关于double类型mysql计算的一次小坑

文章讨论了在MySQL中使用double类型计算订单费率时的冲突,指出double可能与文本类型计算不同,导致结果不准确。建议采用decimal字段类型或在代码中处理计算逻辑以避免此类问题。

已知订单费率order_fee在数据库中是5,字段类型为double

设置变量 @ooo : = select order_fee;

A:SELECT -round(-50 * ( 5 / 100), 0); —这是我们预想中的计算结果

B:SELECT -round(-50 * (@ooo / 100), 0);

计算得出值是-2.5

前者向上取整是-3
后者向下取整是-2

正常而言,我们所需的是以前者计算结果为主,而后者看着跟前者类似,但计算结果却不一样呢
经排查发现,可能是mysql在获取double类型数据进行计算的时候,会跟以文本类型数据进行计算一样,

这样会导致通过mysql函数计算出来的结果与实际数字类型的计算产生冲突,就比如B语句再通过查询获值后就变成了

SELECT -round(-50 * ( ‘5’ / 100), 0);

这样算出来就变成-2了,因此以后涉及到这些费率的字段设计,尽量以decimal作为字段类型,又或者说将计算的逻辑交给代码,

而不是交给mysql处理,防止再出现类似的计算冲突

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值