【工作笔记0036】C#中Decimal小数取整容易犯错的坑

文章讲述了在排查一个bug时发现数据库(SQLServer)与C#代码中使用相同的计算公式进行Decimal类型小数计算,但在四舍五入保留两位小数后结果不同。问题根源在于C#的Math.Round方法默认的四舍五入策略。通过深入研究发现,设置MidpointRounding.AwayFromZero策略使C#与数据库保持一致,解决了问题。这提醒我们在处理精度问题时要注意不同环境的行为差异。

这两天排查一个bug,数据库中同样的计算公式 和 C#代码中一毛一样的计算公式,最后结果为 Decimal 类型的小数,需求保留两位小数。但是结果是数据库中 和 代码中的结果总是对不上。

整理并简化了一下项目中代码计算公式:

decimal a = 3, b = 0, c = 0.035;

var s = Math.Round((a - b) * c, 2);

问题来了,项目数据库用的sqlserver,上面同样公式,数据库算出来是 0.11,而C# 代码中算出来是 0.10。

如果不保留小数,原始结果都知道是 0.105,那么为什么四舍五入后,结果为啥却不一样呢??

一开始,我也没有想明白,盯着代码愣了半天,就好像自己的考试一样,明明觉得得了100分,为啥最后还是99。

后来上了个厕所回来,抛开所有疑问,看看是不是这个 取整函数的问题。于是,发现 Math.Round 有很多个重载函数,于是 F12 进去看了看,发现有个参数 MidpointRounding 的枚举值,再 F12 进去看,发现有两个东西 ToEven、AwayFromZero。嗯?!。。应该是这里的问题,继续探索!

查了一些资料,微软官方对这两个枚举值的解释如下:

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值