这两天排查一个bug,数据库中同样的计算公式 和 C#代码中一毛一样的计算公式,最后结果为 Decimal 类型的小数,需求保留两位小数。但是结果是数据库中 和 代码中的结果总是对不上。
整理并简化了一下项目中代码计算公式:
decimal a = 3, b = 0, c = 0.035;
var s = Math.Round((a - b) * c, 2);
问题来了,项目数据库用的sqlserver,上面同样公式,数据库算出来是 0.11,而C# 代码中算出来是 0.10。
如果不保留小数,原始结果都知道是 0.105,那么为什么四舍五入后,结果为啥却不一样呢??
一开始,我也没有想明白,盯着代码愣了半天,就好像自己的考试一样,明明觉得得了100分,为啥最后还是99。
后来上了个厕所回来,抛开所有疑问,看看是不是这个 取整函数的问题。于是,发现 Math.Round 有很多个重载函数,于是 F12 进去看了看,发现有个参数 MidpointRounding 的枚举值,再 F12 进去看,发现有两个东西 ToEven、AwayFromZero。嗯?!。。应该是这里的问题,继续探索!
查了一些资料,微软官方对这两个枚举值的解释如下:

文章讲述了在排查一个bug时发现数据库(SQLServer)与C#代码中使用相同的计算公式进行Decimal类型小数计算,但在四舍五入保留两位小数后结果不同。问题根源在于C#的Math.Round方法默认的四舍五入策略。通过深入研究发现,设置MidpointRounding.AwayFromZero策略使C#与数据库保持一致,解决了问题。这提醒我们在处理精度问题时要注意不同环境的行为差异。
最低0.47元/天 解锁文章
1762

被折叠的 条评论
为什么被折叠?



