【工作笔记0036】C#中Decimal小数取整容易犯错的坑

文章讲述了在排查一个bug时发现数据库(SQLServer)与C#代码中使用相同的计算公式进行Decimal类型小数计算,但在四舍五入保留两位小数后结果不同。问题根源在于C#的Math.Round方法默认的四舍五入策略。通过深入研究发现,设置MidpointRounding.AwayFromZero策略使C#与数据库保持一致,解决了问题。这提醒我们在处理精度问题时要注意不同环境的行为差异。

这两天排查一个bug,数据库中同样的计算公式 和 C#代码中一毛一样的计算公式,最后结果为 Decimal 类型的小数,需求保留两位小数。但是结果是数据库中 和 代码中的结果总是对不上。

整理并简化了一下项目中代码计算公式:

decimal a = 3, b = 0, c = 0.035;

var s = Math.Round((a - b) * c, 2);

问题来了,项目数据库用的sqlserver,上面同样公式,数据库算出来是 0.11,而C# 代码中算出来是 0.10。

如果不保留小数,原始结果都知道是 0.105,那么为什么四舍五入后,结果为啥却不一样呢??

一开始,我也没有想明白,盯着代码愣了半天,就好像自己的考试一样,明明觉得得了100分,为啥最后还是99。

后来上了个厕所回来,抛开所有疑问,看看是不是这个 取整函数的问题。于是,发现 Math.Round 有很多个重载函数,于是 F12 进去看了看,发现有个参数 MidpointRounding 的枚举值,再 F12 进去看,发现有两个东西 ToEven、AwayFromZero。嗯?!。。应该是这里的问题,继续探索!

查了一些资料,微软官方对这两个枚举值的解释如下:

C#中,可以使用Math.Floor()方法来对decimal类型进行取整操作。该方法会向下取整,即将小数部分舍去,返回一个整数值。例如,Math.Floor(3.2m)的结果是3,Math.Floor(-4.7m)的结果是-5。 此外,还可以使用Math.Truncate()方法来对decimal类型进行取整。该方法会将小数部分截断,返回一个整数值。例如,Math.Truncate(3.2m)的结果是3,Math.Truncate(-4.7m)的结果是-4。 总结起来,C#中的decimal类型可以使用Math.Floor()和Math.Truncate()方法来进行取整操作。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [C#decimal结构取整方法总结](https://blog.youkuaiyun.com/sammy520/article/details/108225237)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [C#编程实现取整余的方法](https://download.youkuaiyun.com/download/weixin_38752897/14869537)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [C#常见金额优选类型及其三种常用的取整方式](https://blog.youkuaiyun.com/dfj66154/article/details/101219133)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值