Decimal与Double的区别

本文通过对比double和decimal两种类型在进行数值加法运算时的表现,揭示了计算机中浮点数运算误差的原因,并给出了适用于不同场景的建议。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

今天在测试一个三个数相加和为100的情况;

前台输入三个值  例如:20,30,50。如果三个值都为整数

double.prase(20)+double.prase(30)+double.prase(50)=100;

decimal.parse(20)+decimal.parse(30)+decimal.parse(50)=100;

上面两个是没有误差问题的;

若前台输入的三个值 分别为39.43  28.02  32.55这三个值的话;

double.prase(39.43)+double.prase(28.02)+double.prase(32.55)=99.999。。。;无限循环

decimal.parse(39.43)+decimal.parse(28.02)+decimal.parse(32.55)=100;

好奇心驱使我去找了下答案:

计算机计算都是二进制数字,首先是将数字转化成二进制数(这样容易造成二进制有可能位数不够的情况)然后再计算,这样就造成了误差,Decimal类型的有效位数达到28位,而double类型的16位;对于一般的数据量不大的计算推荐用Decimal来;

### C# 中 `double` `decimal` 数据类型的差异 #### 定义精度 - `double` 是一种双精度浮点数类型,在内部使用 IEEE 754 标准表示,占用 8 字节。其范围大约为 ±5.0 × 10^-324 到 ±1.7 × 10^308,具有约 15 至 16 位有效数字[^1]。 - `decimal` 类型则专门设计用于金融货币计算,它同样占用 16 字节的空间,但是提供了更高的精确度,可以达到 28 或 29 个小数位的有效数字。 #### 表示形式 - 对于 `double` 而言,由于采用二进制分数的形式存储数值,因此对于某些十进制的小数无法做到完全精准的表示;而 `decimal` 使用的是基于十进制的编码方案,所以能够更准确地处理十进制小数[^2]。 #### 性能对比 - 尽管 `decimal` 提供了更好的准确性,但是在运算速度方面不如 `double` 那么高效。这是因为 CPU 的硬件架构天然更适合执行二进制算术运算,故而在涉及大量数学计算的应用程序里可能会优先考虑 `double` 来提高性能效率[^3]。 #### 应用场景 - 当涉及到科学计算、图形渲染等领域时,通常会选择 `double` 进行快速近似计算; - 如果应用程序关注财务报表、账单结算等需要高精度的结果,则应选用 `decimal` 以确保不会因为舍入误差而导致错误的发生[^4]。 ```csharp // 示例代码展示 double decimal 的不同表现 using System; class Program { static void Main() { double dValue = 0.1; decimal mValue = 0.1M; Console.WriteLine($"Double value after adding ten times: {(dValue * 10)}"); // 可能看到轻微偏差 Console.WriteLine($"Decimal value after adding ten times: {mValue * 10}"); // 结果更加稳定可靠 } } ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值