C# double类型计算精度问题解决

楚楚动人的明

于 2024-03-19 15:08:02 发布

阅读量814

点赞数 1

分类专栏： .NET 文章标签： c# double 精度问题

版权

38 篇文章

订阅专栏

博客讨论了C#中double类型的精度问题，给出示例代码，变量force为112.45，通过计算res = force / Math.Pow(10, index * 3)，原本res值精度不对，预期是0.11245，经计算后结果符合预期。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题：res 的值0.112450000001，精度不对，预期是0.11245

double force=112.45；

double res = force / Math.Pow(10, index * 3);

double force=112.45;
double res = force / Math.Pow(10, index * 3);
string str = res.ToString("F12");//保留12位有效数字
res = double.Parse(str);

结果res符合预期。