浮点数精度问题(详细)

1.什么是浮点数

因为资源的限制，数学中的小数无法直接在计算机中准确表示。为了更好地表示它，计算机科学家们发明了浮点数，这是对小数的近似表示。
也就是说浮点数是相对于定点数而言的，表示小数点位置是浮动的。比如 7.5 × 10、0.75 × 10² 等表示法，值一样，但小数点位置不一样。
具体来说，浮点数是指用符号、尾数、基数和指数这四部分来表示的小数。

2. 二进制与十进制的转换

2.1 二进制与十进制的相互转换(方法介绍，思维理解)

二进制与十进制的相互转换(方法介绍，思维理解)

2.2 在线转换工具

二进制与十进制在线转换工具

3.浮点数的 IEEE754 表示

因为基数固定是 2，因此不存
参考文章：
https://www.cnblogs.com/hzy1987/p/18021627

4.C# 浮点型float、double 、decimal 比较

类型	名称	bit	有效数字( 带有一个固定隐含位)	数值范围	是否基础类型
float	单精度浮点数	32	7(8)	±1.5×10E−45 ~ ±3.4×10E38	是
double	双精度浮点数	64	15(16)	±5.0×10E−324 ~ ±1.7×10E308	是
decimal	高精度浮点数	128	28	±1.0×10E−28 ~ ±7.9×10E28	否

5.解决运算精度问题

5.1 浮点数预算精度问题

public static void Main(string[] args)
{
     Console.WriteLine(0.3f - 0.2f);     // 0.10000001
     Console.WriteLine(0.3 - 0.2);       // 0.09999999999999998
}   

5.2 解决方案

5.2.1 放大倍数计算

var tmp1 = (0.3f * 10) - (0.2f * 10);
float a = tmp1/10;
Console.WriteLine(a);   // 0.1
var tmp2 = (0.3 * 10) - (0.2 * 10);
double b = tmp2/10;
Console.WriteLine(b);   // 0.1

5.2.2 ToString()

string str1 = (0.3f -0.2f).ToString("N3");  // 保留3位有效数字
string str2 = (0.3 -0.2).ToString("N3");    // 保留3位有效数

float.TryParse(str1, out float a);
Double.TryParse(str2, out double b);
Console.WriteLine(a);   // 0.1
Console.WriteLine(b);   // 0.1

5.2.3 Math.Round()

关于Math.Round()的使用：
C# Math.Round() 四舍六入五取偶

double a = Math.Round(0.3 - 0.2, 2, MidpointRounding.AwayFromZero);
Console.WriteLine(a);   // 0.1