在计算机系统的内存中,半精度是16bit,单精度是32bit,双精度是64bit.
signed bit符号位,有效数字的符号位
Exponent 阶码或者叫指数,以10^Exponent表示
Significand 有效数字,又称尾数

浮点数的表示方法:N = ±M * R ^ E
N是所要表达的浮点数
M是有效数字(尾数)
R是阶码的基数=10
E是阶码,确定了小数点的位置。
符号位1表示负数,0表示正数

比如123.45678 = 1.23456 * 10 ^ 2
符号位 = 0
M = 1.23456
R = 10
E = 2
未完续待
多精度计算:以不同精度进行计算,在需要使用高精度计算的部分使用双精度,而其他部分则使用半精度或单精度算法。
混合精度计算又称超精度计算:将算法的计算步骤细化到每步操作,每次计算都根据所需计算精度选择合适的精度,并以更高的精度保存计算结果。比如两个16bit数相乘,得到是一个32bit的结果,那么混合精度计算就会以半精度读取操作数,将两数相乘后以单精度保存计算结果。其计算结果精度和直接采用单精度运算差不多。