float转snormal,unormal,srgb和fixed point number的误差要求都是0.6个ULP,不用0.5ULP的原因是因为0.5ULP is too expensive. why?其实fixed point number 的误差实际转换出来只有0.5个ULP比要求的要低,我在想是不是因为snormal,unormal和srgb是通过数值位全1来表示1的原因?
Dx 中的数据精度问题
于 2022-08-17 09:40:50 首次发布
float转snormal,unormal,srgb和fixed point number的误差要求都是0.6个ULP,不用0.5ULP的原因是因为0.5ULP is too expensive. why?其实fixed point number 的误差实际转换出来只有0.5个ULP比要求的要低,我在想是不是因为snormal,unormal和srgb是通过数值位全1来表示1的原因?