|-----------|-----------|
left.f real-number right.f
ULP = ABS(left.f - right.f)
Normally, Function's accuracy <= 0.5 ULP → means correct floating point calculation
ABS(real.f - left.f) or ABS(real.f - right.f) < 0.5*ULP
ULP - Unit in the Latest Place
本文探讨了浮点数运算的精度问题，通过ULP(单元间隔)来衡量计算误差。当函数计算误差小于0.5ULP时，认为是正确的浮点计算。文章深入解析了如何判断浮点计算的精度，并提供了判断标准：比较实际值与计算结果之间的绝对差是否小于0.5倍的ULP。
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
