聊聊gost的DeltaCompare

最新推荐文章于 2024-01-15 15:12:14 发布

原创最新推荐文章于 2024-01-15 15:12:14 发布 · 106 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#go

golang 专栏收录该内容

72 篇文章

订阅专栏

本文详细介绍了GOST数学库中的DeltaCompare函数，用于判断两个浮点数差值是否小于等于指定的delta。通过示例和测试用例展示其在实际场景中的使用，并总结了该功能在浮点数精度控制中的作用。

序

本文主要研究一下gost的DeltaCompare

DeltaCompare

gost/math/compare.go

// equivalent to math.Abs(expected - actual) <= delta
func DeltaCompareFloat64(expected float64, actual float64, delta float64) bool {
	if expected > actual {
		return expected-actual <= delta
	}
	return actual-expected <= delta
}

func DeltaCompareFloat32(expected float32, actual float32, delta float32) bool {
	if expected > actual {
		return expected-actual <= delta
	}
	return actual-expected <= delta
}

DeltaCompareFloat64及DeltaCompareFloat32对比两个float类型的差值是否小于等于指定的delta

实例

gost/math/compare_test.go

func TestFloat64(t *testing.T) {
	assert.True(t, DeltaCompareFloat64(12.3334, 12.3344, 0.01))
	assert.True(t, DeltaCompareFloat64(12.3334, 12.32981, 0.01))
	assert.False(t, DeltaCompareFloat64(12.3334, 12.0325, 0.01))
}

func TestCompareFloat32(t *testing.T) {
	assert.True(t, DeltaCompareFloat32(12.3334, 12.3344, 0.01))
	assert.True(t, DeltaCompareFloat32(12.3334, 12.32981, 0.01))
	assert.False(t, DeltaCompareFloat64(12.3334, 12.0325, 0.01))
}