Golang小数精度问题

原创

已于 2022-02-21 15:31:38 修改 · 1.2w 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#Golang #float精度 #小数加减乘除精度问题

于 2019-03-28 22:41:41 首次发布

Golang小数精度问题

GO语言的float64类型在做加减乘除时会出现一些问题
比如乘法运算，实例，将小数的元转换成整数的分：
在这里插入图片描述

发现将小数的元乘以100后强制转换为整数分，少了1分
解决办法：
在这里插入图片描述

var (
a, b float64
c int64
)
a = 2.55
b = 0.0

c = int64((a + b) * 100.0)
fmt.Printf("第1次 c=%d\n", c) //第1次 c=254

c = int64(a * 100.0)
fmt.Printf("第2次 c=%d\n", c) //第2次 c=254

fmt.Println(a * 100) //254.99999999999997
//发现将小数的元乘以100后强制转换为整数分，少了1分
//解决办发1：
tmpStr1 := fmt.Sprintf("%.2f", a)
tmpStr2 := fmt.Sprintf("%.2f", b)

tmpnum1, _ := strconv.ParseInt(strings.Replace(tmpStr1, ".", "", 1), 10, 64)
tmpnum2, _ := strconv.ParseInt(strings.Replace(tmpStr2, ".", "", 1), 10, 64)
c = tmpnum1 + tmpnum2
fmt.Printf("第3次 c=%d\n", c) //第3次 c=255

//方法2：