计算一个数203771559278077900,用toString(16)转成16进制,尽然转错了,这个是不精确的?
用计算器和go语言试过,都是2d3f1274e18e7cc而toString(16)是2d3f1274e18e7c0
这篇博客探讨了将数值203771559278077900转换为16进制时,计算器和Go语言得到的结果与toString(16)方法不符,引发了关于精度和转换算法的讨论。
计算一个数203771559278077900,用toString(16)转成16进制,尽然转错了,这个是不精确的?
用计算器和go语言试过,都是2d3f1274e18e7cc而toString(16)是2d3f1274e18e7c0
2208

被折叠的 条评论
为什么被折叠?