Lua 浮点数保留n位小数以及自动取整的问题解决
lua保留浮点数的后两位,一般都是通过 string.format(“%.2f”,XX) 来进行,但是下面这个例子你肯定会抓狂, print(string.format(“%.2f”,9.999)
–10.00
自动取整了,这个可不是我们想要的,但查过lua的api之后发现,暂时没有可以处理的办法,所以机智的我只能按string 来进行处理了,下面是一个粗糙的保留两位的demon ,仅供参考,欢迎指正
m_num_score =999999
m_num_score = m_num_score/1000
local l_fbindex =string.find(tostring(m_num_score), ".", 1, 2)
l_str = tostring(m_num_score)
l_str = string.sub(l_str,1,l_fbindex+2)
print(l_str)
本文探讨了Lua中处理浮点数精度时遇到的问题,特别是当使用string.format进行格式化时可能出现的意外取整现象。文章提供了一种通过字符串操作来实现精确控制浮点数显示的方法。
3348

被折叠的 条评论
为什么被折叠?



