Lua中保留X位小数的实现方案

最新推荐文章于 2022-07-25 14:27:22 发布

Majin_2.0.exe

最新推荐文章于 2022-07-25 14:27:22 发布

阅读量408

点赞数

分类专栏： Lua学习笔记文章标签： lua string

本文链接：https://blog.youkuaiyun.com/weixin_43284350/article/details/118417869

版权

Lua学习笔记专栏收录该内容

12 篇文章

订阅专栏

本文详细介绍了在Lua中如何根据需求保留小数点后特定位数的方法，包括四舍五入和直接舍去策略。通过`string.format`函数实现四舍五入，通过取余操作实现直接舍去。同时，文章提到了`string.format`的舍入规则并非简单的四舍五入，而是四舍六入五成双。并提供了相应代码示例和实用函数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在使用Lua进行开发的时候，经常会遇到保留n位小数的问题，这里以保留两位小数为例，记录一下需要注意的地方！

在选择处理方案之前，首先要确认需求，搞清楚保留两位小数是指小数点后第三位四舍五入还是从小数点后第三位开始直接舍去！

Case 1

Desc

小数点后第三位四舍五入

Method

string.format("%.2f", num)

Demo

local num1, num2 = 0.1234, -1.5678
print(string.format("%.2f", num1), string.format("%.2f", num2))
-- 0.12    -1.57
 
-- 保留n位小数
function keepDecimalTest(num, n)
    if type(num) ~= "number" then
        return num    
    end
    n = n or 2
    return string.format("%." .. n .. "f", num)
end
print(keepDecimalTest(num1, 3), keepDecimalTest(num2, 3))
-- 0.123   -1.568

Tips

string.format返回值的类型为string

Case 2

Desc

从小数点后第三位开始直接舍去

Method

num - num % 0.01

Demo

-- 保留n位小数
function keepDecimalTest(num, n)
    if type(num) ~= "number" then
        return num    
    end
    n = n or 2
    if num < 0 then
        return -(math.abs(num) - math.abs(num) % 0.1 ^ n)
    else
        return num - num % 0.1 ^ n
    end
end
 
local num1, num2 = 0.1234, -1.5678
print(keepDecimalTest(num1, 2), keepDecimalTest(num1, 3), keepDecimalTest(num2, 2), keepDecimalTest(num2, 3))
-- 0.12    0.123   -1.56   -1.567