在mapbasic里有以下语句:
dim a as float
a = 121.876518
print a //将得到121.877
若直接使用 mapinfo.eval("a") 语句提取a的值时,将也得到121.877
若想获取121.876518不损失精度,可使用format$函数,如:
print Format$( a ,"#.######") //打印出 121.876518
mapinfo.eval("Format$( a ,/"#.######/") ") //得到 121.876518
dim a as float
a = 121.876518
print a //将得到121.877
若直接使用 mapinfo.eval("a") 语句提取a的值时,将也得到121.877
若想获取121.876518不损失精度,可使用format$函数,如:
print Format$( a ,"#.######") //打印出 121.876518
mapinfo.eval("Format$( a ,/"#.######/") ") //得到 121.876518
本文介绍在MapBasic中如何保持浮点数的精度不变。通过使用format$函数,可以确保数值在输出时不丢失小数点后的精确位数。
3273

被折叠的 条评论
为什么被折叠?



