在最近的工作中,遇到一个BUG,本应是1200的一个变量,结果却变成了1199,找了一会,发现是由于Double的存储引起的。
问题简化如下:
var
d: Double;
begin
try
d := 1.2;
Writeln(Trunc(d * 1000));
Readln;
except
on E: Exception do
Writeln(E.ClassName, ': ', E.Message);
end;
end.
运行结果如下:

结果并不是意料中的1200,而是1199。
这是由于浮点数在内存中的存储格式引发的问题,具体的可以点击看这篇文章
由此,发散思维,做了几组对比实验。代码如下:
var
dTest: Double;
begin
//实验1
dTest := 1.2;
Writeln('当dTest赋值为1.2,你以为的dTest: 1.2,');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1201,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验2
dTest := 1.199999999999999960;
Writeln('当dTest赋值为1.199999999999999960,你以为的dTest: 1.199999999999999960');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验3
dTest := 1.19999999999999990;
Writeln('当dTest赋值为1.19999999999999990,你以为的dTest: 1.19999999999999990');
Writeln('实际内存中存的n: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验4
dTest := 1.199;
Writeln('当dTest赋值为1.199,你以为的dTest: 1.199');
Writeln('实际内存中存的n: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验5
dTest := 0.2;
Writeln('当dTest赋值为0.2,你以为的dTest: 0.2');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验6
dTest := 11.2;
Writeln('当dTest赋值为11.2,你以为的dTest: 11.2');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 11200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验7
dTest := 111.2;
Writeln('当dTest赋值为1111.2,你以为的dTest: 1111.2');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1111200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Readln;
end.
结果如下:

在Delphi中使用Ceil和Trunc对浮点数取整结果可能会出乎你的意料。当double存储时没有精度问题时,使用Ceil和Trunc函数没有问题,当有精度丢失时,使用Ceil和Trunc需要注意。
Delphi中Double精度及取整函数问题
在Delphi编程时,一个预期为1200的Double变量因存储精度问题变为1199。这源于浮点数在内存中的存储格式。进行简化实验后发现,当double存在精度损失时,使用Ceil和Trunc进行浮点数取整可能不按预期工作,需要注意此类情况。
2351

被折叠的 条评论
为什么被折叠?



