在尝试将接近99999999.99999999的浮点数插入到平衡表中时，发现数值被四舍五入而非准确保存。本文探讨了这一现象的原因，并对比了不同数值插入时的表现。
版本10.2.0
balance number(16,8).
insert into tablea(balance) values(99999999.99999999)
结果为100000000.00000000，居然也没报错。
insert into tablea(balance) values(trunc(99999999.99999999,8))
仍然为100000000.00000000,仍然没报错。
insert into tablea(balance) values(trunc(99999999.99999994,8))
结果为99999999.99999990。
insert into tablea(balance) values(99999999.99999994)
结果为99999999.99999990。
换个字段 ratio number(9,8)
insert into tablea(balance) values(9.99999999)
结果为9.99999999，这个是正常的。
也就是说，我存入不了99999999.99999999这个数，为啥要四舍五入啊。
为啥啊？
balance number(16,8).
insert into tablea(balance) values(99999999.99999999)
结果为100000000.00000000，居然也没报错。
insert into tablea(balance) values(trunc(99999999.99999999,8))
仍然为100000000.00000000,仍然没报错。
insert into tablea(balance) values(trunc(99999999.99999994,8))
结果为99999999.99999990。
insert into tablea(balance) values(99999999.99999994)
结果为99999999.99999990。
换个字段 ratio number(9,8)
insert into tablea(balance) values(9.99999999)
结果为9.99999999，这个是正常的。
也就是说，我存入不了99999999.99999999这个数，为啥要四舍五入啊。
为啥啊？
扫一扫
1650
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
