---VB.NET Single & Double---
single的精度的问题
先简单说明一下:项目里面有个金额的内容,一开始使用的single,后来发现只有金额在(-100000.66,1000000.66)区间中才能真实的储存对应的值,测试了一下代码如下:
小数点后第二位6开始进位,例如100000.66成为100000.7
1
Private
[VB.NET] Single & Double
最新推荐文章于 2023-04-30 10:19:00 发布
在VB.NET项目中，使用Single类型处理金额时，发现数值在(-100000.66,1000000.66)区间内会存在精度问题，小数点后第二位6开始进位。通过测试，将类型改为Double后，问题得到解决，确保了金额的正确储存。因此，处理金额时推荐使用Double类型。"
96160957,8345777,OD分析：程序逆向与序列号计算,"['基础逆向', '程序分析', '调试技巧']
最低0.47元/天 解锁文章
扫一扫
6万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
