【转载】VB6里面,double精度都不够用怎么办?

double类型的精度确实是可定义类型中最高的,但有效数字为15或16位
另一种Decimal 数据类型有效位可达到28或29位,但不含指数位
应该可以这样理解:
Decimal精度更高但示数范围小;double反之
而且Decimal 数据类型只能在 Variant中使用,也就是说,不能声明一变量为 Decimal 的类型
上面有高手给了你利用Decimal 数据类型解决例题的办法。
另外如果需要,还可以自己定义变量或数组来记录超大数,有效位和示数范围上不封顶,不过进位借位等等操作只有自己解决了

Dim y As Variant
Dim q As Variant
Dim n As Integer

q = 1E+20
n = 17

y = CDec(CDec(q) - Fix(CDec(q) / n) * n)
Print y

转载于:https://www.cnblogs.com/argent/p/5415612.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值