single和double

本文解析了VB编程语言中Single与Double两种数据类型的差异,重点解释了它们在内存占用上的不同导致的小数运算精度问题,并通过示例代码演示了如何避免因类型转换带来的误差。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我最近在看VB书,感觉定义single和double的差异还是很明显的

x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186

为什么后面会。。。 但定义为double时就对了single和double - 14期 张文慧 - 张文慧 廊坊师范学院信息技术提高班十四期

原因?

解答:

因为single和double占用的内存长度不同,single是4字节,double是8字节,所以single能表示最大精度是小数点后约六位,double能表示的精度是小数点后14位,
1.1+1.1=2.20000002384186
        因为这个式子里都是single,那么结果中小数点后六位之前是准确的,六位以后就是不准确的。
        因为输出的是按double处理的,所以,显示为精确到小数点后14为,所以,才出现误差,而你如果使用double计算,因为还在有效精度范围内,所以不会有误差。
       如果你输出的是按single处理的,那么也不会有误差。
  single和double - 14期 张文慧 - 张文慧 廊坊师范学院信息技术提高班十四期下面的代码你可运行一下,就能理解了:

Dim a As Single, b As Single, c As Double, d As Single

    a = 1.1
            b = 1.1
            c = a + b
           d = a + b
    Debug.Print c, d
输出结果: 2.20000004768372            2.2 
如果存在类型转换,那么可能就有误差,如果没有精度转换,那么就不会有误差



评论 12
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值