VBA 学习之旅(一) —— 数据类型

VBA在游戏数值策划中的应用
本文介绍了VBA在游戏数值策划中的作用,并通过实例详细解析了如何解决因数据类型限制导致的溢出问题。从Excel环境到VBA编程,展示了数值策划工作中程序化设计的优势。

13年这个暑假,终于短暂的告别已经持续近20载的学生生涯,尝试性的成为了一名游戏数值策划实习生。

目前Excel已然是数值策划最常用最主要的办公环境,其可以很方便的完成拍数据、公式计算、绘图等,然而其后期维护实在有些糟糕——除了数值策划本人,其他人很难短时间能理清数值设计的思路。

而VBA(Visual Basic for Applications),是基于Visual Basic来方便对windows应用程序的扩展,尤其是office。而在数值策划的工作中,VBA主要有以下优势:

  1. 程序化的函数设计过程,清晰、明了、便于维护
  2. 去单元格依赖度的函数设计,便于函数的再利用
  3. 良好的注释功能
  4. 函数的导入导出

 

一、下面以一个小例子开始本节内容

1 Sub tst()
2     Dim a As Integer
3     a = 50 * 50
4     MsgBox (a)
5 End Sub

F5运行后我们得到

 

二、然后我们将代码修改如下(只修改了数据部分)

1 Sub tst()
2     Dim a As Integer
3     a = 500 * 500
4     MsgBox (a)
5 End Sub

 

运行后出现如下错误

这就是数据大小已经超过了数据类型可表示的上限而引起的错误

数据类型存储空间(字节)数值范围数值范围2
Byte10 ~ 2^8-10~256
Booleam2True/False 
Integer2-2^15 ~ 2^15-1-32768 ~ 32767
Long4-2^31 ~ 2^31-1-247483648~2147483647

三、于是我们开开心心的把代码修改如下

1 Sub tst()
2     Dim a As Long
3     a = 500 * 500
4     MsgBox (a)
5 End Sub

可是依旧报同样的错误。原因是,在VB中,赋值号"="是先将=右侧的结果计算出来,然后再赋值给=左侧的变量。而在这里,右侧的500和500均为 Integer,当它们之间进行运算,运算结果会临时保存在一个数据类型为Integer的临时变量中,这就是隐式类型转换——当计算中有多个不同类型的变量时,结果会转换为其中最长的类型

四、为了解决这个问题,我们可以使用强制类型转换——将其中一个强制转换成Long,从而使得其乘积结果保存为Long类型而避免了溢出

 

1 Sub tst()
2     Dim a As Long
3     a = CLng(500) * 500
4     MsgBox (a)
5 End Sub

 

 

 

转载于:https://www.cnblogs.com/madtime-inside/p/3196212.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值