vb6的API调用时的字符串处理_vb6 api确定字符串的字节数-优快云博客

本文链接：https://blog.youkuaiyun.com/klima/article/details/148451047

由于VB6内部使用unicode，而API有ANSI和Unicode两种字符方式，调用时非常麻烦。参考msdn做一些简单记录。

通常，字符串应该使用 ByVal 方式传递到 APIs。Visual Basic 使用被称为 BSTR 的 String 数据类型，它是由自动化（以前被称为 OLE自动化）定义的数据类型。一个 BSTR 由头部和字符串组成，头部包含了字符串的长度信息，字符串中可以包含嵌入的 null 值。BSTR 是以指针的形式进行传递的，因而 DLL 过程能够修改字符串。（指针是一个变量，包含另外一个变量的内存地址，而不是数据。） BSTR 是 Unicode 的，即每个字符需要两个字节。BSTR 通常以两字节的 null 字符结束。

DLL 中的大部分过程（以及 Window API 中的所有过程）能够识别 LPSTR 类型，这是指向标准的以 null 结束的 C 语言字符串的指针，它也被称为 ASCIIZ 字符串。LPSTR 没有前缀。下图显示了一个指向 ASCIIZ 字符串的 LPSTR。

如果 DLL 过程需要一个 LPSTR（指向以 null 结束的字符串的指针）作为参数，可以将 BSTR 以使用值方式传递给它。因为指向 BSTR 的指针实际指向以 null 值结束的字符串的第一个数据字节，对于 DLL 过程来说，它就是一个 LPSTR。

例如，sndPlaySound 函数接受一个数字声音 (.wav) 文件名，然后演奏该文件。

Private Declare Function sndPlaySound Lib "winmm.dll" _
Alias "sndPlaySoundA" (ByVal lpszSoundName As String, _
ByVal uFlags As Long) As Long

因为该过程的字符串参数被声明为 ByVal，Visual Basic 将传递一个 BSTR，该 BSTR 指向第一个数据字节：

Dim SoundFile As String, ReturnLength As Long
SoundFile = Dir("c:\Windows\System\" & "*.wav")
Result = sndPlaySound(SoundFile, 1)

通常，如果 DLL 过程需要 LPSTR 参数，那么使用 ByVal 关键字。如果 DLL 需要得到指向 LPSTR 的指针，则使用引用方式传递 Visual Basic 字符串。

如果要将二进制数据传递到 DLL 过程，可以将变量作为 Byte 数据类型的数组传递，不要将其作为 String 变量。字符串是假定用来包含字符的，如果将二进制数据作为 String 变量传递，外部程序可能无法正确读入数据。

假设声明了一个字符串变量，但没有初始化它，如果将其以使用值方式传递到 DLL，该字符串变量将作为 NULL 传递，而不是作为空字符串 ("")。为了消除代码中的混淆，如果要将 NULL 传递到 LPSTR 参数，请使用 vbNullString 常数。

将字符串传递到使用自动化的 DLL

某些 DLL 是专门使用 BSTR 等自动化数据类型的，它们利用了自动化提供的若干过程。

因为 Visual Basic 使用自动化数据类型作为自己的数据类型，所以能够使用引用方式将 Visual Basic 参数传递到需要自动化数据类型的任何 DLL。因此，如果 DLL 过程需要以 Visual Basic 字符串作为参数，就不必用 ByVal 关键字来声明参数，除非该过程确实需要以使用值方式传递字符串。

某些 DLL 过程可以返回字符串到调用它的过程。除非 DLL 函数是专门为自动化数据类型而编写的，否则它将不能返回字符串。如果确实能够返回字符串，该 DLL 可能会提供对过程进行描述的类型库。请参考该 DLL 的有关文档。

修改字符串参数的过程

DLL 过程能够修改作为参数输入的字符串变量的数据。不过，如果修改后的数据超过了原来的长度，过程的修改将越界（越过字符串的结尾），这可能会毁坏其它的数据。

要避免这个问题，一种办法是使字符串参数足够长，从而使 DLL 过程无法超出字符串的尾部。例如，GetWindowsDirectory 过程在第一个参数中返回了 Windows 目录的路径：

Declare Function GetWindowsDirectory Lib "kernel32" _
Alias "GetWindowsDirectoryA" (ByVal lpBuffer As _
String, ByVal nSize As Long) As Long

在调用该过程时，为了安全起见，先使用 String 函数在字符串中填充 255 个空字符（二进制的 0），只要返回的路径少于 255 个字符，就不会出问题：

Path = String(255, vbNullChar)
ReturnLength = GetWindowsDirectory(Path, Len(Path))
Path = Left(Path, ReturnLength)

另一个办法是将字符串定义为定长的：

Dim Path As String * 255
ReturnLength = GetWindowsDirectory(Path, Len(Path))

上述方法的目的只有一个：创建一个固定长度的字符串，使之能够包含过程可能产生的最长的字符串。

注意 Windows API 的 DLL 过程通常不需要超过 255 个字符的字符串缓冲区。尽管这对于其它的许多库也是成立的，为了保险起见，最好参考相应过程的文档。

当 DLL 过程需要内存缓冲区时，既可以使用适合的数据类型，也可以使用字节数据类型的数组。

处理使用字符串的 Windows API 过程

如果调用的 Windows API 过程要使用字符串，那么声明语句中必须增加一个 Alias 子句，以指定正确的字符集。包含字符串的 Windows API 函数实际有两种格式：ANSI 和 Unicode。因此，在 Windows 头文件中，每个包含字符串的函数都同时有 ANSI 版本和 Unicode 版本。

例如，下面是 SetWindowText 函数的两种 C 语言描述。可以看到，第一个描述将函数定义为 SetWindowTextA，尾部的“A”表明它是一个 ANSI 函数：

WINUSERAPI
BOOL
WINAPI
SetWindowTextA(
HWND hWnd,
LPCSTR lpString);

第二个描述将它定义为 SetWindowTextW，尾部的“W”表明它是一个 Unicode 函数：

WINUSERAPI
BOOL
WINAPI
SetWindowTextW(
HWND hWnd,
LPCWSTR lpString);

因为两个函数实际的名称都不是“SetWindowText”，要引用正确的函数就必须增加一个 Alias 子句：

Private Declare Function SetWindowText Lib "user32" _
Alias "SetWindowTextA" (ByVal hwnd As Long, ByVal _
lpString As String) As Long

请注意，Alias 子句后面的字符串必须是过程的真正名称，而且必须是区分大小写的。

重点对于 Visual Basic 中使用的 API 函数，应该指定函数的 ANSI 版本，因为只有 Windows NT 才支持 Unicode 版本，而 Windows 95 不支持这个版本。仅当应用程序只运行在 Windows NT 平台上的时候才可以使用 Unicode 版本。