csp接口实现中调用FuncReturnhWnd异常解决方法

最新推荐文章于 2020-11-27 11:41:37 发布

原创最新推荐文章于 2020-11-27 11:41:37 发布 · 1.4k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#winapi #null #byte #测试 #微软 #xp

C++ 专栏收录该内容

1 篇文章

订阅专栏

本文介绍了一个在CSP接口实现中遇到的堆栈溢出问题及其解决方案。问题出现在非Unicode环境下通过FuncReturnhWnd获取窗口句柄时。文章详细说明了如何正确定义CRYPT_RETURN_HWND类型以避免错误。

在csp接口实现中，可以通过PVTableProvStruc中的回调函数FuncReturnhWnd获取设置的窗口。但我在xp sp2环境下（程序为非UNICODE环境）下测试时，当调用FuncReturnhWnd函数时，一直报堆栈溢出错误。后来在网上查了好久, 在一个邮件列表中发现相似问题的解决方案。可能是微软提供的cspdk.h 中对 CRYPT_RETURN_HWND函数定义 typedef void (*CRYPT_RETURN_HWND)(HWND *phWnd); 有问题需要定义为 typedef void (WINAPI*CRYPT_RETURN_HWND)(HWND *phWnd);

CSP接口实现中的部分代码如下:

BOOL WINAPI
CPAcquireContext(
                OUT HCRYPTPROV *phProv,
                IN LPCSTR szContainer,
                IN DWORD dwFlags,
                IN PVTableProvStruc pVTable)

{

    if (NULL != pVTable && NULL != pVTable->FuncReturnhWnd)
    {
        // warn 如果直接使用FuncReturnhWnd函数，会导致栈溢出
        typedef void (WINAPI *MY_CRYPT_RETURN_HWND)(HWND *phWnd);
        MY_CRYPT_RETURN_HWND fnReturnhWnd = (MY_CRYPT_RETURN_HWND)pVTable->FuncReturnhWnd;
        HWND hwndTemp;
        fnReturnhWnd(&hwndTemp);
        if (::IsWindow(hwndTemp))
        {
            g_hwndOwner = hwndTemp;
        }
    }

// todo ...

}

设置csp中界面父窗体的调用: CryptSetProvParam(NULL, PP_CLIENT_HWND, (const BYTE*)(&hwnd), 0);