调试实战之数据断点

最新推荐文章于 2024-07-27 10:39:01 发布

原创最新推荐文章于 2024-07-27 10:39:01 发布 · 1.1k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#null #mfc #测试 #dll

师弟用动态链接库实现含vc Grid控件的对话框，测试时对话框弹不出，去掉控件则正常。经调试发现问题出在m_nFlags，设置数据断点找到问题语句，CoGetClassObject失败，原因是未调用CoInitialize()，添加后问题解决，同时指出不能全信MFC输出。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

       上午师弟遇到了一个问题，他用动态链接库实现了一个对话框，这个对话框包含了vc的Grid控件,结果用测试程序测试时,对话框始终弹不出来!去掉Grid控件后就运行正常了!下面是DLL中导出对话框的函数：

void GEOADD_EXPORT DataGrid(CWnd *pWnd)
{
AFX_MANAGE_STATE(AfxGetStaticModuleState());//(1)
CDataGridDlg dlg;
dlg.DoModal();(2)
}
      (1)已经加上了，就不是它没有加的问题了。从（2）跟进去。发现在BOOL CWnd::CreateDlgIndirect(LPCDLGTEMPLATE lpDialogTemplate,CWnd* pParentWnd, HINSTANCE hInst)函数中的片断：
if (hWnd != NULL && !(m_nFlags & WF_CONTINUEMODAL))
{
:DestroyWindow(hWnd);
hWnd = NULL;
}
       程序会运行这个片断，从而销毁了对话框！对话框在这里被干掉了！查看这个条件语句，hwnd是肯定不为空的，有问题就是m_nFlags了。它等于WF_OLECTLCONTAINER，这个值好像不对！往前面看，发现在 hWnd = ::CreateDialogIndirect(hInst, lpDialogTemplate,pParentWnd->GetSafeHwnd(), AfxDlgProc);中改变了吗m_nFlags。在哪里呢？m_nFlags是成员变量，它在初始化后地址就不会改变。这样就方便了我们设置数据断点。在Watch窗口输入：&m_nFlags 得到它的内存地址，依次点击Edit->Breakpoints->Data,在上面的文本框中输入：*((int*)0x1111111),0x1111111是你刚才得到的内存地址，当程序试图改变m_nFlags,就会断掉了！找到出现问题的语句！AFX_STATIC HRESULT AFXAPI _AfxCoCreateInstanceLic(REFCLSID clsid, LPUNKNOWN pUnkOuter,DWORD dwClsCtx, REFIID iid, LPVOID* ppv, BSTR bstrLicKey)中的：
if (SUCCEEDED(hr = CoGetClassObject(clsid, dwClsCtx, NULL,
IID_IClassFactory, (void**)&pClassFactory)))
{
ASSERT(pClassFactory != NULL);
hr = pClassFactory->CreateInstance(pUnkOuter, iid, ppv);
pClassFactory->Release();
}

CoGetClassObject失败，返回hr等于0x800401F0.开动msdn查了一下，说是CoInitialize（）,没有调用。加上，解决了！！
       另外输出窗口输出信息不太符合，他说控件没有注册！看来也不能完全相信mfc的输出！