VS2005/VC2008中SetUnhandledExceptionFilter函数无效

 

很多软件通过设置自己的异常捕获函数，捕获未处理的异常，生成报告或者日志（例如生成mini-dump 文件），达到Release 版本下追踪Bug 的目的。但是，到了VS2005 （即VC8 ），Microsoft 对CRT （C 运行时库）的一些与安全相关的代码做了些改动，典型的，例如增加了对缓冲溢出的检查。新CRT 版本在出现错误时强制把异常抛给默认的调试器（如果没有配置的话，默认是Dr.Watson ），而不再通知应用程序设置的异常捕获函数，这种行为主要在以下三种情况出现。

（1 ）         调用abort 函数，并且设置了_CALL_REPORTFAULT 选项（这个选项在Release 版本是默认设置的）。

（2 ）         启用了运行时安全检查选项，并且在软件运行时检查出安全性错误，例如出现缓存溢出。（安全检查选项  /GS  默认也是打开的）

（3 ）         遇到_invalid_parameter 错误，而应用程序又没有主动调用

_set_invalid_parameter_handler 设置错误捕获函数。

所以结论是，使用VS2005 （VC8 ）编译的程序，许多错误都不能在SetUnhandledExceptionFilter 捕获到。这是CRT 相对于前面版本的一个比较大的改变，但是很遗憾，Microsoft 却没有在相应的文档明确指出。

解决方法

         之所以应用程序捕获不到那些异常，原因是因为新版本的CRT 实现在异常处理中强制删除所有应用程序先前设置的捕获函数，如下所示：

  /* Make sure any filter already in place is deleted. */

  SetUnhandledExceptionFilter(NULL);

  UnhandledExceptionFilter(&ExceptionPointers);

解决方法是拦截CRT 调用SetUnhandledExceptionFilter 函数，使之无效。在X86 平台下，可以使用以下代码。

#ifndef _M_IX86

        #error "The following code only works for x86!"

#endif

 

void DisableSetUnhandledExceptionFilter()

{

     void *addr = (void*)GetProcAddress(LoadLibrary(_T("kernel32.dll")),

                                                          "SetUnhandledExceptionFilter");

     if (addr)

     {

               unsigned char code[16];

               int size = 0;

               code[size++] = 0x33;

               code[size++] = 0xC0;

               code[size++] = 0xC2;

               code[size++] = 0x04;

               code[size++] = 0x00;

 

                  DWORD dwOldFlag, dwTempFlag;

                VirtualProtect(addr, size, PAGE_READWRITE, &dwOldFlag);

               WriteProcessMemory(GetCurrentProcess(), addr, code, size, NULL);

               VirtualProtect(addr, size, dwOldFlag, &dwTempFlag);

        }

}

在设置自己的异常处理函数后，调用DisableSetUnhandledExceptionFilter 禁止CRT 设置即可。

其它讨论

         上面通过设置api hook ，解决了在VS2005 上的异常捕获问题，这种虽然不是那么“干净”的解决方案，确是目前唯一简单有效的方式。

         虽然也可以通过_set_abort_behavior(0, _WRITE_ABORT_MSG | _CALL_REPORTFAULT), signal(SIGABRT, ...),  和_set_invalid_parameter_handler(...)  解决（1 ）（3 ），但是对于（2 ），设置api hook 是唯一的方式。