关于createMutex的神奇bug

前言

最近遇到一个神奇的bug：调用CreateMutex返回句柄值为空，但GetLastError值为0

解决思路

首先，该问题并没有定位到原因，最后是换了个mutex名字就解决了。

1、使用Process Explorer查找当前创建Mutex名字

结果是查找记录为空，说明本机中不存在该Mutex句柄

2、使用windbg调试该exe

2.1 下断点

通过代码知道该互斥体是在checklastinstance函数里面创建的，调用命令bm xx!*checklastinstance下断点，可以通过命令bl查看下了哪些断点。

2.2 运行

调用命令g，当遇到断点停住的时候，运行F10逐行调试，可以通过调用命令alt 7打开汇编界面，从而知道调用createMutex的参数。

执行du 00b3e12c查看createMutex的参数三值，即mutex名字（该步骤是确保第一步搜索的mutex名字无误）

当执行完call function后，通过执行! teb查看该线程的teb，目的是查看lasterror值

通过查看该peb可知，lasterror值为0，但还是没有定位到为啥会创建的mutex为空，但lasterror值为0的原因。。。。

不过从该bug学到了：

1、如何查找系统中哪些进程用了某个mutex

2、用windbg从peb中获取lasterror值

3、熟悉汇编语言