【一分钟学C++】MacOS Hook之DYLD_INSERT_LIBRARIES

最新推荐文章于 2025-12-09 19:44:09 发布

原创最新推荐文章于 2025-12-09 19:44:09 发布 · 1k 阅读

13 ·

CC 4.0 BY-SA版权

文章标签：

#c++ #macos #hook

C++那些事儿专栏收录该内容

17 篇文章

订阅专栏

在这里插入图片描述

竹杖芒鞋轻胜马,谁怕?一蓑烟雨任平生~
公众号： C++学习与探索 | 个人主页： rainInSunny | 个人专栏： Learn OpenGL In Qt

文章目录

DYLD_INSERT_LIBRARIES
测试代码

Unix 类的操作系统都提供了 dlopen、dlsym 函数族来帮助我们动态加载动态库，这样可以在运行时加载外部动态库并获取其中的函数指针来实现函数调用。假设我们现在希望统计系统调用 malloc 的次数，显然我们无法修改 malloc 的源码来实现功能。这种场景就需要 Hook 系统提供的 malloc 函数，让之前对 malloc 的调用都首先调用到我们自定义的 malloc 函数中，在自定义的函数中实现功能的扩展。

DYLD_INSERT_LIBRARIES

在这里插入图片描述
MacOS 上提供了 DYLD_INSERT_LIBRARIES 环境变量来帮助实现这个过程，当我们配置了该环境变量后，应用启动之前会优先加载环境变量中配置的动态库，为了实现上面的目的，可以进行一下操作：

编写一个动态库，其中包含了自定义的 malloc，自定义 malloc 和系统 malloc 函数签名保持一致。
将编写的动态库路径添加到环境变量 DYLD_INSERT_LIBRARIES 中。
在环境变量设置的条件下，运行应用，验证是否调用了自定义的 malloc 函数。

需要注意的是要在编译应用时添加上 -force_flat_namespace 选项。
在这里插入图片描述
这是由于 DYLD_INSERT_LIBRARIES 对于 two-level namespace images 没有影响，强制使用“扁平命名空间”可以解决这一问题。关于命名空间，苹果官方给出了如下解释（翻译过来的，不一定准确）：

默认情况下，OS X 使用两级命名空间构建库和应用程序。在两级命名空间环境中，当您编译新的动态库时，该库对其他动态库的任何引用都将解析为这些特定动态库中的定义。两级命名空间设计对 Carbon 应用程序有许多优势。但是，如果许多传统 UNIX 应用程序设计为在平面命名空间环境中工作，则可能会出现问题。
例如，假设一个名为 libfoo 的库使用另一个库 libbar 来实现函数 barIt。现在假设应用程序想要用名为 libzbar 的压缩版本覆盖 libbar 的使用。由于 libfoo 在编译时与 libbar 链接，因此如果不重新编译 libfoo，则无法实现这一点。要允许应用程序覆盖 libfoo 对 libbar 的引用，您可以使用标志 -flat_namespace。ld 手册页对此标志进行了更详细的讨论。
如果您从头开始编写库，则可能值得在设计中考虑两级命名空间问题。如果您预计有人可能想要覆盖您的库对另一个库的使用，那么您可以有一个初始化例程，它将指向第二个库的指针作为其参数，然后使用这些指针进行调用，而不是直接调用第二个库。或者，您可以使用插件架构，其中对外部库的调用由一个插件进行，该插件可以轻松替换为另一个外部库的不同插件。有关更多信息，请参阅动态库和插件。但是，在大多数情况下，除非您从头开始设计库，否则如果您需要覆盖库对另一个库的引用，则避免使用 -flat_namespace 是不切实际的。如果您正在编译可执行文件（而不是库），您还可以使用 -force_flat_namespace 来告诉 dyld 在加载二进制文件加载的任何动态库和包时使用平面命名空间。但这通常不是必需的。

测试代码

#include <stdio.h>
#include <dlfcn.h>

static unsigned int invoke_times = 0;

void* malloc(size_t sz)
{ 
    void* (*old_malloc)(size_t) = dlsym(RTLD_NEXT, "malloc");
    invoke_times += 1;
    printf("my malloc invoked\n");
    return old_malloc(sz);
}

自定义一个 malloc 函数。
函数中通过 dlsym 获取系统 malloc 的函数指针，这里的 RTLD_NEXT 的含义是告诉链接器，将 malloc 这个符号的定义解析到后面的可执行目标文件或者共享库中，而不要解析为本模块中的定义。
增加一次调用计数。输出日志信息。
返回系统 malloc 调用。

通过指令 clang -shared -o hook.dylib hook.c 编译得到动态库 hook.dylib。
可执行程序代码如下：

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char** argv)
{
    int* p = (int *)malloc(sizeof(int));
    free(p);
    return 0;
}

通过指令 clang -o test -force_flat_namespace test.c 编译得到可执行文件 test。然后在命令行执行 DYLD_INSERT_LIBRARIES=hook.dylib ./test，得到如下结果：
在这里插入图片描述
可以看到输出了自定义函数中打印的日志信息，说明这里成功对 malloc 系统函数进行了 hook。