C++ Internals: VC RTTI - dynamic_cast (2)

最新推荐文章于 2021-12-14 16:05:02 发布

原创最新推荐文章于 2021-12-14 16:05:02 发布 · 4.9k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#c++ #attributes #编译器 #null

C++ 同时被 2 个专栏收录

24 篇文章

订阅专栏

Reverse Engineering

17 篇文章

订阅专栏

本文详细解析了C++中dynamic_cast操作符的工作原理。通过调用__RTDynamicCast函数，该过程涉及对指针进行调整并根据对象的实际类型进行转换。文章还介绍了如何定位完整对象以及根据不同的继承类型查找目标基类。

返回目录

下面进入正题，让我们见识一下 dynamic_cast到底是如何实现的。首先，在你调用 dynamic_cast之前，编译器会帮你进行语法检查。如果指针的静态类型和目标类型相同，那么就什么事情都不做。否则，首先对指针进行调整，使得它指向vftable，并将其和调整之后的指针、调整的偏移量、静态类型以及目标类型传递给内部的__RTDynamicCast函数。其中最后一个参数指明转换的是指针还是引用。两者唯一的区别是，如果转换失败，前者返回NULL，后者抛出bad_cast异常。

template<typename U>
U *__RTDynamicCast(void * ptr,ptrdiff_t offset,const TypeDescriptor *fromType,const TypeDescriptor *toType,int isReference)
{
    void *pCompleteObject=FindCompleteObject(ptr);
    ptrdiff_t inptr_delta=(size_t)ptr-offset-(size_t)pCompleteObject;
    const _s_RTTICompleteObjectLocator *pCompleteLocator=GetCompleteObjectLocator(ptr);
    int flag=pCompleteLocator->pClassHierarchyDescriptor->attributes;
    const _s_RTTIBaseClassDescriptor *pBaseClassDescriptor=NULL;

    if (fromType==toType) {
        pBaseClassDescriptor=pCompleteLocator->pClassHierarchyDescriptor->pBaseClassArray[0];
    } else {
        if ((flag&1)==0) {
            pBaseClassDescriptor=FindSITargetTypeInstance(pCompleteLocator,fromType,toType);
        } else if ((flag&2)==0) {
            pBaseClassDescriptor=FindMITargetTypeInstance(pCompleteObject,pCompleteLocator,fromType,inptr_delta,toType);
        } else {
            pBaseClassDescriptor=FindVITargetTypeInstance(pCompleteObject,pCompleteLocator,fromType,inptr_delta,toType);
        }
    }

    if (!pBaseClassDescriptor && isReference) {
        throw std::bad_cast("Bad dynamic_cast!");
    } else {
        size_t addr=0;
        if (pBaseClassDescriptor) addr=(size_t)pCompleteObject+PMDtoOffset(pCompleteObject,pBaseClassDescriptor->pmd);
        return (U *)addr;
    }
}

首先，和 dynamic_cast<void *>一样，函数会调用FindCompleteObject定位到实际对象，同时计算原始指针（未调整定位到vftable之前的）和指向实际对象的指针的偏移inptr_delta。然后利用CompleteObjectLocator中的attributes属性，分别针对单继承，多继承和虚继承，找到合适的基类信息（因为静态类型必须是转换类型的基类），之后就可以很容易的根据基类信息中的PMD来修正指针了。

至于如何寻找基类信息，且听下回分解 :-)