解析Unity3D中计算法线矩阵的函数_unity 矩阵法线-优快云博客

本文链接：https://blog.youkuaiyun.com/m0_46183319/article/details/127717062

如果法线简单地跟着顶点变换有时会出现如下图情况，
若图2所示，垂直关系变了.
在这里插入图片描述
可以用线性代数知识证明
设原来的切线为 $T$ ,法线 $N$ ,则有
$T^TN=0$
如果切线经过缩放矩阵S变换,则新的切线为 $T^{'}$ ,新的法线为 $N^{'}$ ,
$T^{'} = S T$
假设 $N^{'}$ =SN,则有
$\left( T' \right) ^TN'=\left( ST \right) ^T\left( SN \right) =T^T\left( S^TS \right) N$
而缩放矩阵有以下特征
$S=\left[ \begin{matrix} a& 0& 0\\ 0& b& 0\\ 0& 0& c\\ \end{matrix} \right]$

故有
$S^TS=\left[ \begin{matrix} a^2& 0& 0\\ 0& b^2& 0\\ 0& 0& c^2\\ \end{matrix} \right]$

如果 $a = b = c$ ,则 $S = k E$ ,故
$\left( T' \right) ^TN'=0$
成立.否则则说明不能对法线应用和切线相同的变换.
类似地，如果对切线空间应用旋转矩阵 $R$ ,则应该主要关注
$R^TR?=kE$
而我们知道旋转矩阵是正交矩阵，故上述关系肯定满足.
接下来是平移矩阵 $T r$ , $T r$ 的左 $3\times 3$ 矩阵为 $E$ ，故肯定也满足.

所以综合下来，只要缩放矩阵的Uniform的那么缩放，旋转，平移其一或多个组合组成 $M$ 矩阵，则法线只需同左乘左 $3\times 3M$ 就可以.如果不是uniform的，则需要不同的变换矩阵，而这个矩阵求法也跟上面的类似
$\left( MT \right) ^T\left( ?N \right) =0\rightarrow T^TM^T?N=0$
只需 $M^T?=E$ 即可故最终的 $M^N$ 应为 $\left( M^T \right) ^{-1}$ ,转置和求逆可以交换顺序,故结果同 $\left( M^{-1} \right) ^T$ ,而 $M^{-1}$ 即为世界坐标转为模型空间的矩阵 $W$ ，即最终法线为 $W^TN$ 而对一个矩阵转置比对一个向量转置更费时，故可以求最终法线的转置
$\left( W^TN \right) ^T=N^TW$
也即
$N'=\left\{ N^TW.col0,N^TW.col1,N^TW.col2 \right\}$
Unity 3D中就是采用的这种思路
UnityObjectToWorldNormal函数可在UnityCG.cginc中找到

// Transforms normal from object to world space
inline float3 UnityObjectToWorldNormal( in float3 norm )
{
#ifdef UNITY_ASSUME_UNIFORM_SCALING
    return UnityObjectToWorldDir(norm);
#else
    // mul(IT_M, norm) => mul(norm, I_M) => {dot(norm, I_M.col0), dot(norm, I_M.col1), dot(norm, I_M.col2)}
    return normalize(mul(norm, (float3x3)unity_WorldToObject));
#endif
}

函数使用了一个宏 UNITY_ASSUME_UNIFORM_SCALING来判断是否需要特殊处理，不用特殊处理的话
则用以下函数

// Transforms direction from object to world space
inline float3 UnityObjectToWorldDir( in float3 dir )
{
    return normalize(mul((float3x3)unity_ObjectToWorld, dir));
}