5. 摄像机模型
摄像机模型是3D世界(物体空间)和2D图像之间的一种映射关系。具体模型主要分成有限中心的摄像机模型和“无穷远”中心的摄像机模型。
5.1 有限摄像机
- 针孔相机模型:
( X , Y , Z ) T ↦ ( f X / Z , f Y / Z ) T (X,Y,Z)^T\mapsto(fX/Z,fY/Z)^T (X,Y,Z)T↦(fX/Z,fY/Z)T
x = K [ I ∣ 0 ] X c a m \textbf{x}=K[I|0]X_{cam} x=K[I∣0]Xcam
3维欧式空间 I R 3 IR^3 IR3到2维欧式空间 I R 2 IR^2 IR2的一个映射,投影中心称为光心,光心到图像平面的垂线称为摄像机的主轴,主轴与图像平面的交点称为主点,过摄像机光心平行于图像平面的平面称为主平面。
- 摄像机旋转与位移:
先移光心再转轴:
X c a m = R ( X ~ − C ~ ) \textbf{X}_{cam}=R(\widetilde\textbf{X}-\widetilde{C}) Xcam=R(X −C )
X c a m = [ R − R C ~ 0 ⊤ 1 ] [ X Y Z 1 ] = [ R − R C ~ 0 ⊤ 1 ] X \textbf{X}_{cam}= \left[ \begin{array}{cc} R && -R\widetilde{C}\\ \textbf{0}^\top && 1\\ \end{array} \right] \left[ \begin{array}{c} X\\ Y\\ Z\\ 1 \end{array} \right]=\left[ \begin{array}{cc} R && -R\widetilde{C}\\ \textbf{0}^\top && 1\\ \end{array} \right]\textbf{X} Xcam=[R0⊤−RC 1]⎣⎢⎢⎡XYZ1⎦⎥⎥⎤=[R0⊤−RC 1]X
x = K R [ I ∣ − C ~ ] X \textbf{x}=KR[I|-\widetilde{C}]\textbf{X} x=KR[I∣−C ]X
P = K [ R ∣ t ] P=K[R|t] P=K[R∣t]
一般的针孔相机模型 P = K R [ I ∣ − C ~ ] P=KR[I|-\widetilde{C}] P=KR[I∣−C ]有9个自由度:3个来自 K K K( f f f, p x p_x px, p y p_y py),3个来自 R R R,3个来自 C ~ \widetilde{C} C 。 - CCD摄像机:
K = [ α x x 0 α y y 0 1 ] K= \left[ \begin{array}{ccc} \alpha_x && && x_0\\ && \alpha_y && y_0\\ && && 1 \end{array} \right] K=⎣⎡αxαyx0y01⎦⎤
引入非等尺度因子 m x m_x mx, m y m_y my,即 x x x, y y y方向上图像坐标单位距离的像素数, α x = f m x \alpha_x=fm_x αx=fmx, α y = f m y \alpha_y=fm_y αy=fmy, x 0 = m x p x x_0=m_xp_x x0=mxpx, y 0 = m y p y y_0=m_yp_y y0=mypy,CCD摄像机有10个自由度。 - 有限射影摄像机:
K = [ α x s x 0 α y y 0 1 ] K= \left[ \begin{array}{ccc} \alpha_x && s && x_0\\ && \alpha_y && y_0\\ && && 1 \end{array} \right] K=⎣⎡αxsαyx0y01⎦⎤
P = M [ I ∣ M − 1 p 4 ] = K R [ I ∣ − C ~ ] P=M[I|M^{-1}\textbf{p}_4]=KR[I|-\widetilde{C}] P=M[I∣M−1p4]=KR[I∣−C ]
s s s为扭曲参数,有限射影摄像机有11个自由度,把有限射影相机矩阵与左边为非奇异的 3 × 3 3\times3 3×3子矩阵的 3 × 4 3\times4 3×4齐次矩阵等同。 - 一般射影摄像机:
在射影摄像机层次化的最后一步是移去加在左边 3 × 3 3\times3 3×3子矩阵的非奇异性约束。之所以要求秩3,是因为如果秩小于3,那么矩阵映射的值域将是一条直线或一个点而不是2D图像。
5.2 射影摄像机
5.2.1 Camera anatomy
一般射影摄像机可以按 P = [ M ∣ p 4 ] P=[M|\textbf{p}_4] P=[M∣p4]分块, M M M是非奇异的为有限摄像机。
-
摄像机中心:
摄像机中心 C C C是 P P P的一维右零空间(投影射线),即 P C = 0 PC=0 PC=0,当 M M M奇异时,摄像机中心在无穷远点。 -
列矢量:
射影摄像机的列是3维矢量, p 1 \textbf{p}_1 p1, p 2 \textbf{p}_2 p2, p 3 \textbf{p}_3 p3分别为世界坐标 X X X, Y Y Y, Z Z Z轴的消影点, D = ( 1 , 0 , 0 , 0 ) ⊤ D=(1, 0, 0, 0)^\top D=(1,0,0,0)⊤, p 1 = P D \textbf{p}_1=PD p1=PD, p 4 \textbf{p}_4 p4是世界坐标原点的图像。
-
行矢量:
射影摄像机的行是4维矢量,在几何上解释成特殊的世界平面。
-
主平面:
主平面过光心平平行于图像平面,由被影像到图像上的无穷远直线上的点集 X X X组成, P X = ( x , y , 0 ) ⊤ ⇔ P 3 ⊤ X = 0 PX=(x,y,0)^\top\Leftrightarrow{P}^{3\top}X=0 PX=(x,y,0)⊤⇔P3⊤X=0, P 3 P^3 P3是摄像机主平面的矢量表示。 -
轴平面:
P X = ( 0 , y , w ) ⊤ ⇔ P 1 ⊤ X = 0 PX=(0,y,w)^\top\Leftrightarrow{P}^{1\top}X=0 PX=(0,y,w)⊤⇔P1⊤X=0, P X = ( x , 0 , w ) ⊤ ⇔ P 2 ⊤ X = 0 PX=(x,0,w)^\top\Leftrightarrow{P}^{2\top}X=0 PX=(x,0,w)⊤⇔P2⊤X=0,轴平面依赖于图像 x − x- x−, y − y- y−轴,平面 P 1 P^1 P1, P 2 P^2 P2的交线是一条连接摄像机中心和图像原点的直线,即图像原点的反投影,该直线一般不与摄像机主轴重合。 -
主点:
主轴是过光心并且方向垂直于主平面的直线,主轴与图像平面交于主点, P 3 ⇒ ( m 3 ⊤ , 0 ) ⇔ x 0 = M m 3 P^3\Rightarrow(\textbf{m}^{3\top},0)\Leftrightarrow{x}_0=M\textbf{m}^3 P3⇒(m