论文阅读笔记——MTGS: Multi-Traversal Gaussian Splatting

MTGS 论文

MTGS(Multi-Traversal Gaussian Splatting) 是一种用于多轨迹驾驶场景重建的新方法,通过共享静态几何、轨迹特定的动态节点和外观节点,分别建模静态背景、动态物体和外观变化。该方法利用 LiDAR 引导的曝光对齐和可学习的仿射变换解决轨迹内外观一致性问题,并通过深度和法线正则化提升几何精度和渲染质量。实验表明,MTGS 在 nuPlan 数据集上显著优于单轨迹基线方法,为自动驾驶模拟器和数字孪生应用提供了高质量的场景重建和新视角合成能力。
解决了多轨迹数据的异构性:同一地点不同时间,车辆/行人位置不同;不同时间段光照、天气变化。通过共享静态节点、轨迹动态节点、球谐系数残差校正来分层场景表示。

多轨迹数据(同一道路区块但不同时间采集的视频),具有同一个共享空间,对于静态空间 3D 几何是不变的,但对于时间、天气等场景动态是不一样的,无法运用插值等简单重建方法。
在这里插入图片描述
输入

  • 同一道路不同时间采集的视频帧集合: I = { I t , T ∈ R w × h × 3 ∣ t = 0 , … … , t T ; T = 1 , … … , T a l l } I=\{I_{t,T}\in R^{w×h×3}|t=0,……,t_T;T=1,……,T_{all}\} I={ It,TRw×h×3t=0,……,tT;T=1,……,Tall} 其中,t 表示时间帧索引,T 表示轨迹索引;每帧图像都有对应的相机位姿 ζ t , T = { W t , T , K t , T } \zeta_{t,T}=\{W_{t,T},K_{t,T}\} ζt,T={ Wt,T,Kt,T} 世界坐标系到相机坐标系的变换矩阵和相机内参矩阵
  • 彩色 LiDAR 点云 P t , T ∈ R K × 6 P_{t,T}\in R^{K×6} Pt,TRK×6

整个场景被表述为基于 3DGS 的多轨迹场景图:(思路类似于颜色都可以由红绿蓝给出)

  • G s t a t i c \mathcal{G}_{static} Gstatic ——背景几何;轨迹和时间不变的属性 { x i , q i , s i , α i , β i b a s e } \{x_i,q_i,s_i,\alpha_i,\beta_i^{base}\} { xi,qi,si,αi,βibase} (位置,旋转,缩放,透明度,基础球谐系数)。
  • G T a p p r \mathcal{G}_T^{appr} GTappr——轨迹 T 的外观变化;提供 T 轨迹的颜色残差(捕捉外观变化、光照、反射、色调等)以此来定义该轨迹的球谐系数 β i , 0 , 0 = β i b a s e β i , l , m = β i , T r e s i d u a l ( − l ≤ m ≤ l , 1 ≤ l ≤ l m a x ) \beta_{i,0,0}=\beta^{base}_i \qquad \qquad \beta_{i,l,m}=\beta_{i,T}^{residual}(-l≤m≤l,1≤l≤l_{max}) βi,0,0
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值