【视觉三维重建】【论文笔记】高清3D高斯泼溅(Deblurring 3D Gaussian Splatting)

本文介绍了针对3D高斯泼溅渲染的去模糊技术,通过MLP对3D高斯协方差建模,实现实时高质量的图像重建。在训练中引入模糊,推理时去除,模拟类似于假性近视矫正的过程。实验结果显示该方法在保持高细节还原度的同时,提高了图像清晰度,达到了接近SOTA的性能。

去模糊的3D高斯泼溅,比3D高斯更加精细,对场景物体细节的还原度更高,[官网](https://benhenryl.github.io/Deblurring-3D-Gaussian-Splatting/)

背景技术

Volumetric rendering-based nerual fields:NeRF.
Rasterization rendering: 3D-GS.
Rasterization比volumetric方法更加高效。

摘要

一种新的field-based的网络模型,实现对最新的rasterization rendering技术——3D高斯泼溅的去模糊。
设计MLP,对各个3D高斯的协方差建模;既能重建出优异、锐利的细节,又能保证实时渲染。

方法

一个MLP处理3D高斯模型,其输入包含视线方向向量vvv,模型的位置

### 使用3D高斯技术进行三维建模的方法和步骤 #### 准备工作 在开始使用3D高斯Gaussian Splatting)技术进行三维建模之前,需要做好充分的准备工作。这包括但不限于安装必要的软件包、准备高质量的数据集以及搭建适合的工作环境。推荐使用的编程语言为Python,并确保已安装如下库:`numpy`, `scipy`, 和 `pytorch` 或者类似的深度学习框架[^1]。 #### 数据采集与预处理 第一步是从多个视角捕捉目标对象或者场景的照片序列。这些照片将作为输入源用于生成初步的结构-from-motion(SfM)点云模型。可以借助开源工具如COLMAP来自动化这一过程。得到的结果是一组带有对应相机参数估计值的空间坐标点集合[^2]。 ```bash colmap feature_extractor --ImageReader.camera_model PINHOLE \ --database_path database.db \ --image_path images/ colmap exhaustive_matcher --database_path database.db mkdir sparse dense colmap mapper --database_path database.db \ --image_path images/ \ --output_path sparse/0 colmap image_undistorter --image_path images/ \ --input_path sparse/0 \ --output_path dense/0 \ --output_type COLMAP ``` 以上命令展示了如何利用Colmap创建基础稀疏点云计算的过程[^3]。 #### 构造3D Gaussians 表达式 接下来的任务就是把这些简单的点扩展成更复杂的实体—即所谓的“gaussian splats”。每一个splat都由几个关键属性描述: - **Mean Vector (μ)**: 定义了该gaussian中心所在的具体位置; - **Covariance Matrix (Σ)**: 描述了围绕着均值方向上的扩散程度; - **Color Information**: 提供关于表面反射特性的信息。 我们可以通过引入一个多层感知机(MLP),让其学会预测给定条件下的最佳协方差矩阵配置方案,进而改善整体视觉呈现效果的同时保持较高的运行效率[^1]。 #### 参数优化 有了基本的形式化表述之后,则进入到最关键的环节之一 —— 参数调优阶段。这里的目标函数往往包含了多种成分因子,比如重投影误差项、正则化惩罚等等。整个求解路径可能会涉及到交替最小化的策略或者是端到端训练的方式[^4]。 #### 实时渲染实现 当所有的必要组件都被妥善设定完毕以后,就可以着手于最后一个部分也就是新视图合成任务上了。在这个过程中需要注意的是正确实施alpha混合规则以便能够准确反映各层次之间相互遮挡关系。 --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值