论文笔记:D-NeRF:Neural Radiance Fields for Dynamic Scenes

该文提出了一种方法,将时间作为输入处理动态场景的重建。通过规范网络和变形网络,模型能学习到场景中点在不同时刻的位置变化,从而在任意时间和视角下重构场景。这种方法假设场景点只会变换位置而不会消失或出现,适用于合成数据集。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

中文标题:针对动态场景的神经辐射场

(本文只介绍与NeRF不同的知识点)
发布会议:CVPR2021

问题

  • NeRF仅针对静态场景,从不同帧(视角下)重建相同的空间位置。

创新点

  • 将时间作为系统的输入
  • 将训练分为两个阶段:
  • 阶段1:将任意时间上的场景编码到规范场景上 ( x , y , z , t ) → ( Δ x , Δ y , Δ z ) (x,y,z,t)\rightarrow (\Delta x, \Delta y, \Delta z) x,y,z,t(Δx,Δy,Δz)
  • 阶段2回归出任意时间上场景 ( x + Δ x , y + Δ y , z + Δ z , θ , ϕ ) (x + \Delta x,y + \Delta y, z + \Delta z, \theta , \phi) (x+Δx,y+Δy,z+Δz,θ,ϕ)
  • 使用 ( θ , ϕ , t ) (\theta,\phi,t) (θ,ϕ,t)来控制场景视角及时间

思路:

  • 前提假设:场景中每一个点只能变换位置,不会凭空出现或消失(似乎把适用范围限制在了合成数据集上)
  • 训练一个可以在任意时刻隐表示场景并合成新视角的深度学习模型。
    在这里插入图片描述

解决方案:

规范网络 Canonical Network:

  • Ψ x ( x , d ) → ( c , σ ) \Psi_x(x, d) → (c,\sigma) Ψx(x,d)(c,σ)
  • 也就是说场景(scene)中每一个点都有一个规范(起始)位置,这些点可以在不同时间变换位置,但绝对不会消失或凭空出现。

变形网络 Deformation Network:

  • Ψ t ( x , t ) → Δ x \Psi_t(x, t) → \Delta x Ψt(x,t)Δx
  • 对于时间t场景中的某一点x,求得相对于规范场景下的变形量 Δ x \Delta x Δx

时间参与的渲染:

在这里插入图片描述

##参考文献
[1] Pumarola A, Corona E, Pons-Moll G, et al. D-nerf: Neural radiance fields for dynamic scenes[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2021: 10318-10327.

NeRFNeural Radiance Fields)是一种新兴的计算机视觉技术,能够通过深度学习模型从多个二维图像中还原出高质量的三维场景。下面是NeRF领域的国内外研究现状: 1. 国外研究现状 自NeRF在2020年提出以来,该领域已经吸引了很多来自世界各地的研究者的关注。现在已经有很多关于NeRF的研究论文和代码库,主要是在计算机图形学和计算机视觉领域。其中,一些代表性的工作包括: - NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis (Mildenhall等人, ECCV2020):这篇论文首次提出了NeRF的概念,是该领域的开创性工作。 - D-NeRF: Neural Radiance Fields for Dynamic Scenes (Martin-Brualla等人, CVPR2021):这篇论文针对动态场景提出了一种新的NeRF扩展方法,可以处理场景中的移动物体。 - Generative Query Network for More Flexible Object Representation (Nguyen-Phuoc等人, CVPR2019):这篇论文提出了一种称为GQN的神经网络模型,它使用场景图作为输入,并输出场景中的图像。 - PlenOctree: A Sparse Volumetric Representation for Efficient View Synthesis (Lombardi等人, SIGGRAPH Asia 2019):这篇论文提出了PlenOctree,一种用于NeRF的稀疏体积表示,可以显著提高NeRF的效率。 2. 国内研究现状 国内的NeRF研究相对较少,但近年来也有一些研究者开始在这个领域进行探索。一些代表性的工作包括: - Point2SpatialCapsule: Implicit Surfaces from Point Clouds with Spatially-Encapsulated Features (Chen等人, NeurIPS2020):这篇论文提出了一种新的神经网络模型,可以从点云中学习隐式表面表示,是NeRF的一种变体。 - Learning High-Resolution 3D Morphable Models from Texture Images for Dynamic View Synthesis (陈浩然等人, CVPR2021):这篇论文提出了一种新的方法,可以从高分辨率的纹理图像中学习高分辨率的3D模型,并实现了高质量的动态视角合成。 - Nerf-Lite: A Light-Weight Radiance Field Network for Real-Time Rendering (王明等人, ICME2021):这篇论文提出了一种轻量级的NeRF模型,可以实现实时渲
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BlueagleAI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值