前言

NeRF从2020年发展至今,仅仅三年时间,而Follow的工作已呈井喷之势,相信在不久的将来,NeRF会一举重塑三维重建这个业界,甚至重建我们的四维世界(开头先吹一波)。NeRF的发展时间虽短,有几篇工作却在我研究的领域开始呈现万精油趋势:
* PixelNeRF—-泛化法宝
* MipNeRF—-近远景重建
* NeRF in the wild—-光线变换下的背景重建
* Neus—-用NeRF重建Surface
* Instant-NGP—-多尺度Hash编码实现高效渲染

Abstract

由于远景近景的分辨率不同,导致经典NeRF对于多尺度场景的表达存在明显瑕疵:NeRF对于近景的重建比较模糊而对于远景的重建出现锯齿。简单粗暴的策略是supersampling,但是费时费力。相较于NeRF使用的位置编码(PE)方式,Mip-NeRF提出了积分位置编码的方式(IPE).这种编码方式可以多尺度地描述空间中的信息分布,make sense.

NeRF

Positional Encoding:

MLP:

Final Predicted Color of the Pixel:

Loss Function:

其中是根据coarse modelinferene出的经过inverse transform sampling求解出的。

Mip-NeRF

NeRF通过point-sampling的方式对每个像素–>所对应的射线进行位置编码,而忽略了每个采样点所包含的Shape, Volume等信息。

这导致了图中所示交汇处的黄点与蓝点会inference出相似的point-sampled feature. Mip-NeRF企图对Shape, Volume进行编码解决NeRF这一困境。

MipNeRF对一段ray所代表的锥台区域的定义如下:

红框部分图示如下:

OB即为红框中间部分求解结果,在之间

分别代表蓝框右式和左式。

期望位置编码为:

但这个公式没有闭式解,作者转而利用多元高斯求近似值,那就是求解.因为锥台是关于ray对称的,因此期望值应该在ray上,关于期望position,只需要求解ray上的期望distance,令其为. 以及沿ray线的,以及垂直于ray的圆面所对应的.

先给结论,公式推导见公式推导章节:

将均值与方差从锥台坐标系转换到世界坐标系下:

进行Positional Encoding, 令:

and

根据下式可求解IPE闭式解:

最后得到的IPE编码为:

公式推导:

下面来说(,,)分别是怎么求解的

作者在supplement里面给出了推导过程,以下结合推导过程进行一些说明

此公式中需注意的是,是一个关于原点到成像平面像素中心的距离的比例系数(这句话有点绕,见下图)

所以说,当时,x和y就在刻画该像素的红色圆圈上。同理,当时,该区域就是描述像素平面上该红色圆圈以内区域。为了求解锥台的三维积分,我们需要求解出描述三维空间的微分,如下所示:

因此,锥台内的体积

的期望为:

的期望为:

的期望为:

:

文章中说r的方差可以用x的或者y的来代替,这个是为啥我还需要再研究下,欢迎大佬们留言。

为了计算的稳定性,令, 将上式经过等式变换后得到:

参考文献:

Barron, Jonathan T., et al. “Mip-nerf: A multiscale representation for anti-aliasing neural radiance fields.”Proceedings of the IEEE/CVF International Conference on Computer Vision. 2021.

Barron, Jonathan T., et al. “Mip-NeRF: A Multiscale Representation for Anti-Aliasing Neural Radiance Fields Supplemental Material.”