论文部分内容阅读
近年来,随着计算机视觉、计算机图形学和视频编码技术的发展与融合,三维视频具备了越来越广泛的应用前景。为了降低三维视频的数据量和给接收端提供视角切换的灵活性,MPEG组织采用了多视角纹理+多视角深度(MultiviewVideo plus Depth,MVD)作为三维视频的数据表示形式。在MVD系统中,编码和传输的视角数目大大减少,大量的视角需要在接收端根据深度信息进行合成,因此深度视频的质量对整个三维视频系统的性能至关重要。
目前,深度视频主要通过深度估计算法得到,存在着虚假边缘、视角间和时间不一致性等问题,已有的深度视频恢复算法都是着重于解决深度视频的虚假边缘问题而忽视了后两者,事实上,视角间不一致性和时间不一致性不仅会造成合成图像在视角间和时间上不一致,导致主观质量大大下降,而且还会降低编码端视角间预测和时间预测的效率,从而降低三维视频的压缩性能。本论文重点研究深度视频的恢复问题,设计算法恢复出深度视频本应具有的视角间一致性和时间一致性,从而提升合成的质量以及提高深度视频的压缩效率。论文的主要工作及创新之处在于:
1.提出了一种联合多视角的深度视频恢复方法。该方法不再只是在单个视角内部进行深度视频的处理或滤波,而是利用所有视角的深度信息来恢复单个视角。经该方法处理后的各个视角的深度视频更加一致,从而较大的提升了深度视频的编码效率。
2.提出了一种联合时间的深度视频恢复方法。该方法利用相邻时刻的深度信息来恢复当前时刻的深度,使得深度视频相邻帧之间趋于一致,提升了帧间预测的效率。
3.设计了一种新的多视角视频编码的环路去方块滤波器。新的滤波器沿用联合多视角深度视频恢复方法的基本思路,在编解码端对所有视角的重建深度图进行联合视角滤波,滤波结果放到参考帧缓冲区作为后续编码帧的参考帧。该滤波器较好的去除了编码的方块效应,一定程度上提升了压缩效率。
大量实验结果表明,本文提出的算法较好地抑制了深度图的噪声,增强了深度视频的视角间一致性和时间一致性,提升了合成的主客观质量,同时恢复后的深度图的编码码率也有所下降(最大达13%)。