随着数字视频技术的快速发展以及消费水平的不断提高,三维（Three Dimensional,3D）视频在生活中的应用越来越多,如3D影视,3D投影机,虚拟现实等。3D视频的数据量通常十分庞大,这是由于3D视频需要更多2D视频作为信息载体,同时还需要大量的辅助信息和距离信息。这无疑给3D视频的存储和传输带来非常巨大的挑战。为了在保证3D视频质量的同时,提高传输和压缩效率,国际3D视频编码扩展开发联合协作团队（Joint Collaborative Team on 3D Video Coding Extension Development,JCT-3V）,在二维高性能视频编码框架（High Efficiency Video Coding,HEVC）的基础上,开发了三维高性能视频编码框架（3D High Efficiency Video Coding,3D-HEVC）。3D-HEVC使用了许多新的技术,如时差补偿预测,视点合成,失真优化、深度图等,极大压缩了视频的体积。然而,3D-HEVC的编码复杂度高,编码时间长,阻碍了3D视频的广泛应用。因此,如何在保证3D视频编码质量的同时降低编码时间,成为炙手可热的研究课题。本文主要针对3D-HEVC中的深度图帧内四叉树编码结构进行优化。深度图的帧内编码采用了四叉树编码结构和帧内模式选择,是导致编码时间复杂度高的主要原因。同时由于深度图具有尖锐的边缘以及大面积平滑区域,相较于纹理图的四叉树编码,深度图四叉树编码会产生更多的冗余计算。为了提高深度图帧内编码的效率,本文提出如下方法:1、提出基于二维熵和方差的深度图快速划分算法。首先通过对大量帧内深度图的编码单元（Coding Unit,CU）进行二维熵和方差的数据统计,分别得到二维熵和方差的决策阈值。在进行编码时,如果当前编码单元二维熵的值小于二维熵阈值则不划分,若大于该阈值则通过方差继续判断。如果当前编码单元方差的值大于方差阈值则继续划分,否则不划分。由此提前终止计算并确定编码单元的大小。经对比实验验证,本文提出的算法,能降低计算复杂度,节省编码时间,且平均视频质量损失在可接受范围内。2、提出基于自适应卷积神经网络（Convolutional neural network,CNN）的深度图快速分割算法。针对传统深度图快速分割方法需要手动选取图像特征,难以提取多个特征间的相关性,且算法泛化能力不强等问题,本算法提出使用深度学习的方式来对深度图的编码单元进行划分决策。深度图内需要决策的编码单元尺寸大小有64×64、32×32和16×16三种,这使得网络模型难以统一。本文提出一种自适应编码单元尺寸输入的CNN网络,采用空间金字塔池化（Spatial pyramid pooling,SPP）来充分提取三种尺寸编码单元的特征,解决了多尺寸编码单元统一输入卷积神经网络问题。3、提出了基于非局部自注意力（Non-local Self-attention,NLSA）卷积神经网络的深度图快速分割算法。深度图中存在大范围平坦区域以及尖锐的边缘区域,与纹理图差距较大,本文采用NLSA改进自适应卷积神经网络模型,使得所提出卷积神经网络能够跳过深度图中大范围平坦区域的同时,更加关注于边缘锐利的区域,达到对深度图编码单元良好的预测效果。经对比实验验证,本文提出的算法,节省了大量编码时间,且编码质量良好。