高效视频编码(HEVC)是视频编码专家组(VCEG)和运动图像专家组(MPEG)两大组织联合制定的新一代视频编码标准。相比于上一代视频编码标准H.264/AVC(先进视频编码),在相同的编码质量下,HEVC可节省约一半的码率。然而,HEVC编码的计算复杂度也大大增加。因此如何有效提高编码速度且保证编码性能,成为HEVC标准研究的一个重要问题。帧间预测作为HEVC中复杂度最高的模块,本文对其做了深入的研究,并做出了如下的优化工作:1.HEVC帧间预测模块在每个编码单元(CU)划分深度都会对固定的预测单元(PU)模式集进行顺序评估,进而选出当前深度下最优的PU模式。本论文利用时空相邻已编码CU的PU模式信息,设计了基于Skip模式提前检测和模式复杂度预测的PU模式决策快速算法,通过提前确定最优PU模式和减少PU模式遍历个数,有效降低了帧间预测PU模式决策过程的计算复杂度。2.HEVC帧间预测模块需要对编码树单元(CTU)进行四叉树递归划分,并根据率失真代价确定最优的编码尺寸组合,该过程复杂度极高。为此,本论文充分考虑当前CU与其时空相邻的已编码CU之间的相关性,并利用当前CU的率失真代价特征,设计了基于CU深度预测和率失真代价的CU尺寸决策快速算法,通过减小划分深度的搜索范围,有效降低了帧间预测CU尺寸决策过程的计算复杂度。本论文基于JCT-VC发布的标准测试视频集对所提出的快速算法进行了性能测试。实验结果表明,与HEVC标准测试模型HM16.20相比,在随机接入配置下,本文提出的整体算法编码时间节省了 55.89%,BDBR损失了 2.09%,BDPSNR-Y损失了 0.068dB。在低时延配置下,整体算法编码时间节省了 47.71%,BDBR损失了 2.17%,BDPSNR-Y 损失了 0.083dB。