为了缓解高清、超高清视频的急剧增长给网络传输带来的冲击,VCEG和MPEG两大国际标准化组织于2013年发布了新一代视频编码标准——高性能视频编码标准(HEVC,也称为H.265)。HEVC继承了H.264/AVC的核心技术架构,对各个编码模块都进行了技术创新,在保证相同甚至更好的视频压缩质量的同时,减少40%以上的比特率。但是,灵活的编码技术直接导致了HEVC编码复杂度急剧上升,严重阻碍了HEVC的推广和应用。针对HEVC的高编码复杂度问题,本文系统地比较研究了HEVC的核心技术,归纳总结了编码技术的演变过程,给出了编码技术进一步发展的趋势,重点提出了降低帧内、帧间和变换编码复杂度的快速算法,有效地提高了HEVC的实时编码性能,对HEVC的应用普及具有指导意义。本文的主要工作及贡献如下:1.系统地比较研究了HEVC的核心技术,归纳总结了编码技术的演变过程,给出了编码技术进一步发展的趋势。在研究HEVC标准的发展历程之后,对HEVC的编码框架和编码结构进行了分析。然后归纳总结了HEVC的帧内预测、帧间预测、变换量化、熵编码、环路滤波、并行处理等关键编码技术的演变过程和发展趋势,并对比分析了各视频编码标准的应用领域和编码复杂度变化情况。最后,研究HEVC各关键编码技术对编码复杂度的影响,结合目前HEVC编码快速算法的研究现状,对比分析给出了本文快速编码优化算法的重点研究方向:帧内编码快速算法、帧间编码快速算法和变换编码快速算法。2.提出了一种基于图像纹理分析的帧内编码快速算法,依据相邻编码树单元(CTU)之间的图像纹理相关性,以及图像中方向边缘纹理对编码(CU)尺寸决策的影响,提前确定帧内CU尺寸的范围,减少遍历的CU尺寸。首先分析了影响帧内编码复杂度的帧内预测划分方式、预测模式和帧内编码过程,并归纳总结了帧内编码快速算法的研究现状。然后,结合理论验证了视频图像的空间相关性,研究了不同的图像区域纹理描述方法。根据相邻CTU的纹理空间相关程度,对图像中不同位置的CTU缩小相应的CU尺寸遍历范围,避免对CTU中所有CU尺寸以及相应的预测单元(PU)尺寸和预测模式进行遍历。同时,定义四种与CU尺寸决策相关的方向边缘纹理复杂度描述方法,确定不同阈值下方向边缘纹理复杂度与CU尺寸的统计特性,提前判断当前CU是否继续划分,避免不必要的率失真代价计算。最后,实验结果验证了基于图像纹理分析的帧内编码快速算法的有效性。3.提出了一种基于运动估计和Merge模式的帧间编码快速算法,利用视频图像的运动情况与Merge模式选择的一致性,快速选取Merge模式作为最佳PU模式,并基于Merge模式和运动信息,提前确定帧间预测的CU是否继续划分。首先分析了影响帧间编码复杂度的帧间预测划分方式、运动估计和帧间编码过程,并归纳总结了帧间编码快速算法的研究现状。然后,研究分析了两种帧间运动估计信息,即编码块标志(CBF)和运动矢量(MV),与Merge模式选择的一致性特征,确定了基于运动估计的Merge模式快速决策条件,避免后续帧间PU模式评估带来的高编码复杂度。同时,分析了Merge模式选择与CU尺寸选择的相关性,结合运动信息确定基于Merge模式的CU尺寸快速决策条件,提前判断当前CU是否继续划分,避免不必要的率失真代价计算。最后,实验结果验证了基于运动估计和Merge模式的帧间编码快速算法的有效性。4.提出了一种基于分级空间相关性的变换编码快速算法,分别利用相邻CTU之间以及CU内部的变换(TU)尺寸空间相关性,提前确定当前CU的TU尺寸遍历范围,减少遍历的TU尺寸。首先分析了影响变换编码复杂度的变换编码划分方式、变换处理和变换系数编码过程,并归纳总结了变换编码快速算法的研究现状。然后,分析了空间相邻CTU的变换深度相关性,给出了当前CTU的变换深度预测表达式,对不同预测变换深度的CTU进行分类并分配相应的最大变换深度,避免对当前CTU中所有TU尺寸进行遍历,跳过相应的变换处理、系数编码等高编码复杂度过程。同时,统计分析CU内部四个空间相邻子CU的TU尺寸相关性,利用已编码子CU的TU尺寸范围缩小待编码子CU的TU尺寸选择范围,避免了大量不必要的率失真代价计算。最后,实验结果验证了基于分级空间相关性的变换编码快速算法的有效性。综上,与HEVC标准模型相比,本文的快速编码优化算法对图像纹理,统计相关性以及空间相关性的利用更加充分,对帧内编码、帧间编码以及变换编码的优化改进都取得了非常积极的效果,在保证压缩效率和主观视觉质量的同时,显著提高了编码速度,有效地降低了HEVC的编码复杂度。最后,对本文所作的工作进行总结,并指出下一步研究的方向和计划。