高效视频编码标准(HEVC)是针对视频应用的多样化和视频高清晰化的趋势而提出的一种新的视频编码标准。HEVC采用了许多新的编码技术,包括了基于四叉树结构的块划分技术、不同的帧内预测技术等等。相比于之前的H.264/AVC编码标准,HEVC在相同的视觉质量下压缩的效率能提高约50%左右。但是,它是以计算复杂度的明显增加为代价的。HEVC采用率失真优化(Rate Distortion Optimization,RDO)技术,在输出的码率和编码的失真度之间进行平衡,从而确定最优的图像块的划分结构和最优的预测模式等。因此,RDO技术是影响HEVC视频编码的视觉质量和编码效率的关键因素。本文将从降低计算复杂度和改善率失真性能的角度,研究HEVC视频编码中的RDO技术。本文的主要工作包括:首先,针对在HEVC中RDO技术存在的计算复杂度过高的问题,提出了一种训练RDO中的拉格朗日因子的最优值的算法,使得RDO具有预测最佳拉格朗日因子的性能,从而加速其RDO技术过程。通过设定一个影响拉格朗日因子的影响因子,并对其给予一系列不同的数值,使训练样本在不同的影响因子数值下经过编码过程,再通过Bjontegaard测量法得出最优的影响因子,从而使每个训练样本都有自己的唯一最佳拉格朗日影响因子。其次,针对动态纹理在时间和空间上有着相联性这一特点,对它进行编码的优化方法是具有很大可提升的空间。因此本方法将提取动态纹理的部分描述特征,并与对应的最佳拉格朗日影响因子一并进行线性回归,得到线性回归方程。从而使测试样本只需要获取其对应的描述特征,就可以通过回归方程预测其最优的拉格朗日影响因子数值。实验结果表明,该方案在保证其复杂度的情况下,可以获得更好的编码性能和视觉质量。最后,针对运动对象在空间域上相邻的运动规律有规律性的特点,对包含运动对象的视频编码也具有很大的可提升性。因此在包含运动对象的视频序列中,对可以概括运动对象的特征进行提取,然后与通过Bjontegaard测量法得出最优的拉格朗日影响因子一起进行线性回归,得到回归方程。从而在获得其他同类视频的相关特征情况下,也可以根据回归方程得到其最优的拉格朗日影响因子。实验结果表明,与原始编码器相比,这种方法可以提升编码的效率。