随着信息技术和互联网的发展，视频编码技术广泛应用于通信、计算机、广播电视等领域。在众多视频编码协议中，以H.264视频编码协议的效果最为突出，并已经作为最有影响力的行业标准被广泛应用。随着人们对视频编码质量的需求越来越高，H.264已经不能很好的适应。因此，HEVC作为下一代视频编码协议开始被研究，并将作为下一代视频编码标准有望在2012年被推出。HEVC的目标是给音视频服务提供更好的编码方法。HEVC标准围绕着现有的H.264视频编码标准，保留原来的某些技术，同时对一些相关的技术加以改进。具体的研究内容包括：提高压缩效率、提高鲁棒性和错误恢复能力、减少实时的时延、减少信道获取时间和随机接入时延、降低复杂度等。因此，为了满足更高的视频编码需要，HEVC协议的研究具有重要的意义。论文的主要工作及取得的研究成果如下：1．提出了一种多扫描双向参考的快速帧内预测算法。首先通过边缘相关性选取最优的扫描模式，然后通过预处理和简化的率失真模型确定最终的预测模式，并用这些预测模式进行编码，大幅度的提高了编码性能。仿真结果表明，与双扫描双向参考帧内预测算法相比，该算法在大幅度减少编码时间的情况下，不但降低了输出码率2.74%，而且提高了重建图像的平均PSNR。2．提出了一种自适应预测残差和量化矩阵的码率控制算法。该算法首先根据宏块梯度方向权值和简化率失真模型，确定是否对宏块进行DCT；然后通过新的比特分配模型计算宏块的量化参数，并通过坡度加权确定宏块的坡度系数，最终根据得到的量化参数和坡度系数计算宏块的量化矩阵，并使用该量化矩阵对宏块进行编码。仿真结果表明，与H.264基本单元层码率控制算法相比，该算法在严格控制编码时间和输出码率的情况下，提高了PSNR。3．提出了一种最优对称性的快速自适应环路滤波算法。该算法首先根据区域对称性和平均绝对差值门限确定最优的对称性滤波器；然后在I帧中按照基于块与四叉树的方法得到需要滤波的区域，在P或B帧中利用运动矢量、运动估计和率失真模型得到需要滤波的区域；最后采用得到的最优对称性滤波器对这些区域进行滤波。仿真结果表明，与基于块与四叉树的自适应环路滤波算法相比，在保证重建图像质量的同时，本文算法的编码时间大幅度下降。4．提出了一种快速多对称性自适应插值滤波算法。该算法根据区域对称性和简化率失真模型计算出一种最优的对称性插值滤波器。仿真结果表明，与可变对称性自适应插值滤波算法相比，该算法在大幅度减少控制编码时间的同时，进一步提高了重建图像的PSNR值，并降低了输出码率。5.提出了一种基于分割采样的混合时空预测编码算法。在该算法中，每一帧首先被分为4个子帧；第一个子帧中的宏块根据率失真模型自适应的进行帧内或帧间预测；其余子帧中宏块的预测模式在帧内预测、快速帧间预测、或空间插值预测中进行合理的选择。仿真结果显示，该算法与传统H.264编码相比，提高了编码性能。针对提出的所有算法，论文都通过大量的软件仿真、测试，及与相对应算法的比较来验证其有效性和先进性。