H.264/AVC是ITU-T VCEG和ISO/IEC MPEG联合制定的最新的视频编码国际标准,这一编码标准具有较高的编码效率和良好的编码性能,尤其是在低码率方面比MPEG-4有明显提高,适合低宽带、高质量网络视频应用的需要。但是,H.264为了提高编码效率,采用了许多高计算复杂度的算法,使编解码计算量很大。降低编码的复杂度且保证相对质量是一个有意义的研究领域。运动估计是视频压缩编码中的核心技术之一,采用运动估计和运动补偿技术可以消除视频信号的时间冗余以提高编码效率,H.264中多项新特性的引入使得运动估计技术的计算复杂度大大增加,这严重影响了H.264编码技术的实时应用。为了方便H.264在低码率高实时性应用系统中的实现,必须对其编码算法进行优化。因此,如何提高运动估计的效率,使运动估计算法搜索过程更快速、更高效,成为目前研究的热点之一。本文所研究的运动估计是目前应用最广的块匹配运动估计技术。本文首先详细介绍了H.264视频编码标准及视频编码中的关键技术,如帧内编码、帧间编码等;随后介绍了运动估计技术原理,详细分析其中的关键技术,然后从模式选择,提前中止技术和匹配准则三个方面对运动估计进行了改进,在保证图像质量的前提下,降低运算复杂度,提高编码效率。本文的创新主要集中在以下几个方面:(1)通过选择合适的阈值对模式选择过程进行了优化。在原来提前判定SKIP模式算法的基础上,进一步对16*16和8*8大小的块进行了提前判定。(2)利用提前终止技术对运动估计过程进行了优化。选定合适的阈值,通过判决当前块是否为PVB,提前中止运动估计过程。(3)针对现有匹配准则的不足做出改进。在原来SAD准则的基础上加入了对图像平滑度的考虑。最后,结合JM86校验模型对改进算法的性能进行测试,验证其编码效果的优越性。实验结果表明,改进算法与H.264中采用的UMHexagonS算法相比,在编码图像质量相媲美的情况下,编码效率有显著提高。