H.264是由ISO/IEC与ITU-T组成的联合视频组(JVT)制定的新一代视频压缩编码标准。它的主要目标是改善编码效率和网络适应性。它集中了以往标准的优点,并吸收了标准制定中积累的经验。在重建图像质量相同的情况下,H.264比H.263码率节约达50%。但是H.264获得的高性能是通过增加计算复杂度获得的,编码复杂度大约相当于H.263的3倍,解码复杂度相当于H.263的2倍。运动估计的基本思想是先将每一帧图像都分成互不重叠的宏块,在参考帧特定的搜索范围内,对每个宏块根据相应的匹配准则找出与当前块最相似的块,即匹配块。运动估计得出的运动矢量越准确,得到的预测误差就越小,编码后需要传输的信息就越少,整个系统的码率压缩比就越高。但是要获得准确度高的运动估计值,就会带来较大的计算量,而计算量大不利于编码器的实时实现。所以,可以在准确性与比特数之间作个折中的选择,即在运动估计准确度和计算复杂度之间平衡的运动估计算法。宏块模式选择和运动估计技术是视频压缩中的关键技术,并且决定了压缩编码的主要开销,大约占视频编码总量的50%以上,在很大程度上决定了视频压缩的效果。因此一种简便、快捷、高效的运动估计算法成了视频编码领域所追求的目标。本文首先简单介绍了H.264视频编码标准和视频编码中的关键技术,重点介绍了帧间宏块选择技术和运动估计技术的原理,详细分析了其中的关键技术及实现方法,然后对这两个关键技术分别进行了优化和实现。在保证图像质量的前提下,降低运算复杂度,缩短编码时间,提高编码效率。本文的创新主要集中在一下几个方面:(1)根据前后两帧视频图像内容的强烈时间相关性原理,绝大部分前后两帧图像相同位置宏块所选择的模式相同或相近,根据帧间宏块只选择部分的模式,减少部分不必要的计算的方法,提前确定待选宏块的模式,缩短宏块模式选择的时间;(2)对H.264中的典型的运动估计算法UMHexagons进行深入的研究,通过对它的一些技术的分析,主要在初始点预测、静止块检测、提前终止、搜索模式四个方面,并对其进行一些相应的改进,缩短了运动估计的时间,提高了编码效率。最后,结合JM86模型对改进的算法的性能进行测试,验证其编码效果的优越性。实验结果表明,本文的算法与原有的UMHexagons相比,在编码图像质量基本不改变的情况下,编码效率有显著的提高。