H.264是由ITU-T VCEG和ISO/IEC MPEG联合推出的视频编码标准，又称作MPEG-4Part10或高级视频编码AVC。H.264标准拥有较高的压缩比和良好的网络亲和性，获得了非常广泛的应用。运动估计是H.264标准的重要组成部分，用于降低连续帧中的时间冗余度，从而可以更加有效地对视频序列进行编码。但运动估计要耗费大量的运算时间，是影响编码效率与实时性的瓶颈之一，已成为视频编码领域的研究热点。本文在分析H.264视频编码技术的基础上，研究了运动估计及其搜索算法。结合亚像素的搜索理论，对全搜索算法进行了改进，提出了隔行跳点小菱形搜索算法，实验结果表明，与全搜索算法相比，隔行跳点小菱形搜索算法在保证了PSNR和比特率基本不变的前提下，无论是对小运动序列，中等运动序列还是大运动序列的运动估计时间都减少了57%以上，验证了该算法的有效性。针对UMHexagonS算法存在的问题，提出了一种改进的UMHexagonS算法，算法充分利用运动矢量的中心偏置特性与运动同质性，采用递增数列步长的对称十字型搜索模板和多层次八边形搜索模板以减少无用的搜索点，根据运动矢量的变化趋势自适应地确定多层次八边形的搜索方向，用16点井字型搜索代替5×5全搜索，并改善了运动搜索的粗定位。实验结果表明，与UMHexagonS算法相比，本文算法在保证PSNR和比特率基本不变的前提下，平均减少了18.53%的运动估计时间，尤其是对大运动视频序列的效果更好，最大可以减少25.17%的运动估计时间。