2003年3月，ITU-T/ISO正式发布了H.264视频压缩标准。H.264以其优秀的压缩性能受到了各国研究者的广泛关注和欢迎，被人们称作新一代视频编码标准。在同样的质量下，H.264比其上一代视频编码标准MPEG4码率可降低一半左右。本文将研究重点放在H.264与嵌入式系统的结合和快速运动估计算法上。本文对H.264中的关键技术如帧内预测、帧间预测、变换和量化、熵编码进行介绍。通过一系列的实验，总结出一套适用于监控图像的x264配置方案，并将x264移植到ARM+Linux平台，并针对此平台对x264编码库进行代码优化。针对视频压缩中最耗时的运动估计模块，在分析运动估计基本原理的基础上，对UMHexagonS算法进行深入研究。利用相邻帧的相关性和监控图像的特点，提出了一种零矢量预判的提前终止算法和方向自适应的非对称十字搜索、多重大六边形搜索，并对5×5螺旋搜索点数进行相应简化。本文结合嵌入式视频监控应用平台，将编码器移植并做了实验结果的分析，其中包括运动估计等算法的改进和结果分析等。实验证明，改进的算法在达到与原算法同等压缩质量的情况下进一步降低运算复杂度，节约编码时间。