H.264是由ISO(国际标准化组织)与ITU(国际电信标准化部门)联合制定的新一代视频编码标准。H.264具有较高的压缩率、较好的图像压缩质量以及网络亲和性,因此在存储和网络传输方面表现优异。但各种编码新技术的引入使得H.264编码算法的复杂度急剧增加,如何降低复杂度使其能够满足实时通信的要求成了迫切需要解决的问题。本文在详细分析H.264编码原理的基础上,研究并改进了H.264标准中的运动估计和帧内预测模式选择算法,并在嵌入式平台EAX-400上面实现了基于H.264的视频编码系统。首先,介绍了视频编码的相关理论,分析了H.264编码标准中使用的一些关键技术,并且就编码性能和其它几种常用的标准作了比较,测试的结果表明H.264的编码性能更好。其次,研究了H.264的运动估计算法,分析了典型的块匹配运动估计算法,在EPZS算法的基础上,从全零块检测和方向偏向性模板两个方面提出了基于EPZS的运动估计改进算法。实验结果表明,本文提出的运动估计改进算法在保证搜索准确性的同时,在一定程度上提高了运动估计的速度。再次,研究了H.264帧内预测编码技术,并对全搜索算法的计算复杂度进行了分析,从相邻方向的相关性和较大块的方向与较小块的方向具有相似性两个方面提出了快速帧内预测模式选择算法。实验证明,该算法在保证图像质量的前提下提高了编码速度。最后,我们将改进的H.264编码算法应用在嵌入式平台EAX-400上,并对编码软件进行优化,实现了基于嵌入式linux的视频编码系统。