2003年3月，联合视频工作组JVT(Joint Video Team)正式推出了新一代视频压缩标准H.264／AVC，该标准支持从低带宽、高误码率的无线移动视频通信到高码率、低延迟的视频会议及在线流媒体等多种应用，因此，得到业界的广泛关注和认同。 相比于以前的标准，H.264能有效地提高编码器的压缩性能，但是也大大地增加了运算复杂度。因此，如何降低运算复杂度，提高编码速度是实现实时编码的关键。本文主要研究H.264编码器在DM642上的实现与优化。 首先，对H.264／AVC的核心编码技术，如帧内／帧间预测、整数变换、熵编码、码率控制、错误隐藏等进行了研究，介绍了它们的研究现状和在新标准中的创新点，进而对H.264／AVC的发展方向提出自己的观点。 其次，本文论述了当前主要的帧内模式决策的快速算法，进而提出了一种采用缩略图来进行帧内模式决策的思想，实现证明本文提出的算法与原算法相比，可以节约50％左右的编码时间，码率平均增加1.4％，信噪比平均下降0.058dB。 最后，文章介绍了DM642平台的结构和性能，并对H.264编码器进行最小化，重点对编码器在DSP上的实现及优化过程进行了详细分析。