H.264/AVC是ITU-T VCEG和ISO/IEC MPEG联合制定的最新的视频编码国际标准，是目前图像通信研究领域的热点问题之一。与以往的视频编码标准相比，H.264具有更好的压缩性能和网络友好性,可以被广泛应用于实时类应用（视频电话，移动视频）和非实时类应用（存储，广播或者流媒体）场合。H.264采用了网络抽象层和视频编码层的分层结构体系，具有良好的网络适应性，能够使得码流和包结构的传输层无缝连接。视频编码层采用了许多新技术使得编码性能大幅度提高。但是编码效率的提高是以复杂度的成倍增加为代价的，这就使得H.264在实时的视频编码及传输应用中面临着巨大的挑战。本文的研究工作面向H.264算法的优化和实现。本文提出了一种新的帧内预测算法，可以极大地提高帧内编码速度，而对图像质量和码率大小变化影响极小，并且介绍了在DSP平台（DM642）上实现H.264编码器的有效途径，具有较强的实用价值。 就主要内容来说，论文首先介绍了视频编码技术的发展及现状，本课题研究的背景及意义，以及所作的研究工作。然后详细介绍了H.264标准的相关关键技术，如帧内编码、帧间编码、变换和量化、熵编码和环路滤波器等。接下来论文分析了H.264的JM参考代码中帧内编码的复杂度，并提出了一种帧内编码的快速算法。该算法利用Prewitt算子检测亮度信号的边缘方向，并根据周围块的编码模式预测出可能的编码模式，将色度信号与亮度信号分开处理，然后利用拉格朗日代价函数计算出最优编码模式。该算法能够将I帧编码速度提高4倍，并且能够保证编码效率。接下来论文分析了实验结果并提出了如何改进的意见。 论文在介绍了DM642 DSP平台的结构和特点后，又分代码移植和DSP优化两大部分讲述了代码的移植和优化过程。在充分利用芯片资源的同时，研究和使用了一些有效的优化方法，如提高cache利用率，利用EDMA搬移数据，利用编译选项提高编译器的优化能力，利用内联函数和线性汇编提高流水线并行执行的能力。通过这些关键技术的使用，实现了H.264实时编码。最后介绍了以DM642 DSP为平台的H.264编码器系统的各个模块的组成和特点，并对整个编码器系统进行了测试。