H.264标准是由视频图像编码组和运动图像编码组共同开发的新一代视频编码标准。在相同的编码图像质量下,H.264比H.263、MPEG-4标准分别能节约50%和20%的码流,而且加强了对网络和流媒体应用的支持,但是H.264的优越性能是以实现的高复杂度为代价的,这给嵌入式应用带来了巨大障碍。因而,研究H.264标准在有关视频芯片上的实现对视频技术在嵌入式领域的应用具有重要的意义。本文主要工作是研究H.264中的关键技术及其在TM320DM642 DSP上的应用。首先详细分析了H.264视频编码标准,对标准中使用的一些新技术做了比较详尽的探讨。例如帧内预测、帧间预测、变换编码、环路滤波、熵编码等编码技术;其次,本文选用X264作为H.264编码器的参考源码,研究了其编码流程,包括编码的主流程、帧编码流程、宏块编码流程,以及不同参数设置对编码性能的影响。在此基础上对计算复杂度高的预测模式选择算法做了适当的改进,提出了快速的帧内预测算法与帧间预测算法,并通过测试数据验证了其有效性。论文进一步结合DM642自身特点,经过代码修改、性能优化、线性汇编三个阶段,进行了H.264编码器在DM642平台上的移植和优化。实验结果表明,在信噪比和码流变化不大的情况下,基于DM642优化的效果还是比较明显的,编码时间有了大幅度的减短,存储所需容量也大幅度降低。