二十世纪九十年代以来，JPEG、H.263、MPEG-1、MPEG-2等图像多媒体国际标准相继出台，它们成功地应用于多种实用场合。但随着Internet的普及和对视频传输需求不断提高，这些视频压缩标准明显存在着一些缺陷。为此，ITU-T在继H.261，H.263等视频压缩标准之后，制定了新一代视频压缩标准H.264。它可以得到更好的压缩图像效果，和更多的功能与更大的灵活性。但是，通过分析发现，H.264编解码性能的提高是以计算复杂度的增加为代价的，远不能实现实时软件编解码的要求。因此，研究H.264编解码器的实时实现方法成为当今的热点。本文首先对H.264解码器的基本结构进行了介绍，然后对其流程进行了深入分析，由此指出其中存在的局限和应改进的方案。本文以MMX指令集为工具，解决了H.264JM模型解码器中帧内预测解码模块、帧间预测解码模块、变换系数解码模块以及去块滤波模块的并行优化难题；提出了减少帧间分数象素插值运算中乘法操作的查表优化方法；还在对编码端与码流传输息息相关的码率控制进行细致分析后，提出了可变信道条件下自适应GOP层码率控制策略。对原JM 8.2模型解码器和改进后解码器的测试结果表明，优化后的解码器在保证其良好性能的前提下，达到了缩短运行时间的目的；实现了改进码率控制策略后的编码器，在低速率信道条件下输出码率更加准确，PSNR更加平滑，且有一定提高。