在现代通信系统中，快速编码算法的研究己经成为提高图像质量的关键技术，是业界极为关注的热点课题。ITU-T和MPEG联合组成的JVT(Joint Video Expert Team)于2003年3月正式发布视频压缩编码国际标准H．264。H．264编码标准作为MPEG-4 14496的补充，进一步挖掘现有编码技术的潜力，实现高画质、低比特率的编码效果。H．264可以达到很高的编码效率，具有很好的市场应用前景。跟踪和掌握．264／AVC的核心技术，并结合实际应用在某些关键方向上有所创新和发展，是一项很有价值的工作。 本文对H．264中的各种核心编码算法进行了深入的剖析和理论研究，并对有关算法进行了仿真实验。具体来说，本论文包含以下内容： 首先简单介绍了数字视频编码标准在当今技术领域中的重要性以及数字视频编码标准的演进过程，接下来扼要评述了几种重要的视频编码标准。然后归纳总结了视频编码中常见的压缩技术，并对H．264中的新技术，新方案和改进的地方作总体的介绍。 建立在前面章节分析的基础上，论文深入研究了帧内预测算法，对其中的重点和新颖点都以详细的图表说明，力图使得条理清楚，通过实验从数据和主观图像质量上对两种帧内预测算法进行了比较和分析。随后，系统论证了H．264／AVC所使用的整数变换算法，并与传统的变换算法对比分析了其优点。此外，从新引入的基于内容的变长编码(CAVLC)的整个过程中可以看出CAVLC编码的优越性，它在比特节约方面的性能是巨大的，并且它的复杂度也比CABAC要小的多。最后，通过深入分析快速运动估计算法中的若干关键技术问题，借鉴一些快速运动估计搜索算法的优点，从搜索模式和加速策略方面作改进，结合H．264编码特点，提出了一种改进的快速运动估计算法，提高了编码系统的搜索效率。