H.264/AVC视频编码标准以高效编码和网络友好性成为新一代国际视频编码标准。本文分析了H.264编解码器的基本结构和实现流程,以及H.264标准所采用的一些先进技术。在此基础上,结合参考代码详细研究了H.264标准的帧间预测和码率控制方面的技术。主要工作和研究成果包括:针对快速块匹配运动估计,提出了一种基于可变分块尺寸的多模板六边形搜索算法。该算法根据H.264中七种不同的宏块划分,自适应地采用大六边形和水平扁六边形、竖直扁六边形等模板来进行运动估计。相对于传统六边形算法,在增加了匹配灵活性的同时,还可以更好地覆盖整个分块。仿真结果表明,在重建图像质量接近全搜索的同时,新算法比六边形算法减少了约10%的搜索点数。改进了JVT-H017提出的基本单元层码率控制方案,用一个新模型代替线性模型来预测基本单元的平均绝对差值MAD,避免参数更新过程,以减少计算量;并且根据同一基本单元内各宏块图像复杂程度的差异自适应地调整其量化参数。实验结果表明,与JVT-H017提案相比,改进算法可以更精确地分配目标比特和控制码率,并能获得较高的PSNR。