2003年3月，联合视频工作组JVT(Joint Video Team)正式提出了新一代视频压缩标准H.264／AVC，该标准是ITU-T与ISO／IEC两个国际标准化组织继MPEG-2／H.262标准之后，再一次共同提出的视频编码标准。H.264／AVC标准支持从低带宽、高误码率的无线移动视频通信到高码率、低延迟的视频广播及在线流媒体等多种应用，因此，日益受到业界的关注。 本文从H.264／AVC视频应用的角度，针对编码复杂度、码率控制和质量评价进行了研究与分析。 首先，为了实现更高的编码效率，H.264／AVC标准采用了很多新的编码技术，如多参考帧预测、多尺寸编码块模式、1／4像素精度运动矢量、整数变换量化、基于内容的熵编码、新型帧内预测、去除方块效应的滤波器等。在相同解码图像质量下，H.264／AVC比MPEG-2和H.263的编码性能至少提高一倍以上。同时，H.264／AVC编解码器的计算复杂度与其它视频压缩标准相比，高出了几倍甚至十几倍。着重分析了每个编码技术和编码参数对编码器性能的影响以及它们之间的关联性，并给出了在保证性能的情形下通过合理设置编码参数，有效的降低编码复杂度的方法。 其次，本文论述了码率控制的原理和信源模型，针对H.264的码流特点，提出了一种的采用对数模型的分层码率控制算法。它在GOP层、帧层和基本单元层三个层次上分别进行控制，解码图像的PSNR较高，同时，它的各宏块的QP值更为平滑，因此得到的解码图像的主观质量更好；而且控制得到的实际码率更接近目标码率。另外，由于采用了流体传输模型，可以及时根据信道带宽变化而更新码率，本文提出的码率控制算法不仅适合CBR情形，也可以应用于VBR场合。 最后，文章从视频的空域信息、时域信息出发，以及由之产生的三个度量参数，提出了一种基于人眼视觉特性的客观视频质量的评价方法，它包含了对空域信息和时域信息的度量，较好的反映了人眼视觉系统，与主观度量的结果基本一致。