H.264/AVC是目前国际上最新的视频压缩编解码标准。为了实现更高的编码效率,H.264/AVC标准采用了很多新的编码技术,如多参考帧预测、多尺寸编码块模式、1/4像素精度运动矢量、整数变换量化、基于内容的熵编码、新型帧内预测、去除方块效应的滤波器等。 与此同时,H.264/AVC编解码器的计算复杂度与其它视频压缩标准相比,高出了几倍甚至十几倍,需要消耗大量的时间和系统资源。因此,实时编解码器的实现面临巨大的挑战,需要寻找高效的优化算法,以减少巨大的计算复杂度。本文主要从实时视频应用的角度,对H.264/AVC编码过程中运动估计模块整像素部分方面进行了研究。 首先,对H.264/AVC的主要功能模块及其中包含的新技术进行了详细论述。阐述了帧内预测、多种块模式的帧间预测、1/4和1/8像素的运动估计、多参考帧、整数变换、CABAC和环路解块滤波器等新技术,等等。 其次,详细介绍了运动估计已有的各种算法,提出了一种改进的适合软件的快速算法——双六边形与小菱形结合的搜索算法。运动估计是基于运动补偿/DCT混合编码方法的重要组成部分,运动估计与补偿技术可以有效地去除视频序列相邻帧间存在的时间冗余,极大地提高了编码效率。 第三,根据H.264/AVC的特点,提出了一种基于VLSI的快速搜索算法——扩展三步搜索算法,该算法在搜索窗内搜索点数和搜索步数固定,搜索点排列整齐而有规律,算法复杂度低,易于硬件实现,然后作了分析和软件测试,给出了算法的硬件结构。 最后,提出对H.264/AVC标准帧内预测部分的改进建议,并做了软件测试和结果分析。