随着21世纪信息技术和互联网技术的迅猛发展,多媒体信息,特别是视频信息,已逐步取代纯文本信息,成为人们获取资讯的主要载体。视频会议、视频电话、远程学习和培训、远程医疗、视频点播等应用已经逐渐进入到人们的日常工作生活之中。然而,由于视频信号高冗余度的特点,未经压缩编码的视频数据占用大量的存储空间和传输带宽,直接使用既不经济也不实际。视频编解码技术的出现很好地解决了这一问题,降低了人们使用视频信号的成本。作为新一代视频标准,H.264从诞生的那一天起就引起了人们的广泛关注。它以更高的编码效率、更好的网络适应性吸引着越来越多的研究者。但随着可变尺寸块模式、多参考帧、分数像素运动预测等新技术的引入,H.264的编码复杂度相比于以往的视频标准大大提升了,这限制了其在一些要求实时性较强的项目中的应用。因此,降低算法复杂度,提高编码速度,满足网络视频传输对实时性的要求成为当前研究的首选内容。本文首先介绍了课题的研究背景以及视频编码算法的研究现状;然后简要介绍了H.264视频编码标准;最后,主要从多参考帧选择和全零块检测两个方面入手,对H.264编码算法进行优化并进行了实验验证。多参考帧运动补偿是H.264编码算法的核心,也是最耗时的部分。通过研究我们发现,在不同尺寸块编码模式下,时域和空域运动相关性对最优参考帧选取的影响是不同的。本文通过分析视频序列的统计特性和视频帧内的空间相关性,提出了一种基于运动相关性的自适应多参考帧快速选择算法。该算法可以根据视频序列自身特征,自适应地去除不必要的参考帧,降低编码复杂度。实验结果显示,在保证编码质量的前提下,本算法平均可以节省编码时间40%以上。同时,在H.264中,经过运动预测得到的残差信号,需要进行整数变换和量化之后才能进行编码。在很多时候,特别是低码率条件下,会有很高概率得到全零量化系数块。文章详细分析比较了几种现有全零块检测算法的特点,通过研究4x4整数变换自身特性,对整数变换和量化过程进行反演,并采用分而治之的改进策略,得到了一种新的全零系数块快速检测算法。实验结果显示,相比现有算法,本方法可以在不降低视频编码质量的前提下,有效提升全零块检出率,减少所需计算量。