视频编码优化研究一直以来是视频编码领域关注的热点,如何权衡率失真性能和编码复杂度,以满足特定的应用需求成为视频编码优化的重要研究方向。随着多媒体技术的不断发展,视频编码技术现已趋于成熟,基于改进编码技术的视频编码优化难度较大。X264是工业界广泛使用的H.264/AVC编码器,包括大量执行编码算法的编码参数,每一个编码参数都具有多种选项模式。这些编码参数的不同选项对视频编码性能与复杂度有着至关重要的影响。考虑到以往视频编码优化主要从编码技术角度出发,并未关注视频编码器自身的特性,本文以编码参数作为基础进行视频编码优化研究。如何由众多编码参数中选取出对视频编码性能影响显著的编码参数,并为其建立具有一定区分度与灵敏度的候选取值成为本课题首要解决的问题。根据编码参数不同选项的率失真性能,采用选项之间的?PSNR作为显性编码参数的评价标准。考虑不同的编码参数类型,为其建立离散化候选取值列表,其中连续取值的编码参数,以选项的PSNR曲线增益进行区域划分,基于不同划分区域设置非线性取值间隔,获取相应候选取值。视频编码优化是在率失真性能与复杂度约束下进行,因此率失真性能与复杂度的度量成为本课题重要研究内容之一。考虑到实时获取率失真性能有一定难度,本文采用离线测试建模方法,在编码结束后对码率与失真进行处理,以目标码率内失真的积分面积进行率失真度量,并提出以视频图像信号与MSE相结合的视频质量客观评价方法。基于正交试验设计,本文建立了率失真-复杂度最优化关系模型,以找出率失真与复杂度最佳映射关系,为编码参数优化提供有力支撑。显性编码参数不同候选取值对编码复杂度与率失真性能具有不同的影响,以相邻候选取值单位复杂度的率失真性能变化为依据,本文提出了编码性价比最高的参数优化方法。此方法在显性编码参数决策优先级的基础上,通过编码参数相邻选项的自适应扰动比较完成选项的选取。实验结果表明该优化方法能够在一定编码复杂度或率失真性能的约束下,为编码器配置出单位复杂度内率失真性能最优的编码参数组合,达到视频编码优化的目的。