相对于传统的低动态范围视频,高动态范围(High Dynamic Range,HDR)视频能够在高亮和低暗的区域呈现出更加丰富的细节以及对比度信息,给人们带来更加接近真实世界的视觉体验。因此,HDR技术在监控安全、影视娱乐等领域有广泛的应用前景。现有的高性能视频编码(High Efficiency Video Coding,HEVC)标准虽然兼容对HDR视频的编码,但考虑到HDR视频高动态范围和高精度的特殊性以及人眼视觉感知的复杂性,编码后的视频仍存在较多的感知冗余。本学位论文主要从人类视觉感知特性出发,围绕HEVC对HDR视频编码过程中的率失真优化技术、编码前的预处理过程以及不同动态范围视频用户码流的兼容性问题展开研究,实现在保证视觉感知质量的同时去除HDR视频中的感知冗余。(1)针对现有HEVC标准的率失真优化技术缺乏考虑视觉对HDR视频编码失真的感知特性的问题,提出一种基于对比敏感度函数的HDR视频编码率失真优化算法。首先根据对比敏感度函数的定义得出对比敏感度与人眼对误差敏感程度的关系;然后针对10比特HDR视频的亮度分量,以树形编码单元(Coding Tree Unit,CTU)为基本单位,求取影响视觉对比敏感度的适应亮度值以及空间频率;最后进一步修正对比敏感度作为感知因子对HEVC编码过程中每个CTU的拉格朗日因子进行缩放,实现更加符合视觉感知的码率分配,去除感知冗余。实验结果显示在相同HDR-VDP-2和PSNR_DE分值下,和原始编码平台相比码率平均节省5.6%和8.3%,表明提出的方法在保持感知质量情况下能有效降低码率。(2)考虑到现有HDR视频编码预处理过程中量化方法针对动态范围的单一性而产生的失真,提出一种依据HDR视频内容和动态范围自适应的预处理量化方法。首先,对预处理过程中的感知量化(Perceptual Quantizer,PQ)方法对HDR视频对比度造成的失真进行分析;然后依据HDR视频各个通道像素的概率密度分布以及视觉的对比度感知特性优化10bit整型量化信号的分布,尽可能地保护HDR视频的对比度信息;最后,依据优化策略结合逆PQ对原始HDR视频信号采用映射的方法进行优化,从而实现对HDR视频的自适应预处理量化,减少量化产生的失真。实验结果显示在相同HDR-VDP-2和PSNR_DE质量指标下,提出的方法码率平均节省8.7%和15.3%,表明所提出的方法能有效减少量化过程所造成的失真,提升对HDR视频编码压缩的性能。(3)针对标准动态范围和HDR用户视频信号流兼容性问题,本文结合现有的色调映射(Tone Mapping,TM)算法提出了两种动态范围可分级的HDR视频编码方案。方案一中对残差层所包含的HDR失真信息结合视觉的感知特性进行了分析,并采用引导滤波的方法对残差层进行处理以降低编码所产生的码率。方案二中首先对采用的TM算法进行了研究,并提取出针对不同HDR视频帧的色调映射算子(TM Operate,TMO),结合视觉的感知特性对TMO进一步修正后作为辅助信息传输到解码端重建出HDR视频。相对于传输残差层的编码方法,TMO单通道、高频信息较少的特性作为辅助信息能够节省一定的码率同时能够减少压缩算法所产生的失真,验证了可分级编码方法的有效性。