21世纪是信息时代,各种媒介飞速发展,视频传输也不例外。现代视频在逐步的向以下几个方向发展:高清晰度、高帧率、高压缩率。面对以上的发展趋势,HEVC标准应运而生。HEVC主要针对高清以及超高清的视频图像,其主要是在H.264/AVC标准的基础上,在保证相同视频图像质量的前提下,使视频流的码率减少50%,进而更好地适应各种不同的网络环境,同时能够支持多核并行编解码等新技术。然而,HEVC在高性能编码的同时也带来了极高的计算复杂度这一问题,这对于HEVC的商业化来说显然是不利的。因此,如何在保持HEVC编码效率的前提下,显著地降低算法复杂度,减少编码时间就变得尤为重要。帧内预测是HEVC的重要部分之一,它是HEVC编码框架中复杂度较高的模块,难以满足实际应用的需求。因此,对帧内预测的算法进行优化尤为必要。针对帧内预测的高计算复杂性带来的过长编码时间的问题,本文主要将研究一种利用相邻编码单元相关性和梯度分析等方式而改进的HEVC帧内快速模式选择算法。本文的主要工作和成果如下:(1)提出了一种自适应深度决策裁剪算法。首先根据当前编码单元相邻的编码单元深度,对该编码单元进行深度预测,获取其预测深度,再根据CU的空间信息,以及父CU,RMD列表及MPM的相互关系,裁剪掉不必要的预测模式。该算法期望在基本不影响视频编码效率的前提下,实现对原标准算法的运算复杂度的大幅度降低。(2)提出了一种基于梯度的帧内快速预测模式算法。在基于深度自适应决策算法以及帧内预测模式候选列表裁剪算法的基础上,进一步提出了基于梯度的帧内快速算法。该算法将候选模式的序号差值大于2的候选模式进行梯度计算,并最终确定了最佳预测模式。(3)对两个关键技术的算法原理进行详细阐述的基础上,实验分析比较了这些方法的优缺点。以上两种算法相结合,共同实现了在仅增加1.34%的BD-rate,以及减少0.09dB的BD-PSNR的情况下,平均节省29.16%的总编码时间。