高效视频编码(HEVC)是新一代视频编码标准,与上一代标准H.264/AVC相比,同等条件下HEVC编码效率提高一倍左右,但计算复杂度的急剧上升给应用和推广带来极大的困难。本文在深入研究HEVC帧内编码的基础上,针对显著影响帧内编码复杂度的两个过程:预测模式选择和编码块尺寸选择,分别提出了基于模式分组的帧内预测模式选择快速算法和基于多重纹理的帧内编码块尺寸选择快速算法,具体工作如下:1.HEVC帧内编码需要对35种预测模式进行粗糙模式决策(RMD),根据哈达码代价筛选进入率失真优化过程的模式数量,计算复杂度很高。本文根据预测单元(PU)水平、垂直、45°和135°方向的梯度信息,提出了基于模式分组的帧内预测模式选择快速算法,减少进入RMD过程的模式数量,该方法可以有效选择PU的预测模式。2.HEVC帧内编码需要对最大编码单元进行四叉树递归划分,根据率失真代价决策编码单元(CU)的尺寸,计算复杂度非常高。本文在统计分析CU纹理特征与CU尺寸关系的基础上,提取CU的内容复杂度、方向复杂度以及子CU的内容复杂度差异和方向复杂度差异作为纹理特征,提出了基于多重纹理特征的双支持向量机CU尺寸决策机制,对纹理复杂的CU提前确认划分,对纹理简单的CU提前终止划分,从而实现了CU尺寸的快速选择。本文在JCT-VC发布的标准测试集上对提出的改进算法进行测试,测试结果表明使用预测模式选择和编码块尺寸选择两种快速算法进行帧内编码,与开源编码器x265-1.7相比,编码时间减少42.80%,码率增加0.98%,亮度峰值信噪比降低0.018d B。在保证编码质量的同时,有效降低了计算复杂度。