ERP(Equi-Rectangular Projection)投影格式是360度视频常用的投影格式,其靠近两极的视频图像内容存在水平拉伸并产生失真,导致了HEVC(High Efficiency Video Coding)编码器的性能下降。为了提升编码器性能,论文针对ERP格式,利用决策树模型优化了帧内编码的CU(Coding Unit)划分过程和参考像素滤波过程。主要工作如下:(1)针对360度视频帧内编码CU划分编码复杂度高的问题,论文研究了CU划分的优化结构,利用相邻同尺寸CU的RD-cost和CU间的深度相关性构造了决策树属性,为不同区域和不同类型的决策树建立了不同的分类类别。根据决策树模型,设计了一种360度视频CU快速划分算法。在编码时,根据CU所属区域的不同,提取不同的样本属性,并根据决策树的分类结果判定当前CU是否提前划分或者剪枝,跳过某些深度的代价计算过程,减少了编码复杂度。实验结果表明,与标准算法HM16.20相比,提出的算法平均节省了28%的编码时间,BD-rate仅增加0.27%。(2)针对360度视频帧内编码对参考像素滤波方式判断不准确的问题,论文优化了参考像素滤波方式的配置,增加了参考像素采样点的数量,为ERP视频的不同区域设计了不同的决策树属性和分类类别,根据区域决策树模型,提出了一种360度视频参考像素滤波优化算法。优化算法将根据TU(Transform Unit)尺寸和所属区域决策树模型的分类结果,判断参考像素的滤波方式,使帧内预测过程具有更高的预测精度。实验结果表明,与标准算法HM16.20相比,提出的算法平均节省了0.1%的BD-rate,编码时间基本保持不变。