随着大数据时代的来临,多媒体技术迎来空前的发展机遇,以3D、VR、互动直播等形式为代表视频技术已经开始走进人们的生活,给人们带来了生活的便利。为了满足人们对高清、超高清视频资源日益增长的需求,需要更大的传输带宽和存储资源,而为了能够最大程度上节省视频传输的码率,需要研究更多新的视频编码技术,因此国际视频组织又投入到下一代视频编码标准H.266的研制。H.266的编码框架仍然没有改变,采用了传统的基于块的混合编码框架。在最新视频编码标准HEVC的基础上,提出了很多新的编码技术,目的是在HEVC的基础上编码效率提高一倍,但是现有编码技术还远没有达到要求,还需要在此基础进一步研究,追求更高的编码性能。在对H.266标准的研究中,主要重点围绕帧内预测、变换、滤波等技术展开,提出了基于亮度变化的帧内预测技术和基于迭代更新的帧内滤波技术,并结合自适应多核变换技术,提出了相应的优化算法。本文主要的学术贡献具体如下:(1)针对H.266帧内预测技术,提出了基于亮度变化的帧内预测技术方案,利用当前块周围相邻参考像素构造模板,在帧内非局部的重建区域寻找最佳匹配,并建立了一致亮度补偿模型,实验结果是基于JEM-5.0.1参考软件实现的,平均提升了0.58%的编码性能;在进行帧内变换时,基于对该技术帧内模式残差能量的分析,结合H.266自适应多核变换技术,提出了基于模式依赖的变换方法,实验结果表明在基本不牺牲编码性能的基础上,平均降低了5%和1%的编解码时间复杂度。(2)针对H.266帧内滤波技术,提出了基于迭代更新的帧内滤波技术方案,介绍了帧内最优编码性能的理论,提出了通过迭代更新的方法进行帧内滤波来近似最优编码性能,实验结果是基于JEM-7.0参考软件实现的,平均提升了0.47%的编码性能;经过对实验结果的统计分析,提出了通过跳过特定帧内模式和减少迭代次数的方法来优化帧内迭代滤波技术,实验结果表明基本没有损失编码性能,并且大大降低了本技术的时间复杂度。