本文是对高效率视频编码(High Efficiency Video Coding,HEVC)的帧间快速算法和参考帧选择算法的研究。HEVC是新一代视频编码标准,在保证同等视频质量的同时大幅度降低了码率,然而压缩性能的提高是以编码器的计算复杂度为代价的。屏幕内容,是捕捉特定电脑屏幕或者视频画面并加入文字信息的视频。这种视频具有场景切换,垂直边角等特点,因而具有广泛的应用。在视频编码过程中,参考帧管理在提高视频质量和编码效率中具有重要作用,现在已有很多针对参考帧管理的算法,但适用于屏幕内容视频的算法很少见。本文旨在优化的一个算法是HEVC帧间快速模式选择算法,利用视频图像的空时相关性,提出了两种帧间模式选择快速算法:在PU模式选择层,本文提出了一种基于CU分割深度和PU分割模式间时间相关性的PU模式迭代的提前终止策略;基于运动估计过程,利用运动同质区域不同PU分割模式的运动矢量的空间相关性,本文提出了一种运动矢量合并算法。为了保证率失真性能,本文为这两种算法设定了合理率失真代价阈值和运动矢量差值阈值。最后将两种策略相结合,达到降低编码复杂度目的。该算法是在HEVC测试模型HM-15.0中实现的,实验结果表明,相比于之前的算法,该算法平均节省了 23%的编码时间,而率失真性能的损失可以忽略不计。本文提出了一个针对屏幕内容的参考帧管理算法,即先找到最高效率编码结构,然后设置场景切换帧为长期参考帧。一个高效率的编码结构可以确定合适的参考帧及其数量,长期参考帧可以为场景切换帧后面的图像提供有用信息。实验结果表明,相比于默认的编码结构,高效率编码结构在不损失视频质量的前提下,可以节省0.69%的比特率和12%的编码时间。同时,新的长期参考帧算法在不损失视频质量的情况下可以节省7.2%的比特率。