视频编码过程中，基于编码单元特点选取合适的编码模式（分割模式和预测方向），是模式选择的主要任务。最优的编码模式需同时满足码率和失真两方面内容，即码率一定失真最小。为了选择最优编码模式，提高编码效率，主流视频编码标准的参考模型纷纷将率失真优化技术引入模式选择。率失真优化模式选择算法计算所有候选模式的率失真代价，选取代价最小的模式作为最优模式。但是这样导致整体视频编码运算复杂度急剧上升。目前，率失真优化模式选择算法完全被纳入实时视频编码器仍然是一种巨大挑战。为了解决这一问题，本文提出一种基于自适应模式预选的快速模式选择算法，包含如下两个创新点：（1）自适应模式预选。模式预选算法是运用简化代价函数预选若干种有望成为最优模式的候选模式，再从被选中的若干种模式中选出最优模式。预选方法缩小候选模式范围，大大降低运算复杂度。但是由于预选算法往往过于简单，导致预选准确率（预选模式包含最优模式的概率）下降，影响编码效率。因此，本文基于离线统计分析,自适应调整模式预选，提高预选准确率。（2）预测编码比特。编码比特模型描述了编码与量化参数（量化步长）之间的关系，是码率控制的基础。本文对经典码率量化模型的精准度进行详细分析，并选定最精准模型用于本文模式选择算法，在计算候选模式率失真代价时，使用预测编码比特代替实际编码比特，进一步降低运算复杂度。实验证明，本文算法约节省30%模式选择时间，而峰值信噪比PSNR损失不足0.1dB。