基于新一代视频编码标准H.264/AVC具有良好的压缩性能和网络适用性,其应用日益广泛,但是其良好的压缩效率是以高计算复杂度为代价的,在信息技术发展迅速的当今社会,为了满足人们对高性能的视频业务的需求,必须平衡好视频图像质量与计算复杂度之间的关系,以适应低带宽的传输环境。解决的主要途径是建立低复杂度的视频编码算法,根据平台资源的不同而自适应的调整复杂度,进而利用有限的资源实现编码质量的最优。目前,由于市场需求,面向H.264展开快速编码算法和自适应调整复杂度的研究成为关注的热点,本文主要是针对这两方面展开研究。本文首先从如何缩小预测模式的选择范围以及从空间域考虑宏块间相关性和纹理方向等方面考虑如何快速选择帧内帧间的最佳预测模式,通过减少搜索模式,缩小搜索范围,进而在保证一定的视频编码质量的前提下提高编码速度。在分析H.264典型的帧内帧间预测编码算法过程中,总结了现有算法研究的现状以及存在的不足,在此基础上根据需求分别提出了优先选择的模式选择预测编码算法。其次,本文重点对根据平台所需而自适应调整编码复杂度的算法方面进行了研究,面向在以电量有限的电池为驱动的手持移动终端,分析了复杂度与能耗之间的关系,综合考虑码率、能量供给和编码失真等诸多因素之间的约束关系,针对复杂度控制的特点,建立了复杂度-率-失真代价函数模型,使得编码器的能量消耗和率失真性能达到平衡。在此基础上结合以上提出的帧内帧间预测算法,对复杂度和码率进行联合控制,根据当前的能量情况的反馈,对复杂度的进行合理分配,提出了复杂度自适应编码算法。该算法可以根据终端的计算能力或能耗的变化自适应的调整计算复杂度,提前终止预测模式的选择。本文最后考虑到智能手机电量和计算能力等特点,利用智能手机模拟器,在VS2005平台上对复杂度自适应编码算法进行了仿真,实现了算法的验证。