视频具有直观明了、生动形象的表现能力,并且随着科技的发展,网络基础设施与各种计算机外设产品日益完善,数字影像设备争奇斗艳,视音频处理硬件与软件技术推陈出新,所以数字视频作为一个信息载体得到了广泛应用。但是数字视频也因其巨大的信息量,给人们的视频处理过程造成了极大的困扰。为了解决这种困扰,各国科学家做出了巨大的努力。数字视频编码技术也因此成为工业界和学术界大家研究的热点。H.264是国际标准化组织(ISO)和国际电信联盟(ITU)共同提出的新一代视频编码标准。它被设计用来为视频传输、视频存储、视频服务等广泛的应用提供支持。与其他视频编码标准相比,H.264/AVC可以在保持较好视频质量情况下达到较高的压缩率。但是如此高的压缩率也造成了极高的运算量,所以在设计和实现H.264/AVC编码器的时候,我们应该强烈关注编码器的计算效率。对一个H.264/AVC编码器来说,它的计算量大小主要依赖于几个部分：帧内估计,4x4块的整数变换,可变尺寸块的运动估计等。其中运动估计和模式选择占计算量的很大一部分。在我们的工作中,主要是研究运动估计和模式选择技术。运动估计部分,主要是解决如何快速找到匹配块,获得运动向量。模式选择部分,我们主要是解决如何进行块尺寸的选择,使得拉格朗日代价最小本文的主要研究工作是：(1)对视频编码标准进行简单的介绍。(2)对运动估计和模式选择技术进行介绍,并对经典的运动估计算法和模式选择算法进行分析。(3)提出了一个基于运动一致性的高效运动估计算法。根据一个块的运动一致性,我们将块分为运动一致块或运动不一致块。不同类型的块使用不同的运动估计算法。对于运动一致块,它会根据块的运动程度使用菱形搜索算法或者六边形搜索算法；对于运动不一致块,它使用我们提出的动态层级搜索算法。实验显示,我们的运动估计算法大幅降低了计算复杂度,但是会有适当的比特率增加和轻微的降低峰值信噪比。(4)提出了一种利用局部时空一致性的快速模式选择算法。先建立当前块及参考帧的同位置块的灰度直方图。如果两个直方图之间的差很小,使用大尺寸块模式。否则分割当前块为四个相等大小的子块并计算它们的运动向量。总体上,如果运动向量具有高度的一致性,我们使用大尺寸块模式,否则使用小尺寸块模式。另外,使用邻接块大尺寸块统计等进一步增加模式选择的准确率。实验显示,我们的算法可以显著的减少计算时间。