H.264/AVC是ITU-T和MPEG组织共同推出的新一代视频压缩标准,其压缩效率较H.263和MPEG-4简洁框架有显著提高。本文主要研究国际视频标准H.264中的视频编码技术。在介绍了视频编码的基本理论和国际上两大系列视频标准的发展历程和技术特点后,本文研究了H.264视频标准的系统框架和其中的关键技术:帧内预测、帧间预测、熵编码,明晰系统中各个部分的关联和各自所起到的作用。在此基础上,本文对运动估计算法和熵编码技术作了重点研究,包括:研究了各种经典的运动估计算法,如全搜索算法、三步法、菱形算法等等,在此基础上对UMHexagonS算法进行了深入的研究。UMHexagonS算法中所进行的搜索都是关于中心搜索点对称的,这样能够避免局部最优化的情况,但是它没有一个明确的搜索方向。对于静止区域很大的序列或者变化很缓慢的序列,搜索点出现局部最优化的情况的概率很小,这时UMHexagonS算法就增加了额外的搜索点数。基于此,本文提出了一种根据邻块运动特性来判断当前块的运动方向的空间自适应算法,它能够给当前块的运动估计确定一个明确的搜索方向。通过实验验证了此算法的可行性和优良性。实验表明,在重建图像质量基本一致的情况下,优化的UMHexagonS算法与原算法相比,搜索点数最多下降了27.2%,最少下降了5.5%;运动估计时间最多节省了13.2%,最少节省了4.8%。深入研究了基于上下文的自适应变长编码(CAVLC)和基于上下文的自适应二进制算术编码(CABAC),从理论上分析了CABAC算法的高压缩性,实验表明,在图像质量几乎一致的情况下,CABAC的压缩行能远好于CAVLC,从而证明了理论分析的正确性。