随着第三代移动通信(3G)以及Beyond3G等无线通信技术的飞速发展，人们对无线多媒体业务的需求也与日俱增，其中，图像和视频通信将成为主要的业务方式。比如对于救火现场、煤井等场合，不能提供有线视频通信，就必须使用无线视频通信来实时掌握现场的情况。因此，如何在无线环境中实时传输高质量的视频将是人们研究的热点。　　 无线信道具有多径效应、抖动效应、瑞利衰落等特点，容易导致高的误码率，同时，无线网络带宽有限，波动较大，很难为无线应用提供可靠的服务质量。而新一代视频编码标准H.264标准压缩效率高，可在各种码率下提供较高质量的视频图像，同时具有自适应的延时特性，支持各种视频应用，具有较强的容错能力，适合在无线信道中传输。　　 H.264标准跟以往的标准相比有很大的优越性，但是，这些优势是通过更加复杂的算法，以及更高的硬件支撑平台来实现的，这就给它在实时无线通信领域的应用带来了困难，所以有必要研究快速有效的算法及其实现。本文在对H.264帧间编码研究的基础上，提出了一些优化算法，并在DAM6416P平台上对H.264帧间编码的DSP实现做了相关研究，具体研究工作如下：　　 (1)研究了基于块的H.264帧间前向预测编码、帧间后向预测编码和帧间双向预测编码，并对运动估计中的一些关键技术做了详细研究，如块匹配准则、运动搜索策略、运动估计算法的评价指标等等，同时对一些经典的运动估计算法做了详细描述。　　 (2)为了减少H.264无线视频帧间编码中模式选择算法的时间，提出了一种P帧模式选择的优化算法，将视频序列分为变化区域和相对静止区域，同时采用P帧模式中的4×4、8×8、8×16、16×8、16×16以及SKIP模式，实验结果表明，该算法可以显著减少编码时间，提高编码的效率，更有利于无线视频的通信。　　 (3)在对H.264无线视频帧间编码中运动搜索算法研究的基础上，提出了一种混合运动搜索算法(Mixing Motion Search Algorithm，MMSA)，采用三种搜索窗口：矩形窗口、大菱形窗口和小六边形窗口，实验结果表明，该算法可以有效减少平均运动搜索点数，进而减少编码时间，提高编码效率，同时，能够保证较好的图像质量，这对无线视频帧间编码对编码效率和图像质量的高要求作出了一定的贡献。　　 (4)在对DAM6416P平台和X264编码器研究的基础上，构建了基于DAM6416P平台的视频采集压缩和显示的硬件平台，并结合开发软件CCS3.1，通过对多参考帧等硬件实现的参数的研究，确定了硬件实现的参数及其实验环境，采用P帧作为帧间编码的方式，编码格式为IPPP，最终实现了视频的实时采集和压缩编码，并通过软件JM12.4实现了视频解码，同时还验证了不同的视频序列对H.264帧间编码优化算法的适应性。