H.264是一种高性能的视频编码方法,但其在运动估计、帧内预测、插值、变换和算术编码等方面具有很高的计算复杂度。根据其内在的并行度,通过分析并行化的瓶颈所在,合理地设计与分配任务,并优化对存储器的访问,使其能够在CUDA架构下充分利用GPU资源,从而有效地提高H.264编码器的速度。H.264预测编码的CUDA平台优化主要分为帧间预测编码和帧内预测编码两个部分。针对帧间预测编码中最为复杂、计算量最大的运动估计过程,采用了适合CUDA平台的块层级的并行化算法,将整个H.264运动估计算法分解成五步完成,每一步在维持很低的存储器数据传输量的同时使计算达到高度的并行。实验结果表明,在拥有GPU的协助下,帧间预测编码时间是原来的十四分之一。同时,又充分发掘GPU共享存储器和显存并行传输的特点,进一步在数据读写上优化算法,最终达到了十六倍的加速效果。针对帧内预测过程中相邻块之间的编码依赖性,提出了一种利用原始图像作为预测参考帧的帧内预测算法,这样所有的块都可以在同一时间预测编码,消除了相邻块之间的依赖性。实验结果显示,该算法也达到了十倍以上的加速效果。最后将上述算法在H.264编码器中实现,并且在NVIDIA GTX260 GPU平台上验证所提出的算法,实验结果表明,经过优化的预测编码模块都达到了十几倍的加速效果,同时整个编码器也有近五倍的速度提升,具有明显的优化效果。