随着电子通信技术的不断发展,传统的语音、短信通信业务已经无法满足人们的日常生活需要。新兴的视频业务正逐步渗透到日常的工作、生活、娱乐甚至安全领域当中。H.264是新一代的视频压缩标准,它的压缩性能、编码质量和网络有好性等均取得了阶段性的进展,被广泛应用于各个领域。本论文针对在无线环境中的H.264码率控制和错误掩盖技术进行深入研究,优化算法并进行实验仿真验证。由于带宽有限和网络突发特性,无线通信对编码后的码流速率要求很高。因此,需要一个尽可能精确的码率控制系统,用于保证视频的流畅传输、高效信道利用率和满足用户需求的恢复质量。H.264标准采用多种编码方法提高编码效率,也增加了码率控制的难度。H.264的解码器提供了错误掩盖技术,不过性能有限,还有待提高。论文首先介绍视频压缩编码原理,简介视频压缩系列标准。接着对无线通信系统进行概述,通过分析无线通信的特性,建立信道模型,建立无线视频通信系统。随后研究码率控制的基本原理,通过分析几个经典码率控制算法,引出H.264的码率控制提案JVT-G012。阐述现有技术的不足之处,提出一个改进的帧层码率控制算法。该算法采用PSNR-QP指数模型修正I帧和B帧的QP,同时优化分配目标比特。实验结果表明该算法能平均提高PSNR在0.49dB左右,比较合理的控制缓冲区满度,减少跳帧数。接着分析H.264的无线网络友好性,提出一个基于无线的码率控制和错误掩盖方法。该方法提出一个更为精确的计算初始I帧QP的方法,并引入空间相关性,联合时空,更准确地预测平均绝度误差MAD,用于改善码率控制的性能,仿真结果表明PSNR提高0.7dB左右,效果明显,并减少跳帧。将编码后的视频数据经RTP打包,送到无线信道中进行丢包处理。解码处理过的数据信息,若发现数据丢失/出错,则根据优化后的错误掩盖算法对丢失宏块进行错误掩盖,恢复图像。实验结果表明该方法能够有效提高视频质量,平稳输出视频流。