高效的视频压缩编码技术，是实现实时传输、IP易错信道环境中的前提和保证，对于目前的网络通信发展状况而言，如何进一步提高编码速度，促进视频编码在多媒体通信领域的应用，是当前的技术难点。　　目前，适合于视频通信的压缩编码标准主要包括:ITU-T的H.26x系列和MPEG的MPEG-4标准。其中，H.264/AVC是近年来在广播和电信视频通讯领域中最领先的视频编码标准，它不仅吸收了以往视频编码标准中的经验，并在此基础上开发了许多先进的编码技术。　　基于率失真函数理论，针对H.264/AVC编码算法，展开了较深入细致的研究，研究工作概括如下:　　从信息论理论角度出发，着重围绕图像压缩理论，利用率失真特征数学模型，对H.264/AVC中的一些理论问题进行探讨;深入剖析率失真函数理论，并在该理论基础上，针对当前常用的率失真计算模型，确定了全局失真统计测度与编码比特率测度、量化参数与宏块帧内刷新率的关系，提出了码率控制的策略;利用误码掩盖技术，分别对宏块帧内刷新和宏块帧间编码模式进行失真分析，获得率失真曲线上最佳误码控制点，构造了宏块编码模式选择的代价函数，建立了包含信源编码失真和扩散误码失真统计模型。同时，针对网络通信视频应用环境，建立了模拟测试方法，大大增强了H.264/AVC编码码流在网络通信中的抗误码能力。　　运用最大熵原理之近似法，计算出扩散误码发生概率判决失真函数，将最小计算率失真对应的宏块编码模式，确定为率失真最优宏块编码模式，并对宏块编码失真及宏块的误码扩散失真、宏块编码比特率、率失真编码模式判决方法进行分析。　　基于缓冲区控制和二项式R-D模型控制算法，提出了率失真优化的宏块编码码率控制算法。该算法不仅能够自适应地调整比特分配和量化参数、全局最优化求得率失真曲线上的最佳控制点，还可以根据当前网络运行情况，动态地为源压缩数据保护信息和信道分配带宽，实时进行帧内宏块刷新和抵抗信道误码。　　依据H.264/AVC测试模型，使用本文实验测试平台JM-ZJ，实验结果表明:　　(1)运用优化的全局率失真判决策略、率失真模型，能实现比特率在信源编码和误码扩散编码间的优化分配，对Foreman图样文件测试序列，在编码压缩前后其文件容量大小对比为210∶1。　　(2)采用标准测试序列JM-ZJ编码的.264格式和.yuv格式、MPEG-4的.avi格式播放，从系统负载来看，.avi格式，CPU占用率40％，系统要求最低;.yuv格式，CPU占用率70％，系统要求较高;H.264格式，CPU占用率80％，系统的要求最高。　　(3)对Foreman和Car phone测试序列，在比特率为128Kb/s左右，比特分配算法峰值信噪比值几乎高出1～2dB;对News和Salesman序列，在比特率为96Kb/s左右，比特分配算法峰值信噪比值几乎高出0.7～1.5dB。　　(4)对Gar phone测试序列，从实验中给出的峰值信噪比曲线看出，ZJ算法比MD算法平均峰值抖动信噪比增益为1.3～2.0dB左右，比NE算法平均峰值信抖动噪比增益为1.5～2.5dB左右。