随着视频编码技术和网络技术的发展,人们对视频通信业务的需求不断增长,视频编码的目标正由传统的存储应用转向网络传输,因此面向网络传输的视频编码技术正受到学术界和工业界越来越多的关注。本论文针对视频通信中视频编码的几个关键技术进行了深入的研究,主要包括码率控制、可伸缩编码以及视频编码算法的DSP优化实现。1、码率控制算法码率控制是视频通信中实现视频高效编码和稳定传输的重要保证。对于恒码率(CBR)控制,针对实时视频通信中视频质量和缓存器状态不稳定的问题,提出了一种鲁棒和自适应的MPEG-4码率控制算法。该算法采用鲁棒的联合PID缓存控制器,根据缓存器状态和图像复杂度来自适应地调整比特数分配,并通过改进的二次码率模型和参数更新方法实现了精确的码率控制,保持了缓存器状态稳定,减少了PSNR波动。针对H.264中DCT系数新的率失真特性,分析得出了精确的基于Cauchy分布的率失真模型,并分别通过Lagrange率失真优化方法和二次RDO编码提出了两种不同复杂度的H.264码率控制算法,实现了更为优化的比特分配和精确的码率控制,并给出了比较实验与分析。对于变码率(VBR)控制,针对ARQ机制下的低延时无线视频传输,提出了一种有效的信道信源联合H.264码率控制算法。该算法用Markov模型作为无线信道模型来估计无线信道的状态和带宽,用基于Cauchy分布的率失真模型作为信源模型,并通过联合信道信源模型进行率失真优化,减少了跳帧,提高了平均PSNR。2、可伸缩视频编码算法可伸缩视频码是解决视频通信中的网络环境异构性和用户需求多样性的重要途径。本文研究了H.264/AVC可伸缩编码模型的关键技术,提出了一种基于运动区域的自适应可伸缩编码的优化实施方案。该方案根据基本层的运动信息及编码模式自动提取图像的运动感兴趣区域,并以独立片的形式对其进行时间、空间和质量上的可伸缩编码,不仅降低了编码复杂度,而且提高了重建图像的质量。另外,针对内容的可伸缩编码,提出了一种基于H.264压缩域的运动对象分割快速分割算法。该算法对H.264压缩域中原始的运动信息通过归一化、时空域联合处理及全局运动补偿得到可靠而显著的对象运动信息,进而采用Mean shift聚类分割算法提取精确的运动对象掩膜,并通过优先块编码实现了基于运动对象的SNR可伸缩编码。实验结果证明,该算法对具有静止背景和运动背景的视频序列都能在满足实时性的要求下,实现准确高效的运动对象分割。在此对象掩膜基础上的SNR可伸缩编码能显著提高对象区域的PSNR性能,提高整幅图像的主观质量。3、视频编码算法优化及DSP实现视频编码算法复杂、数据量大,又具有实时性要求。为了将视频编码算法在DSP上高效实现,针对视频编码算法优化和DSP处理器优化,分别提出了算法级和结构级优化策略。针对基于C64x DSP的MPEG-4编码器优化实现,提出了一种基于自适应终止技术的算法优化方法,该方法通过自适应阈值来减少运动估计中的搜索点和纹理编码计算量,在保持编码质量基本不变的情况下,使计算复杂度得到大幅降低;同时,结合C64x DSP结构特点提出了结构级优化方法,通过增强存储器访问效率和程序并行性来提高编码执行效率,实现了4路CIF视频的MPEG-4实时编码。最后设计实现了基于DM642的无线视频通信系统。