随着人类社会信息化的快速发展，视频通信应用成为必然趋势。H.264视频编码标准以高效编码和网络友好性成为新一代国际视频编码标准。但目前大多数通信网络均不能提供可靠的服务质量，压缩后的视频码流传输过程中面临着不可避免的差错，所以需要在视频编码、传输和解码的过程中加入控制技术来降低错误对视频质量的影响。因此，研究H.264在IP网络中的传输性能，改进其算法以进一步提高其抗误码性能具有十分重要的意义。　　 本文首先分析了H.264编解码器的基本结构、实现流程及其涉及的先进技术，研究了H.264码流在IP网络中传输时采用的主要通信协议和传输框架，并分析了RTP/RTCP协议以及RTP的发送和接收流程。　　 其次，在研究目前H.264的各种容错技术原理和流程的基础上，对基于解码端的常用容错算法进行IP信道环境仿真，并给出一种基于时空域的自适应错误隐藏算法。仿真结果表明，与单独使用边界匹配算法和方向插值算法相比，该算法在场景切换时的错误隐藏性能更好。　　 最后，本文详细研究了H.264的码率控制方案，提出一种改进的JVT-G012基本单元层码率控制算法，该算法采用了R-Qstep模型代替二次率失真模型，同时使用新的模型来预测基本单元的平均绝对差值MAD，避免二次率失真模型中的参数更新过程，减少了计算量。仿真结果表明，与JVT-G012提案相比，改进算法可以更精确地分配目标比特和控制率，并能获得较高的图像PSNR。