视频编码是现代数字信息技术领域的一个重要研究课题。为了使视频编码器能够更好地发挥其性能,满足各种实际应用需求,编码器都采用了各种控制和优化技术,如率失真优化技术、码率控制技术等,这些技术都需要有率失真模型作为基础,一个好的率失真模型对编码器而言至关重要。所谓率失真模型就是编码后码率与编码参数的关系以及重建图像失真量与编码参数的关系,而本文就其中的失真问题进行了研究,在第三章中建立了重建图像的失真模型,或等价地说建立了重建图像的质量与编码参数的关系模型。参考帧压缩则是近些年来为了解决在高清晰度高帧率的实时编码系统中数据访问带宽问题而出现的一个新的研究热点。随着图像帧率和分辨率的提高,编码器处理芯片与片外存储器之间的数据访问宽带不断增加,超过了存储器所能承受的范围,并且高带宽也带来了系统高功耗问题,因此需要对重建图像进行压缩,将压缩后的数据再存入片外存储器,以降低数据带宽。但是当编码器引入有损的参考帧压缩后,由于参考帧质量下降,整个编码器的率失真性能将发生改变,因此需要有一个适用于引入参考帧压缩的编码系统的率失真模型。本文对此展开研究,在第四章中建立了一个考虑参考帧压缩的重建图像失真模型。本文首先总结了现有的率失真模型和各类参考帧压缩算法。通过总结发现,现有的失真模型都关注于当前帧量化参数对重建图像的影响,并且都没有考虑参考帧压缩的问题。因此本文将参考帧的量化参数引入建立的失真模型中,并又在此基础上建立了一个考虑参考帧压缩的重建图像失真模型。本文先从预测残差特性出发,通过数学公式的推导和数据拟合,建立了重建图像失真量与当前帧、参考帧量化参数的关系。随后,针对参考帧压缩的情况,本文将总编码噪声表示为二次编码噪声之和,分别对这两次噪声进行建模,最后得到总噪声影响下的失真模型。其中一次编码噪声下的模型建立在无参考帧压缩情况的模型的基础上；对于二次编码噪声,本文研究了其能量与均值和与零概率之间的关系,并得到数学表达式。最后,本文对建立模型的过程和方法以及研究思路进行了总结,并提出了今后仍然需要且值得进一步研究的方向以及对未来的展望。