随着近几十年来电子技术及人类生活水平的提升，高清（High Definition，HD）、2K4K超高清（Ultra High Definition，UHD）视频服务的需求越来越大。然而，已有的商用标准H.264/AVC已经无法对这些视频进行有效压缩。因此，联合视频编码小组（Joint Collaborate Team on Video Coding，JCT-VC）发起研究下一代视频编码标准：高清视频编码（High Efficience Video Coding，HEVC）。HEVC编码标准采用了一系列先进技术，使得其能在相同的客观视频质量下压缩效率提升近50％。然而在实际应用中，HEVC标准编码复杂度过高令其实时性远远无法满足；此外，在带宽资源受限条件下如何充分利用已有带宽提高视频质量，即码率控制（Rate Control，RC）技术，亦是需要解决的重要问题。　　对于复杂度过高的问题，本文在研究HEVC标准帧内编码技术的基础上，提出了基于最大编码单元（Largest Coding Unit，LCU）相似度的深度范围及率失真代价阈值预测低复杂度算法。利用相邻LCU的相似性，结合统计规律，提前结束递归分割及模式选择过程。实验结果表明，提出的算法较标准帧内编码算法编码平均时间有较大节省且保持良好视频质量。　　对于HEVC的RC，本文在分析研究标准最新帧内RC（提案JCTVC-M0257）和帧间RC（提案JCTVC-K0103和提案JCTVC-M0036）的基础上，提出了基于负反馈系统的帧内RC自适应帧层修正方案和帧间RC分层自适应修正方案。帧内修正方案利用了HEVC帧内编码内在比特偏移现象及特点，采用间隔一定帧数预测方式，提前获得某一编码帧分配比特与实际产生比特的误差，继而将误差从分配比特中减去来提升控制精度。实验结果表明，所提出的帧内修正算法能够有效的提高RC精度，保持视频客观质量而不引入额外的编码复杂度。　　帧间修正方案则根据标准 RC实际产生的比特数累加和近似呈线性的特点，结合帧间编码分层结构特点，为每一层设计独立的帧层负反馈系统，调节实际产生比特数累加和的斜率。实验结果表明：与最新帧间RC方案相比，在一定编码结构下产生的码率误差能够大大减小，而视频的主客观质量保持基本不变。