随着高清数字电视、移动视频等新应用的日益广泛，以及人们对更高的色彩还原与展现的期望，使得H.264/AVC与AVS等第二代视频编码标准也开始难以应对这些新的需求，ITU与MPEG组织都因此开始了制定新一代视频编码标准的过程，而自适应性质的算法出现在了很多新的提案中。　　 本文主要研究通过在基于块的混合编码模型中采用自适应选择变换矩阵的方法改善视频压缩效率的技术。在介绍了基于块的混合编码模型的编码器与解码器结构之后，着重分析了框架中的几个重要部件所采用的技术与作用。然后考察了现有新提案中所提出的三种自适应技术以及所带来的PSNR的提高。在此基础上，本文对变换矩阵的自适应选择作了重点研究，并提出了基于自适应整数变换的视频编码算法，主要工作包括：　　 研究了整数变换的原理与成立条件，并介绍8x8的整数变换快速算法；通过考虑能量集中率与去相关性能，评价变换基的性能；介绍了现有的两种应用了自适应技术的变换编码技术；通过现有自适应变换技术的启发，在基于AVS的RM模型中，引入变换矩阵的自适应选择，提出了一个基于变换基性能评价的自适应变换算法，并通过在码流中设置一个语法元素指示该块使用的变换基，以达到自适应选择变换矩阵的目的；通过实验验证该算法的压缩效果，仿真表明这一算法对比使用固定变换矩阵在压缩效率上有所提高；最后本文介绍了KLT的原理以及其能量集中性与去相关性的最优特性，分析了KLT应用于视频编码中所存在的问题，并提出一个基于场景检测的自适应KLT框架，以解决部分困难。