高效视频编码HEVC/H.265是到目前为止的新一代视频码标准,它的提出是为了应对当今高清视频的普及给传统视频编码标准带来的挑战与压力。HEVC标准的终极目标是在保证和H.264/AVC标准中同等视频图像质量的情况下,将比特率降低为原来的一半。为了获得更高的压缩编码效率,HEVC在各个编码模块都引入了现阶段最先进的编码技术。本文主要针对HEVC的帧内变换编码部分做相关算法的改进和优化。HEVC在它的帧内编码部分为了详尽地描述残差块的方向性信息,一共定义了35种不同的预测模式。HEVC中沿用了传统H.264/AVC编码标准中的可分的二维变换(整数DCT以及DST变换)。HEVC中采用的二维变换在实际编码中都是通过在水平和垂直方向上分开做两次基本的一维变换来实现的。然而,对于那些内部纹理主导方向并不是水平或者垂直的二维图像,传统的二维变换并不能把它们的能量压缩做到最好。因此,HEVC中使用的无论是DCT还是DST变换都不能很好的考虑到图像的细节内容。为了解决这些问题,在本文中我们提出建立了一种考虑了图像方向性信息的旋转椭圆模型,并且基于KLT变换原理设计出了一些不可分的新型变换。然后我们针对不同的帧内预测模式分别提取出了不同的具有固定形态的变换方法,然后对应地把它们放入到HEVC标准中替换默认的变换然后进行测试。最终的仿真结果显示,和官方测试模型HM-16.4原始版本相比,使用新型变换方法可以分别为亮度和色度分量编码在BD-Rate指标上平均降低1.7%和2.0%,而对于某些效果特别好的序列最高可以降低7.7%和8.4%。同时在算法复杂度方面,我们的测试结果显示编解码时间最多只增加了5%。