随着计算机网络和无线移动通信技术的不断发展和创新,数字媒体数据(图像、声音、视频等)正越来越多地渗透到人们的生活中。因此,基于网络传输的多媒体视频应用越来越多样化,如相关的视频会议、视频点播、实时视频监控系统等。与网络传输的其他数据类似,未经加密的视频数据在开放网络传输中极易受到数据信息截获、数据篡改、非法拷贝和盗版等攻击。视频数据的安全性对多媒体的应用至关重要,而视频加密技术是保护其安全性最有效的工具。目前加密方案大多采用选择性加密的方法对重要和敏感的部分视频信息进行加密,以保证实时性和加密效率。选择性视频加密的概念在过去几年中被引入,不同于传统的完全保密视频加密,选择性视频加密并不要求加密后的视频信号对所有复杂、耗时的安全攻击都具有鲁棒性,主要目的是利用一种快速有效的算法,为视频信号提供一定程度的保护。因此,本文首先在H.264/AVC标准的基础上,提出加密可以在视频编码过程的转换阶段进行。为此首先在著名的离散余弦变换(DCT)的流图结构中设计了一些基于平面旋转的酉变换,并证明了这些新的变换在预测残差信号的编码中与DCT一样有效。根据素域乘法群性质生成的秘钥,从多个变换中选择一个,由此构造出新的加密系统,并验证了该算法的有效性。为了进一步降低视频观看质量,本文又针对CAVLC过程中语法元素及帧间预测过程中的运动矢量进行了修改,对视频视觉信息提供了充分的保护,同时保证了H.264视频格式兼容性。由于素域乘法群无浮点型运算,较大的提高了运行效率,能够满足互联网中视频传输的实时性需求。最后论文给出了PSNR和SSIM的加密后视频质量评估结果,并证明了该算法的有效性。设计了硬件以及软件平台对算法进行了安全性分析,实验结果表明提出的算法对密钥高度敏感。