随着网络技术的快速发展，多媒体应用越来越普遍，而视频是最直观生动的多媒体表现形式。开放网络上传输的视频内容很容易遭到非法侦听、重放、篡改等攻击，设计安全性优异的视频加密算法以保护视频内容变得十分重要。H.264是目前最流行、应用最广的视频编码标准之一，由于视频本身的一些特性，传统的基于数据加密标准的视频加密算法效率较低，而效率相对较高的基于视频特性的加密算法安全性又不够，因此，如何在高效视频加密与安全性之间折中设计是视频加密算法研究中的一个新的挑战。全文主要的研究工作包括：(1)提出了一种新的基于帧内预测宏块DCT系数分层的加密方案，DCT加密方法是一种选择性加密方案，在加密过程中将研究重点集中于DCT系数的变换上，对DCT系数做分层操作，变换之后的DCT系数将重要信息更加集中，便于采取更加方便的加密操作。(2)将视频内容的感知运动注意力引入到视频加密方法中。基于内容的视频分析技术已经成为多媒体分析领域的研究热点，模拟人类认知过程用于研究视频内容加密技术，视频加密根据视觉感知注意力模型划分宏块类，对不同的宏块类选用不同的加密手段。将视觉感知与视频加密有效结合，使加密数据的选择更加合理。(3)在编码过程中提取关键帧，并结合H.264熵编码原理，提出一种基于关键帧选择的熵编码加密算法。关键帧的应用大大减少了需要加密的视频数据量，为处理视频内容提供了一个精简的组织。关键帧包含了视频中最重要的视频信息，采用基于运动矢量的方法提取关键帧，加密这些重要的帧以达到加密整个视频的最终目的。本文提出的三种算法都可以归类为选择性加密算法，但是重要数据的选择依据不同。第一种方法是先将DCT系数中的重要数据集中然后加密，第二种方法则是以宏块为单位来选择重要数据，而第三种方法是以帧为单位来选择关键信息。实验结果表明，本文提出的算法不改变视频编码的兼容性，仅以牺牲少量的编码时间达到了较好的加密视觉效果，且加密过程中充分利用混沌序列对密钥的敏感性，大大提高了加密方案的密钥空间与安全性。