在数字电视广播、视频实时通信、网络流媒体传递以及多媒体短信等商业服务中，采取有效多媒体加密措施维护多媒体服务提供商和用户的合法权益尤为重要，也是难点问题。经典的数字图像加密和密码学理论缺少有效的方法。论文以新一代国际视频编码标准H.264为平台对上述问题进行了深入的理论研究，并给出了一些有效的加密模型、算法，从而为实际应用系统的研制和开发提供理论指导和方法依据，研究成果包括： (1)基于DCT域的新型视频加密算法。在传统加密算法中，DCT系数模型由于具有固定分布而影响加密效果。为了解决这一问题，将同一加密单元中每个子块DCT系数进行块间分层，并依据系数能量分布特征重构DCT系数分层模型，然后可根据安全性要求按特定规律对模型中若干层系数进行修改，以控制加密强度。与传统算法进行比较，本算法在安全性、压缩比和信噪比方面更具优越性。 (2)与熵编码相结合的视频加密算法。以H.264为编码平台，分别给出CAVLC加密算法和CABAC加密算法。这类算法将加密过程与熵编码过程相结合，可同时实现加密和编码；熵编码进一步压缩数据的冗余信息，降低了加密操作的复杂度；与原始视频格式相兼容，支持加密视频回放、码率控制和多重压缩等操作。因此，算法适合用于实时性和数据可操作性要求高、安全性要求低的场合。 (3)视频加密模型的信息理论分析。针对视频编码的流程，给出三种加密模型：信源数据加密方法、码流域加密方法、与编码结合的加密方法。首先利用信息基本理论对各个模型进行了信息理论描述，然后对加密模型的可行性进行论证，并给出码长与安全性、密钥与安全性之间的相互关系。最后对加密模型在视频编码中的应用进行了扩展。 (4)结合视频编码、前馈-反馈混沌加密、控制字与授权密钥加密以及版权保护的安全视频服务系统。在视频编码中，先对敏感数据采用数字水印技术嵌入作品版权信息，然后使用前馈-反馈混沌加密器对其进行加密，再利用DES算法和RSA算法分别对控制字和授权密钥进行加密处理。系统能够实现数据传输保密性、作品版权保护以及混沌密钥快速重同步等功能。最后利用自主研制的H.264网络摄像机在IP网络以及自建的无线远程通信信道上实现安全视频的传输应用，验证了系统的有效性和实用性。