视频通信正成为当下应用的热点。H.264以其高压缩比、高图像质量、高容错性和网络适应性，广泛的应用于视频压缩编码。由于网络的开放性和人为的攻击，视频传输并没有得到安全保障。我们对视频进行加密方面的研究保证信息的安全性。H.264新加进的技术的算法复杂度以及加密算法的使用，视频实时传输的需求特性得不到保障，我们必须对原有的算法进行性能优化。本文分析了H.264编码结构，帧内预测和帧间预测是整个编码流程中算法最复杂的过程。因此对亮度快帧内预测两种模式I44和I1616进行预先判决，再对I44的9种模式进行分类并缩减了模式选择范围，减少了模式选择计算的次数。同时对帧间预测模式也进行了模式范围的缩减。通过测试结果知道，在保证了视频质量的基础上，提高了编码器的编码速度。针对视频信息的安全性，在分析H.264编码性能与结构的基础上，选择利用对称加密算法AES对视频编码中帧内编码宏块(I帧、P/B帧中I模块)的DC差分系数进行加密运算。实验结果显示采用此加密方法不仅加密数据量少，降低算法复杂度，保证了实时性，而且也保证的视频的安全性。论文最后将算法移植到OMAP4430嵌入式系统上进行测试，实验结果显示实时性和安全性能等都达到要求。