视频会议系统是一种利用网络通信技术，使不同地域的人能够进行音视频信息实时交互的应用系统。其直接的效益是节省开会者的时间和各种会议开销、增进业务交流、缩短决策周期等等。近几年来，视频会议系统的发展出现了两大趋势：一是基于硬件实现向基于软件实现发展；二是基于单播向基于多播发展。基于IP网络的纯软件解决方案与传统的电视会议和硬件视频会议相比，有着明显的优势：低成本，功能扩展性好，使用更加方便灵活，可随时随地召开网络会议。 顺应视频会议发展的两大趋势，我们设计了基于多播的视频会议系统的软件体系结构，对体系结构中的各个模块进行了说明和分析。为了研究基于单播和基于多播视频会议系统的性能差别，我们使用OPNET10.0对基于不同用户数量和不同数据转发方式(单播和多播)的视频会议进行了仿真，文中我们研究了OPNET中视频会议和会议中多播的实现机制，介绍了建立拓扑和流量模型的详细过程，之后分析了仿真结果。 在多播方式中，一个单独的数据流被传送到一个主机组，不论组成员数量的多少，数据源只发送一次数据包。而单播方式中一个节点想发送相同的信息给多个目标，必须依次发送一个相同的拷贝给每一个接收方，当接收方较少的情况下网络能够承受，但相同的信息必须通过网络多次发送浪费了带宽，另外需要生成给每一个接收方的分开的完全一样的数据流，这会消耗发送方的CPU和内存资源。很显然多播方式比单播方式具有比较明显的优势，然而，多播方式中，所有组成员都可以接收发往该多播地址的消息；任何主机都可以向多播组发送消息。多播通信涉及的安全问题比单播通信复杂得多，除消息鉴别、机密性和访问控制外，还包括诸如组中心的信任、服务器信任、组成员动态性等。多播安全包含内容的比较广泛，其中，组密钥管理是核心问题。组密钥管理是处理密钥自产生到最终销毁的整个过程的有关问题，包括密钥的产生、存储、备份、分配、保护、更新、控制、吊销和销毁等内容。 在IETF组密钥管理体系结构文档RFC4046中，将组密钥管理结构化地分解为群组注册协议和组密钥更新协议两部分。在RFC3830中，给出了MIKEY(MultimediaInternetKEYing)，涉及群组通信中初期的密钥和其它安全参数的生成和分发，它属于群组注册协议的范畴。本文基于以上两篇文献的基本规范，设计了群组注册协议MIKEY-PKGRP协议和组密钥更新协议MIKEY-Rekey协议。对于MIKEY-PKGRP协议我们使用了BAN逻辑演绎的方法分析了其安全性，证明了MIKEY-PKGRP协议在BAN逻辑推理的框架内是安全的。之后，我们对MIKEY-PKGRP协议的三种密钥分发方式进行了基于时间Petri网的建模和分析，并对MIKEY-Rekey协议给出了性能分析。 本论文的工作是信息安全软件理论和多播安全方面的基础性工作，对应用层多播访问控制的研究、开发与用具有重要的基础作用和应用价值(本论文所做的工作是云南省自然科学基金资助项目(2002F0012M)、云南大学校级科研重点项目(2003Z010C)、云南大学”中青年骨干教师培养计划”经费资助项目的一个部分。