随着我国高速铁路的快速发展,中国铁道部在依照欧洲列控系统的基础上,设计了保障列车安全运行的控制系统CTCS-3,CTCS-3已经运用于我国铁路运营中。列控系统中车载子系统和地面设备是通过GSM-R无线来进行数据的交互,目前,GSM-R已经成功得在多条线路上实施,由于该无线系统是开放的,所以要面临开放式系统的威胁。我国根据EN50159中的防御措施,制定了RSSP-2安全通信协议。RSSP-2安全通信协议用于保证铁路设备安全通信,由于协议制定后是以书面形式存在,会给后续协议的开发人员理解造成误区,很有必要引入形式化建模工具对协议建模,用协议的模型来代替文档形式。本文综合分析了RSSP-2安全通信协议的结构和功能,以RSSP-2安全通信协议为研究主题,论文的主要工作如下:1、本文对RSSP-2安全通信协议的结构和功能展开分析,介绍了协议中的算法和安全传输原语。2、引入了建模工具UPPAAL和时间自动机理论,提出协议MASL层对等实体验证、安全数据传输、安全连接断开和数据传输遇到故障时的建模方法,然后再对模型进行验证,验证了模型的安全性、时序性、逻辑无错性、可达性。3、基于QT开发环境构建出安全通信协议RSSP-2的仿真平台,设计了安全通信协议的实现方法。平台一共包括安全功能模块、应用功能模块、密钥管理模块、系统参数模块和故障注入模块。故障注入模块可以对平台的安全功能模块进行故障注入,并用wireshark抓包软件进行抓包分析,该平台提供了进一步分析协议的环境。4、基于FPGA设计了RSSP-2核心算法的实现,经仿真验证该系统能够实现加密功能,具有广泛的应用前景。通过本文的研究工作,成功提出协议的常用模型,该模型被验证通过后则说明可以准确的表示协议的安全原语通信,解决了书面形式表示的缺陷。并且搭建了安全通信协议的仿真平台,提供了协议的一种实现方法,验证无误后可以用于后续协议的研究。设计了基于FPGA的核心算法实现,经仿真验证该系统能够实现加密功能。