现代密码学主要包括两个部分,其一是对称加密算法;其二是公开密钥加密算法(亦称为非对称加密算法)。公开加密算法的诞生是密码学领域的一个里程碑。在公开密钥加密算法诞生之前,密码学家只能依赖于共享的密钥来实现安全秘密通信。与此相反,公钥密码学技术使得通信双方能够秘密地通信而不需要事先共享任何的秘密信息。公开密钥交换算法是公钥密码学中一个不可或缺的原始构件。公开密钥交换算法使得两个通信方在一个不安全的公开信道上协商得到一个共同的秘密值,称之为安全密钥。倘若攻击者拥有窃听公开信道的能力也不能得到密钥。这个协商得到的密钥随后可以被用来提供加密、认证、数据完整性以及其他的密码学需求。本文主要对新型公开密钥交换算法进行了系统地研究,主要包含了如下三个方面的工作。①传统的公开密钥交换算法主要基于数论算法。神经网络可以通过相互学习而实现同步,这一同步现象为设计公开密钥交换协议提供了一个新的途径。相关的研究领域也叫做神经密码学。两个结构相同的神经网络通过相互学习而最终达到全同步状态。全同步状态使得两个结构相同的神经网络拥有相同的权重值,这个相同的权重值便可以作为协商得到的密钥。在神经密钥交换算法提出多年以后,隐藏层数目为3的树形奇偶机网络是唯一一个可行的神经密钥交换网络。尽管耗费了大量的研究精力,科研人员依然没有设计出更加可行的安全高效且采用其他网络结构的神经密钥协议。为了克服神经密钥交换算法可行性网络单一的缺陷,本文提出了基于二层树形前馈神经网络(TTFNN)的模型并对其进行详细地研究。②许多现存的公开密钥交换协议属于类Diffie-Hellman(DH)协议。这些协议的安全性都是基于不同群上DH问题。现在已知利用量子计算机,存在Shor的多项式时间解决DH问题的算法。因此,当量子计算机出现以后,这些类DH的密钥交换算法便不再安全。所以,有必要研究非DH类型和抗量子攻击的密钥交换算法。为了实现这个目标,本文将研究的注意力转向基于格的密码学系统。其研究思路是类比于El Gamal,DSA以及DH之间的关系,可以期望存在一个和NTRU-ENCRYPT和NTRU-SIGN相关的基于NTRU格的密钥交换算法。但是,这个期望中存在的协议一直没有提出来。基于以上的思想,本文提出了这个被忽略的密钥交换协议并进行了详细地研究。③移动自组织网络在许多商业、军事领域已经得到广泛地使用。为了保证移动网络节点之间的私密通信,需要使用组密钥交换协议。一个组密钥交换协议使得一组参与者在一个不可信的公开的网络上协商得到一个共同的会话密钥。理论上,一个移动自组织网内节点的组密钥建立协议比两两之间的密钥建立协议更加高效。因为通信的节点不需要在每次通信时候调用两方的密钥交换算法。本文首先提出一个针对非平衡移动自组织网络的基于生成树的集中式组密钥交换协议。根据这个集中式策略,进而提出了一个适用于一般移动自组织网络的基于局部生成树的分布式组密钥交换协议。上述两个协议都属于HSK协议的范畴。研究表明,HSK协议能够高效地处理移动自组织网络中初始密钥分配问题以及组密钥分配中的动态事件。