公钥密码技术是密码得以在网络环境下广泛应用的关键所在,量子计算机技术和量子密码分析技术的发展,对传统基于大整数分解、离散对数和椭圆曲线上的离散对数的公钥密码体制的安全性提出了挑战,引导公钥密码向量子时代发展。辫子群上有许多可供密码学使用的难解问题,但是目前辫子群上的公钥密码系统都受到不同程度的攻击。通过分析长度攻击、共轭搜索攻击、SSS和USS集合攻击和线性表示攻击的基本原理,利用遗传算法自组织、自适应、自学习以及并行性的特点,来求解辫子群上难解问题,在共轭搜索和求方根问题上,比现在的概率攻击方法的适用范围更广。由于辫子群中共轭以及p次方根问题都存在一定的安全隐患,在基本群的基础上构造一种新的群论计算平台,该平台是基本群的直积,通过研究该平台上一类特殊的群作用,提出了两类新的难解问题MSRP和SAP问题,并从一般群和辫子群两个角度分析其安全性。在辫子群上,这两类难解问题可以抵抗目前的各种攻击方法,特别是Burau线性表示攻击。辫子群上的两类DH类型的密钥协商协议BDH和AAG(AAFG)已经被证明是不安全的,通过引入组合问题、随机辫子、多变量方程组等安全手段对AAFG密钥协商协议进行改进,并分析新协议抵抗长度攻击、线性表示攻击、共轭搜索攻击和量子密码分析的能力和参数选择方法,在正确选择参数的情况下,该协议可以抵抗已知的各种攻击方法。基于MSRP和SAP问题的难解性,针对一般非交换群设计新的密钥协商协议和公钥加密算法,对算法的正确性、安全性进行证明,并对这两个问题在辫子群上进行合理实例化,给出了辫子群上两个问题的安全性条件。由于算法的安全性不基于共轭和p次方根等问题的难解性,辫子群上新的密钥协商协议和公钥加密算法在安全性方面优于目前已知的辫子群上的公钥密码算法。在两种Merkle树的基础上,利用签名的传递性,构造一种新的数字签名体制,并证明新的数字签名体制是可抵抗在选择明文条件下根据存在伪造攻击的。Merkle树数字签名的一个最严重的弱点就是初始化密钥的过程很慢,通过研究Merkle树的遍历算法,将Merkle树的初始化所需要的时间分散到各个签名之中,提高了初始化的效率,使得可以在很短的时间内生成足够供实际使用的大型Merkle树。量子比特和经典比特、量子逻辑门和经典逻辑门有着本质的区别,量子并行性是量子算法的基本特征。量子密码分析的基本手段是量子Fourier变换和Shor量子分解算法,利用QCAD设计的整数分解量子线路实现了利用Shor分解算法对小整数的分解,提供了在电路以一级实现量子算法的一般方法。可抵抗量子密码分析的公钥密码算法的一些共有特征:加密算法所凭借的难解问题是可以证明为NP-hard或者NP-complete的;加密算法通常选择多种代数结构以抵抗潜在的代数攻击;加密算法中蕴含使用算法难以解决的组合问题。总之,结合量子密码分析和传统密码分析的的基本方法,研究和提出了设计可抵抗量子密码分析的公钥密码系统的基本思路,在一般群、辫子群和Merkle树等研究方向上设计出了新的密钥协商协议、公钥加密算法和数字签名算法,在公钥密码的三个主要应用形态上,针对可抵抗量子密码分析这一目标作了一些有益的尝试。