量子信息学是量子物理与信息技术相结合而产生的新兴学科,在提高计算速度、保证通信安全、增大信息容量等方面有着经典信息理论所无法比拟的巨大优势,能够为未来信息科学发展提供新的原理和方法。量子密码被公认为是当前量子信息领域中最具实用价值的研究方向,其特点是可以利用量子力学基本原理保证秘密信息的无条件安全传输,而无需依赖数学难题。这种得天独厚的优势引起各国政府、军事部门、研究机构和企业厂商的重视,使得量子密码在近三十年以来得以快速发展,其理论逐渐完善,实验设备日趋成熟,目前已处于向实用化、工程化迈进阶段。但是,在此过程中,量子密码还面临诸多安全挑战,其自身的安全性也成为了加速这一进程的阻碍之一。因此,论文将增强量子密码的安全性作为出发点,通过脆弱性分析的方法,从协议、系统及网络几个层面研究了量子密码的安全问题,主要完成了以下几个方面的工作:第一,在量子密钥分配协议安全性研究方面,本文首先分析了反事实量子密钥分配协议的脆弱性,指出了该协议存在的安全缺陷,并提出了一种反事实木马攻击方法。理论分析表明,在协议生成的密钥长度有限的情况下,通过实施该攻击,攻击者Eve可以在不接入量子信道的条件下以一个很大的概率获得全部秘密信息。由于传统的防御方法无法制止该攻击,本文提出了一种有效的防御手段,增强了协议的安全性。其次,本文分析了半量子密钥分配协议对通信参与者的能力需求,通过提出一种针对受限半量子密钥分配协议的附加粒子攻击方法,指出了该协议的脆弱性,说明了一个不具备测量能力的接收者将无法保证量子密钥分配的安全性。第二,在量子秘密比对协议安全性研究方面,本文首先分析一个单光子量子秘密比对协议中的脆弱性,提出了一种基于密集编码的攻击方法,攻击者Eve可以利用一种类似密集编码的方法在不被合法通信方Alice、Bob和Charlie察觉的情况下获取Alice和Bob用于比对的秘密信息。针对该攻击,文中提出了两种改进方法,增强了该协议的安全性。其次,针对现有量子秘密比对协议存在的安全性差,效率低、可实现性不强等问题,提出了一种基于差分相移的量子秘密比对协议。该协议的安全性基于差分相移机制,协议效率为100%,而且只需要使用最常见的量子器件就能实现。较其它同类协议,该协议无论在安全性方面还是易实现性方面都具有明显的优势。第三,在实际量子密码系统安全性研究方面,本文重点研究了实际差分相移量子密钥分配系统的安全性,分别就该系统的数据后处理和协议同步控制中存在的脆弱性,提出了一种双探测器响应攻击方法和一种截取重发-时移攻击方法。双探测器响应攻击表明,实际的差分相移量子密钥分配系统也存在遭受双探测器响应攻击的隐患,在进行探测数据后处理的过程中,如果不对双探测器响应现象进行正确的处理,Eve将有机会获取全部的秘密信息。截取重发-时移攻击说明了在差分相位量子密钥分配系统中,如果以传统的门控方案为核心构建探测系统,那么攻击者可以利用该探测系统的控制方式本身存在的安全隐患获取全部密钥,该方法在探测器效率严格匹配的情况下也可以实施。第四,在量子密钥分配网络安全性研究方面,本文重点研究了可信中继量子密钥分配网络的安全性。分析了该网络面临的安全威胁,指出了其采用的多路径传输机制可能存在的脆弱性,提出在边负载分配不合理的条件下,该网络可能会遭受重定向攻击而引发级联效应,使网络安全性受到严重威胁。论文建立了可信中继量子密钥分配网络的级联崩溃模型,并通过理论分析,给出了一种避免级联崩溃现象产生的负载分配方法。