量子密码学是基于量子力学中的海森堡测不准原理和量子不可克隆原理发展起来的一种新型保密通信技术，在理论上已被证明是绝对安全、不可破译的。由于其绝对安全性，在军事、外交、通信、电子商务等领域具有广泛的应用前景。　　 近年来的研究表明：光束除了具有自旋角动量（spin angular momentum, SAM），还具有由螺旋型相位结构产生的轨道角动量（orbital angular momentum, OAM），且与极化量子态（自旋角动量）不同，OAM态可同时包含任意多种状态。　　 本文在BB84量子密钥分配协议（quantum key distribution, QKD）基础上，将OAM应用到QKD过程中，获得一个多维空间QKD方案，并对其进行数值仿真。仿真结果表明，基于OAM的QKD协议极大地提高了密钥生成效率，并且不需要调整参考系，适合自由空间通信；随后，本文将互无偏基概念与OAM纠缠概念相结合，获得两种适合自由空间通信的QKD协议，分别是基于纠缠特性的随机相位QKD协议和基于OAM态纠缠的QKD协议，给出其具体实验实现过程，通过数值仿真和实验验证了协议的可行性；由于OAM是空间波函数，当OAM作为量子信息载体，在自由空间传输时不可避免受到大气湍流的影响，因此，论文最后研究了大气湍流随机信道的统计特性，获得大气湍流的数学模型，以Labview为数值计算工具，分析大气湍流对OAM状态的影响，获得所提出协议的量子误码率性能。论文对自由空间地面点对点大气光链路中QKD实验，以及卫星-地面量子通信的研究具有一定的参考作用。