针对现实中普遍存在的开放量子系统,如何利用控制理论,在环境的影响下完成各种控制任务,在量子系统控制理论的建立中占有重要地位。本论文以开放量子系统作为研究对象,重点研究开放量子系统的模型以及在数学模型的基础上进行布居数转移控制、状态转移控制和相干性保持控制。具体内容包含以下几个方面:1.针对热浴能量守恒与否的两种情况,建立开放量子系统的Markovian主方程模型并分析模型建立过程及其所具有的特性。针对热浴能量守恒的情况,通过Born逼近得到Born主方程,进一步通过Markov逼近得到关于开放量子系统约化密度矩阵的Markovian主方程及其变形:Lindblad主方程、GKS表达形式、Bloch球表达形式、Kraus表达形式,并比较四种不同的Markov逼近。在Markov逼近不适用的情况下,给出post-Markovian主方程,能同时满足开放量子系统动力学对于系统状态的三个完美要求。针对热浴与量子系统存在能量交换的情况,给出热浴状态不恒定时的开放量子系统的运动学方程,并通过Markov逼近得到相应的Markovian主方程。2.针对开放量子系统的耗散动力学,提出一种无需迭代的最优控制方法,实现布居数转移和状态转移控制。利用Markov决策过程的思想,解决量子系统布居数转移最短路径的决策问题。针对伴随着松弛和耗散的Lindblad型开放量子系统,采用Liouville超算符变换的方法,将开放量子系统动力学微分方程的矩阵表达形式转化为向量表达形式,构造不同的性能指标,设计无需迭代过程的最优控制方法,分别实现布居数转移控制问题和一定条件下任意初态到任意目标态的状态转移控制问题。3.基于无消相干子空间(DFS),提出一种双控制场方案同时实现开放量子系统的状态转移和相干保持。设计外加激光场Ⅰ,将Λ型N能级开放量子系统期望目标状态构造成为DFS中的一个无消相干态,从而与环境解耦;利用Lyapunov控制方法,设计控制场Ⅱ,将开放量子系统的任意初态转移到此无消相干目标态,同时保持状态的相干性。将此方法拓展到了具有更一般结构的N能级开放量子系统,通过设计控制哈密顿量缩小系统的最大不变集,设计基于Lyapunov控制方法的状态转移控制律,将系统状态从激发态转移到DFS中的叠加态,并保持在该目标状态,从而保持开放量子系统状态的相干性。4.进行基于量子系统控制仿真实验的性能对比研究。在最优控制方法下,以同时最大化系统状态到达目标态的期望值和最小化控制场能量消耗为性能指标,推导封闭量子系统状态转移的最优控制律。在基于Lyapunov的控制方法下,选用虚拟力学量均值与控制场能量限制项之和为Lyapunov函数,推导出Lyapunov控制律。分析限制控制场能量的效果,以及Lyapunov控制律与最优控制律之间的关系。最后,分别以自旋二分之一粒子系统和五能级系统为例,对用两种控制策略推导出的控制律进行系统仿真实验,并分析不同控制方法下的控制效果以及参数的选择对系统性能的影响。