囚禁在势阱中离子、原子和纳米谐振子在低温下的运动可以看作是量子简谐运动。将这些囚禁系统冷却至运动基态是对这些系统进行进一步的量子态制备和量子相干操控等量子信息处理的前提和基础。目前广泛研究和使用的冷却方法是多普勒冷却之后在使用边带冷却。近年来,受到自由空间原子冷却方案的启发,有人提出了利用量子相干性原理冷却囚禁量子系统的冷却方案,与边带冷却相比,有着明显的优势,并被实验所证实。本文在前人工作的基础上,分别研究了囚禁离子系统、光学谐振腔中囚禁原子系统以及纳米谐振子系统中的相干冷却方案。主要结果和创新点归纳如下:第一,在囚禁离子系统中提出了基于驻波耦合的单个囚禁离子的双暗态冷却方案。在我们的方案中,利用驻波耦合消除离子冷却中非共振的载波加热,并利用驻波耦合之间电磁诱导透明效应消除了蓝边带加热,从而消除了主要的非共振加热,系统将冷却至双暗态。与之前的冷却方案相比,我们的方案可以突破单光子反冲极限,且对激光的光强涨落不敏感。(主要结论发表在Phys.Rev.A 85,053420(2012))第二,在囚禁离子系统中提出了利用路径相干相消冷却单个囚禁离子的冷却方案。在此方案中,我们利用了电磁诱导透明效应消除了非共振的载波加热,并利用不同耦合的蓝边带之间的量子相干相消消除了蓝边带加热。系统也将被冷却至基态。此方案同样可以突破单光子反冲极限且对激光的光强涨落不敏感。同时我们发现此方案可以实现快速冷却,而且即使离子的三维囚禁频率不相同时,也可以同时消除三个囚禁方向的非共振加热。(主要结论发表在Phys.Rev.A 90,043409(2014))第三,提出了光学谐振腔中冷却单个囚禁原子的相干冷却方案。本方案的思想是基于原子和光学谐振腔之间的相干效应——腔诱导透明效应。我们利用了腔诱导透明有效抑制了冷却激光导致的原子载波加热,并利用电磁诱导透明效应消除蓝边带加热。理论和数值模拟表明,我们的方案可以将原子的声子数冷却至O(10-4)量级,优于之前的腔相干冷却方案。(主要结论发表在Phys.Rev.A 89,013402(2014))第四,我们将相干冷却的思想和研究方法推广到冷却纳米机械振子系统中。我们提出了与单原子耦合的单光子腔光力谐振系统的基态冷却方案。我们发现,基于腔中Λ型三能级原子与腔中光子的相干效应,可有效抑制腔的辐射压对机械振子的加热效应。与之前的冷却方案相比,我们的方案对参数要求更少,在实验上更容易实现。(主要结论发表在Optics Express 22,28118-28131(2014))