以系统化的控制观点处理量子力学系统中的控制问题,是很多新兴高技术发展的关键,目前已成为国际上的研究热点。无穷维流形上的量子力学控制系统是普遍而重要的一类系统,但是目前还没有进行过研究。本文基于对称性的思想建立了包含这类系统的量子力学控制系统模型,并首次应用无穷维微分几何方法进行了能控性的研究。主要的研究成果如下: (1)应用现代物理学中对称性的思想建立了一类具有良好代数结构的量子力学控制系统模型。基于描述量子力学系统对称性的李代数结构,本文证明该李代数的泛包络代数提供了足够大的一类控制哈密顿量,因而可以在其上建立量子力学控制系统的模型。这种方法极大地简化了分析和演算,并为应用微分几何控制方法打下了必要的基础。 (2)对具有泛包络代数结构的量子力学控制系统,研究了泛包络代数的可扩张性和系统状态的定义域问题。首先,本文从一个新的视角证明泛包络代数作为无穷维李代数生成一个标准无穷维李群的子李群,从而保证了泛包络代数的可扩张性;其次,对由算子无界性造成的系统定义域构造这个关键问题,本文的研究指出对称性代数的光滑域构成系统的一个恰当定义域,并利用ILH-序列给出了光滑域的构造方法。这些结果使得在无穷维流形上进行控制系统的分析成为可能。 (3)提出了量子力学控制系统的光滑能控性的概念和判别定理,发展了解析能控性的理论。本文在光滑域上给出了光滑能控性的定义,提出并证明了推广的HTC定理。这些结果不仅扩大了解析能控性所适用的区域,更重要的是可以用于更一般的具有无穷维控制李代数的量子力学控制系统。特别的,应用光滑能控性能够很好的处理具有连续谱的复杂量子力学系统的控制问题。 (4)根据用有限维流形逼近无穷维流形的思想,提出了投影子系统和投影极限能控性的概念。基于泛包络代数的滤李代数结构,研究了投影子系统的代数结构,证明它们具有简单的分解形式,并给出了它们的表示的构造方法和投影极限能控性的判别定理。