由于团簇特殊的物理和化学性质，近年来逐渐引起了极大的研究兴趣。但是由于实验技术上的限制，团簇结构的准确测定一直是困扰科学家的一个难题。通过计算机模拟的方法得到理论上可能的稳定结构，然后再结合实验数据，便可间接地推导出实验上无法直接测定的各种团簇的几何构型。因此，发展高效的优化算法进行团簇的结构预测具有非常重要的科学意义。本论文采用本实验室提出的自适应免疫优化算法(AIOA)和动态格点搜索算法(DLS)，对Cn-xSix(n=9，10，11，x=0-n)以及Ag60-Ag120团簇体系进行了系统研究。同时，还利用AIOA研究了温度为OK时单壁碳纳米管的储氢能力。本论文的主要内容包括： 1.对团簇的基本概念、结构特点及其特殊性质进行了总结，概述了全局优化算法在原子簇、分子簇结构优化中的应用和研究前景，并对AIOA算法和DLS算法的基本原理、计算过程和应用进行了详细总结。 2.采用AIOA算法对Cn-xSix(n=9，10，11，x=0-n)的混合团簇体系进行了全局优化，并结合量化计算对所得结果进行了进一步分析。结果表明，对于全碳团簇，其稳定结构均为单环构型。而当团簇中的碳原子被硅原子取代后，剩余的碳原子倾向生成与富勒烯结构中相同的五元环或六元环。研究结果对理解大尺寸富勒烯进行取代掺杂时富勒烯结构的变化规律有重要的参考价值。 3.采用DLS算法研究了团簇Ag60-Ag120的稳定结构。发现了Ag68、Ag79和Ag80的新结构。与文献报导的结果相比，这些新发现的结构具有更低的能量和更高的对称性。同时研究结果表明：处于幻数团簇Ag75和Ag101附近的团簇结构有明显的十面体特征，而这两个幻数之间的团簇则多是非十面体的密堆积结构。该研究对于探索大尺寸银团簇的稳定结构以及团簇生长过程中结构的变化规律均有重要的意义。 4.采用自适应免疫优化算法模拟了单壁碳纳米管的氢吸附行为。结果表明AIOA得到的结果与传统的巨系综蒙特卡洛(GCMC)方法得到的结果基本接近，从而证实了优化算法研究碳纳米管储氢的可行性。