团簇是由几个至上千个原子或分子组成的相对稳定的聚集体。团簇作为介于微观原子、分子和凝聚态物质问的中间桥梁，其性质随团簇的尺寸剧烈变化，因此人们可以以团簇为基元设计具有各种特性的新型材料。由于其在基础研究和技术上潜在的应用前景，团簇已经引起了广泛的关注，成为目前众多学科中的热门课题之一。对团簇的理论研究方法有三种：(1)从头计算法(或第一性原理方法)：(2)半经验方法：(3)经验势方法(或力场方法)。在团簇科学中一个最为重要和具有挑战性的问题是团簇基态结构的搜寻。对较小的团簇，最常用的搜寻方法是分子动力学模拟退火。而对较大的团簇，由于能量极小值的构型数量随团簇的增大成指数增长，使搜寻计算量也随随团簇的增大成指数增长，这成为著名的NP问题，所以利用分子动力学模拟退火几乎无法得到较大团簇的基态结构。近年来，遗传算法作为一种无偏的全局搜索方法被广泛地应用于对团簇基态结构的搜索，取得了巨大的成功。在本论文中，我们利用遗传算法对半导体团簇的结构和性质进行了研究，具体内容如下： 我们对已发展比较成熟的遗传算法进行了改进，大大提高了搜寻效率，使其能应用于更大的系统，而对较小的系统可得到更低能量的结构。 利用基于非正交紧束缚模型(NTB)的遗传算法研究了锗团簇(达40个原子)的最低能量结构并和以前的结果进行了比较。对大于15个原子的锗团簇得到了更低能量的结构，而对大于25个原子的锗团簇首次搜寻到了最低能量结构。对n=15、16、17分别是1-5-3-5-1、 1-5—4-5-1和1-5—5—5-1的层状堆积结构。Ge18团簇可看成是由两个Ge10团簇共有两个重叠原子构成。从19个原子开始锗团簇的结构转变为内松外紧的两层结构，其外层是扭曲的笼形，内层含有一至几个原子。外层的原子间形成三至四个键，部分外层原子与内层原子间形成另一个键。内层原子数随团簇的增大而增加。所有锗团簇的键长均小于锗晶体中的键长。我们利用非正交紧束缚模型计算了锗团簇的束缚能、离化能和HOMO—LOMO能隙，发现锗团簇的束缚能随团簇的增大而增大，而离化能和HOMO—LOMO能隙随团簇的增大而减小。我们利用GAUSSIAN03软件包在B3LYP/LANL2DZ水平对锗团簇的结构进行了进一步优化，优化后的结果与NTB的结果差别很小。由B3LYP/LANL2DZ得到的构型与NTB构型基本一致，他们间的主要差别是由B3LXP/LANL2DZ得到的键长大约长百分之三。利用基于非正交紧束缚模型的遗传算法首次系统地研究了中等大小的硅团簇(n=20-40和45)的最低能量结构。发现中等大小的硅团簇的最低能量结构是内松外紧的内外两层结构。其外层是扭曲的笼形，内层含有一至几个原子。外层的原子之间形成三个键，部分外层原子与内层原子间形成另一个键。内层原子的作用可看成是通过中和外层原子的悬挂键而使其稳定。内层原子数随团簇的增大而增加。从24开始硅团簇的形状变为长椭球形，而从29开始形状变为扁椭球形，从32开始变为近球形，这一结论与实验结果相符。我们利用非正交紧束缚模型计算了研究了硅团簇的电子态密度分布，发现对中等大小的所有硅团簇，电子态密度分布曲线均很相似，相邻团簇态密度分布的差别很小。这一特性可能导致中等大小的硅团簇的光吸收谱出现相似的峰值，这一结论也与实验结论相符。我们利用非正交紧束缚模型计算了硅团簇的束缚能、离化能和HOMO—LOMO能隙，发现硅团簇的束缚能随团簇的增大而增大，而离化能和HOMO—LOMO能隙随团簇的增大而减小。我们利用GAUSSIAN 03软件包在B3LYP/LANL2DZ水平对硅团簇的结构进行了进一步优化，发现除Si20和Si21外，由B3LYP/LANL2DZ优化后的构型与NTB的结果差别很小。 利用基于非正交紧束缚模型的遗传算法首次搜寻得到了Si60和Ge60的最低能量结构。对Si60团簇，其最低能量结构是内松外紧的内外两层结构。其外层是由50个原子构成的扭曲的笼形而内层由10个原子组成。Si60团簇的外形呈近球形。我们利用分子动力学模拟退火研究了Si60团簇笼形结构的稳定性，发现具有完美Ih对称性的Si60团簇笼形结构是不稳定的，具有Czh对称性的Si60团簇笼形结构也是不稳定的。经模拟退火后笼形结构驰豫为近长椭球形结构。利用分子动力学模拟退火也研究了Si60团簇网状结构的稳定性，发现网状结构在低温下是稳定的，但并不是最低能量结构。我们利用Kwon的正交紧束缚模型和从头计算的B3LYP/LANL2DZ计算了以上的几种结构的能量，它们均证实了由遗传算法得到的结构是最低能量结构。对Ge60团簇，其最低能量结构与Si60团簇不同，并不是两层结构而是紧密形结构，其外形也是近球形。和Si60团簇类似，Ge60团簇的笼形结构也是不稳定的，其网状结构在低温下是稳定的，但并不是最低能量结构。