在众多过渡金属元素的团簇中，磁性过渡金属(Mn、Co、Fe)团簇以其奇异的电子结构和磁特性吸引着众多研究者的目光。磁性过渡金属团簇的研究中，团簇的结构和性质的尺寸依赖性以及量子尺寸效应在团簇性质随原子数演化中的作用是令人感兴趣的课题。 众所周知，团簇的电子结构与其几何构型有着密切的关系，在团簇的理论研究中，确定团簇的基态几何结构是一个基本的问题。过渡金属团簇未充满的3d电子局域化行为促成了它们几何结构的复杂性：存在着随团簇尺寸的增加而指数增长的近简并低能态同分异构体。 密度泛函理论既考虑了电子相关性，同时又将体系的电子密度作为唯一变量，使得较大体系团簇的计算正在从理论变为现实。 迄今为止，无论实验还是理论，对于磁性过渡金属小团簇的电子结构及其生长模式的研究尚局限于小团簇。 本文依托DMol量化软件包，利用全电子密度泛函理论采用DNP基组和BLYP交换关联函数对磁过渡金属Fe<,N>、CO<,N>和Mn<,N>(N=2-13)单质团簇进行了全电子、自旋非限制的计算。对其可能的低能态同分异构体进行了广泛搜索和结构优化，并对团簇的电子结构和磁特性进行了系统的研究。在我们的计算中，Jahn-Teller效应对于确定基态结构具有重要的意义。计算结果表明： (1)很小的CO<,N>(2≤Ⅳ≤4)团簇的稳定几何构型倾向于平面结构，其较大团簇的生长首选二十面体序列。对于Fe<,3>和Fe<,4>团簇找到了新的对称结构，其稳定的几何构型所属点群分别为C<,2v>和C<,s>。MnN、Fe<,N>和CON(N=2-13)团簇中N=6，10团簇具有非常稳定的结构，即幻数团簇。 (2)过渡金属小团簇的磁矩远远大于相应的块体值，Co<,13>团簇的磁矩接近于块体值。Fe<,N>(N=2-13)团簇的平均每原子磁矩随原子数目的增加表现出振荡行为，振荡围绕着3.0μ<,B>/atom进行。对于Mn<,N>(N=2-13)团簇，找到的磁序从FM到AFM的转变区域为N=4，5，6，陔区域内团簇的Mn-Mn问耦合既有FM磁序又有AFM磁序，是两种磁序并存的简并状态。对于最小数目(N=2，3)的团簇Mn-Mn间耦合的磁序是FM，而对于Ⅳ≥7的团簇，Mn-Mn间耦合的呈现明显的AFM磁序。为了研究过渡金属一碳混合团簇的生长机理，在单质磁性过渡金属团簇的几何结构和电子结构和磁特性基础上，本文对过渡金属碳Fe<,N>C<,M>和Co<,N>C<,M>(N=1，2，M=1-8)混合团簇的稳态结构、电子结构和磁矩进行了系列的研究，重点探讨了磁性过渡金属原子的加入对小C<,N>(N≤9)团簇几何结构的影响。 计算结果表明： (1)除FeC<,2>外FeC<,N>(N=1-8)团簇的最稳态均为铁原子居于一端的线型链结构，Fe<,2>C<,N>(N=1-6)团簇的最稳态存在线型链和平面环状两种结构的竞争，并存在明显的奇偶交替性。对C<,N>(N=1-8)团簇加一个铁原了并未改变C<,N>=1-8)团簇的线型链状结构，而再加第二个铁原子到FeC<,N>(N=1-6)团簇，明显影响到了FeC<,N>(N=1-6)团簇的结构：从线型链状结构到了明显的奇偶交替的线型链和平面环状的竞争。 (2)除CoC<,2>和CoC<,7>外COC<,N>(N=1-8)和Co<,2>C<,N>(N=1-6)团簇的最稳态均为线型链结构，前一系列团簇的基态是钴原子居于一端的C<,v>对称结构，后一系列团簇的基态是两钴原子分居两端的D<,h>对称结构。结果表明，对小C<,N>(N=1-8)团簇加一个钴原子和继续增加第二个钴原子均未改变小C<,N>团簇的线型链状排列结构。 (3)除FeC<,2>和CoC<,2>外其他所有的团簇中都没有发现具有明显Met-cars特性的碳二聚体。