科技的高速发展使人类社会大步迈入了网络时代,很多现实世界的复杂系统都可以表示为网络,如协作网,万维网,电力网,生物网和社会网络等。网络可以模型化为图,其中节点表示对象,边表示节点之间的连接。近年来,复杂网络逐渐受到了来自各个领域研究者们越来越多的关注,例如物理学,数学,生物学,社会学等。除了小世界效应,无标度等网络属性外,社区结构是复杂网络中另外一个重要的网络属性。社区可以定性的定义为网络中节点的子集,其内部节点之间的链接比较紧密,而和网络中其它节点的链接相对稀疏。研究复杂网络社区结构对于分析网络的拓扑结构、理解网络的功能、发现网络中的隐藏规律以及预测网络的行为不仅具有十分重要的理论意义,而且具有广泛的应用前景。近年来,越来越多的社区检测算法被提了出来,这些算法大致可以分为三类：基于图分割的方法,基于层次聚类的方法和基于模块度(modularity)优化的方法,其中基于模块度优化的方法近年来得到了越来越多的关注。模块度函数是Newman和Girvan提出的用来评价网络社区划分质量的指标函数。一般来说,模块度值越大,对应的社区结构越明显。密母算法(Memetic algorithm)是近年来进化计算领域的一个研究热点,它是一种基于种群的全局搜索和基于个体的局部启发式搜索的结合体,这种结合机制使其搜索效率在某些问题领域比传统遗传算法快几个数量级。本文所做的主要工作,就是利用进化算法这些优点,将其应用于复杂网络社区检测问题。本文所做的主要工作如下：(1)研究了多目标优化和进化算法的基本理论,提出了一种基于分解多目标优化进化算法(MOEA/D)的复杂网络社区检测方法。在该方法中,我们把社区检测问题模型化为了一个两个目标的多目标优化问题,并利用多目标进化算法MOEA/D来优化这两个目标。(2)研究了社区检测算法中传统模块度优化具有的分辨率限制问题,为了解决这个问题,我们使用了一个新的目标函数：扩展模块度密度(general modularity density),该目标函数是ratio association与ratio cut的凸组合,可以克服分辨率限制问题,也就是说通过调节里面的参数,我们可以从不同分辨率分析网络,进而发现网络社区的层次结构。研究了密母算法(memetic algorithm)的基本理论,在此基础上提出了一种复杂网络社区检测密母算法。该密母算法引入了局部搜索策略,克服了传统遗传算法收敛速度慢,容易陷入局部最优的缺点。同时,该算法将扩展模块度密度作为目标函数,可以从不同分辨率分析网络,克服了传统模块度优化算法的分辨率限制问题。本论文得到国家863项目(批准号：2009AA12Z210)、教育部新世纪优秀人才支持计划(批准号：NCET-08-0811)、陕西省青年科技新星计划(批准号2010KJXX-03)和中央高校基本科研业务费重点项目(批准号：K50510020001)资助。