现实世界许多领域存在的问题都具有高度复杂性、多目标、多约束的要求，采用传统的搜索方法处理十分困难，求解效果不够理想，如何找到对问题本身具有更强求解能力的算法就成为一个迫切需要解决的问题。遗传算法(GeneticAlgorithms)作为进化算法中产生最早且影响最大的概率性搜索算法，它是通过模拟自然界生物进化过程的自然选择与遗传信息规律而形成的一种高效全局寻优方法，具有适用性强、鲁棒性好及并行计算等优势，已成功应用于求解传统搜索技术难以解决的复杂优化问题。但是标准遗传算法(StandardGeneticAlgorithms)不考虑空间结构环境和生物进化过程中种群局部个体间的相互作用，个体之间没有位置关系，且遗传算子具有随机性、无方向性，因此种群多样性容易过早丢失，导致算法陷入局部最优。元胞自动机是一种离散的数学模型，通过离散空间上大量元胞个体简单的相互作用而形成整体上的复杂行为，特别适合于计算机模拟实施复杂动态系统。元胞遗传算法(CellularGeneticAlgorithm）是一种将遗传算法和元胞自动机原理有机地结合的算法，明显改善了遗传算法的全局收敛性能，已成为解决复杂问题的一种有效方法。但是元胞遗传算法每次评价个体的适应度时计算量较大，在解决非常复杂的优化问题时存在优化速度一般比较慢的缺点。同时进一步提高元胞遗传算法的全局收敛率也还有很大的研究发展空间。本文围绕如何解决一般元胞遗传算法在提高全局收敛率的同时一定程度降低搜索效率的问题进行了研究，主要研究内容如下：1.提出了一种粒子群与多种群元胞遗传混合优化算法(AHybridParticleSwarmandMulti-PopulationCellularGeneticAlgorithm)。该算法首先将群体分割成多个元胞子种群，选择合适的迁移策略，子种群之间相互通信共享进化信息，适度降低算法的选择压力，从而更好地保持种群的多样性。算法的变异操作被粒子群算法替代，使得局部搜索能力明显提高。元胞群体分割和粒子群变异较好地均衡了全局探索和局部寻优之间的关系。最后分析了混合算法的选择压力和多样性变化规律，通过对六种典型函数的优化问题求解讨论了混合算法的性能，实验结果表明，该算法与CGA相比，在保证搜索效率高的同时还显著提高元胞遗传算法的全局收敛率，且稳定性得到明显的改善。2.着重分析和讨论了相关控制参数对混合元胞遗传算法性能及优化效率的影响。针对优化四种不同类型的目标函数，通过采用不同的分割数目实验比较，分析选择压力和多样性的变化规律，得出种群分割数目为10时更有利于求解问题，算法性能更优。3.受生态学中群体局部交互作用对生物进化影响的思想的启发，模拟自然界空间结构环境，提出了一种多层元胞遗传算法(MultilayerCellularGeneticAlgorithm)。该算法首先引入多维空间网格，将元胞遗传算法与多维网格结构的思想相结合，并对多维空间网格上的元胞定义两种新的邻居规则，用以明确这些元胞的邻居。通过改变元胞个体在空间的分布结构和个体间相互位置关系，使得个体间的相互作用强弱程度明显发生变化，从而影响算法的寻优性能。最后从算法的选择压力、群体多样性等方面进行分析，将其应用于求解典型复杂函数优化问题，并与SGA、CGA对比，分析了该算法在全局收敛率和解的质量等方面的良好性能，验证算法的有效性。