近年来,由于计算机算力的快速发展,深度学习（Deep Learning,DL）算法已经成功地应用于各式各样的场景中。其中,卷积神经网络（Convolutional Neural Network,CNN）的提出使得图像领域的许多复杂问题得到了解决,例如图像分类、图像分割等问题。然而,对于一个分类任务而言,一个模型在某个数据集上表现出色并不代表其在其他数据集上表现同样出色。随着数据量的急剧增长,神经网络的自动化搜索技术是十分必要的。本文针对分类问题,主要研究了基于神经进化增强拓扑（NeuroEvolution Augmenting Topology,NEAT）的卷积神经网络进化算法,并实现了基于神经架构搜索（Neural Architecture Search,NAS）数据集NASBench-101的主流搜索策略算法。首先,本文详细介绍了神经网络的基本原理,包括卷积神经网络（Convolutional Neural Network,CNN）和循环神经网络（Recurrent Neural Network,RNN）,它们的结构决定了本文后续展开的NAS算法研究的搜索空间。随后,本文介绍了强化学习（Reinforcement Learning,RL）中基于价值的Q-learning和DQN算法,以及进化算法中的遗传算法原理,这些算法及其改进版本是目前NAS研究领域较为常用的搜索策略。这一部分的内容为后续的进一步研究奠定了基础。本文在神经进化NEAT算法的框架下,提出了一种面向分类的任务的C-NEAT算法。本文首先介绍了神经进化和NEAT算法的基本原理,详细阐述了 NEAT算法对神经网络的基因编码方式,以及交叉变异算子的原理。基于此,C-NEAT算法将网络个体的最小编码尺度由神经元扩展到了一个特定运算层,因此本文扩展了 NEAT的节点基因编码方式,定义了 NEAT进化图到CNN的特定映射关系。最后本文将C-NEAT进化算法应用于入侵检测数据集KDD99和图片数据集CIFAR10上,仿真结果表明了 C-NEAT算法的有效性。为了研究评估各种NAS算法的有效性,本文研究了一种新颖的NAS数据集NASB ench-101,并将蒙特卡洛搜索（Monte Carlo Tree Search,MCTS）搜索算法应用于NASBench-101数据集中。首先,本文详细介绍了 NASBench-101的网络架构定义、细胞结构编码和性能评估指标等。在算力受限的情况下,NASBench-101的出现极大降低了 NAS研究者的算力门槛。基于此,本文将目前主流NAS算法,包括随机搜索算法、正规化进化算法、基于强化学习的NAS算法以及NEAT算法,应用于NASBench-101上完成了性能对比。最后,本文重新定义了强化学习中对于NAS的状态空间和动作空间,并使用MCTS算法来解决所定义的搜索问题,最终的仿真结果证明了本文提出的MCTS算法的有效性。