近几年来,以深度神经网络为代表的深度学习算法取得了极大的成功。然而,深度学习仍存在训练样本大、计算资源要求高以及超参数调优难等问题。为此,研究人员开始探索以深度森林为代表的深度集成学习算法。然而,现有的深度森林训练算法是单机串行的,训练效率低且训练时间开销大。另一方面,现有的深度集成学习算法模型需要依赖人工构建,建模过程技术门槛较高,且费时费力。为此,需要研究自动化深度集成学习建模与结构搜索问题。然而,深度集成学习结构搜索空间庞大、模型结构复杂,这使得深度集成学习模型的自动化搜索尤为困难。针对上述问题,本文研究了基于任务并行的分布式深度森林训练算法和系统,以及基于进化算法的分布式深度集成学习结构搜索方法与通用化搜索系统。本文的主要研究工作和贡献点包括:（1）研究提出了基于任务并行的细粒度分布式深度森林训练算法,通过高效的子森林均匀拆分-合并策略以及系统层优化,实现了高效的并行化训练方法以及分布式深度森林系统。实验结果表明,该系统相比于现有深度森林训练系统gcForest可以实现平均一个数量级的加速。（2）研究实现了基于进化算法的深度集成学习结构搜索方法与通用化搜索系统。在定义和优化深度集成学习结构搜索空间的基础上,研究实现了深度集成学习结构搜索方法与通用化搜索算法框架,并实现了高效的分布式深度集成学习结构搜索系统。实验结果表明,实现方法可获得比深度森林更优的深度集成结构,并取得显著的学习预测性能提升。（3）研究探索了计算时间受限场景下深度集成学习二层复合模型。在定义和优化复合模型搜索空间的基础上,研究提出两阶段复合模型搜索方法,其中包含模型快速筛选阶段与模型选择阶段。实验结果表明,二层复合模型自动化搜索的学习预测性能总体优于Auto-sklearn,并已在某知名大型IT公司中部署使用。