岩土工程可靠度分析是当前岩土工程中重要的研究问题之一,其分析结果能够更加合理地考虑岩土工程中存在的诸如岩土体参数不确定性对岩土工程稳定性的影响。由于岩土工程的复杂性,在进行岩土工程可靠度分析时,确定性分析模型通常采用有限元数值模型,其计算耗时相对较大,这对可靠度分析的计算方法提出了更高的要求。随着计算机和人工智能的发展,诞生了一系列用于岩土工程可靠度分析的人工智能算法,解决了传统分析方法计算效率低下的问题。人工智能算法只需要获取相关数据进行学习,不需要进行复杂的物理力学过程就能对相关工程进行分析评价,随着数据的增多,模型可以不断迭代,拥有着比传统分析方式更加准确、更加高效的优点。随机森林是属于集成学习的一种人工智能算法,它相较于决策树这种非集成算法具有更低的方差,更高的模型稳定性,在更高的性能表现下且不易过拟合。而且随机森林算法可以观察特征重要性,可以直观变现出各参数重要性贡献率,在参数众多的情况下可以利用其进行筛选特征,其次在岩土工程中可以着重研究参数重要性占比较大的参数的变异性对于整体工程稳定性的影响。论文主要有两个方面的工作:一方面针对随机森林算法构建过程进行改造,提出利用人工水母寻优这种元启发式的算法来在参数空间内寻找随机森林超参数最优值的方法;另一方面针对随机森林的输出结果进行改进,利用先验的手段先用随机森林默认参数计算出各决策树的AUC值,然后再在随机森林进行结果输出时分别将AUC值分配给每棵决策树,并以0.5为阈值来削弱分类能力弱的决策树的能力。用本文所提出的改进随机森林算法对两个工程案例的稳定性分析,研究结果发现:由于失效概率较低,在利用本文算法进行隧道拱顶稳定性分析时引入了召回率这一指标来评价模型对于失效样本识别的能力。同时,在进行特征重要性分析后,发现强花岗岩的弹性模量对于模型的影响较大（占0.76）,因此进行了该参数变异系数的变化对于隧道拱顶失效概率影响的研究,并给出了可靠的建议。在边坡案例中,当波动范围较小时,本文所提的算法相与SVM算法以及传统网格搜索下的随机森林算法准确率相近,在AUC值方面仅略微弱于网格搜索的结果;但随着波动范围的增加,本文算法中学习样本中失效样本个数增加,预测能力提升较其余算法提升较大,而当波动范围增加到100时,本文算法在准确率和AUC上均为所有算法中最佳。除了在模型精度上的优秀表现,本文算法的计算效率更是遥遥领先,在不同波动范围下的计算时间均仅需8秒左右。最后利用本文算法与文献[90]的结果进行对比,证明了本文算法的可行性。