本文基于Lending Club个人信用贷款数据,利用集成学习算法对信贷违约行为进行预测。模拟实际工业风控建模环境,有针对性的应对信贷环节的需求而精准建模。首先,在特征选择方面提出了一套相对完整的特征筛选流程,对工业建模有较强的实践指导意义。即在特征选择的第一步要充分理解业务背景和模型要达成的功效。特征的去留或者衍生,不仅要考虑模型的区分能力,更要从业务实际背景出发,深入了解特征背后的业务意义和风控策略的着眼点,反复琢磨每个特征的客户属性所携带的风控信息。第二步,从算法层面较为全面的介绍了过滤法、嵌入法、包裹法在特征筛选的运用和以及各自的优缺点。同时还介绍了针对不同模型和训练任务的其他特征筛选技术,比如回归任务中的前向选择后向剔除、逐步回归等方法。除此之外,通过上述两个步骤筛选出来的特征,根据实际情况进行轻微的调整。可以把共线性较高的特征剔除,同时加入对业务解释有意义的指标。这样筛选出来的特征往往比算法跑出来的特征更有效,也更有逻辑性。其次,针对不同的客群建立不同的风控模型,做到模型的精细化和差异化,可以更为精准的识别到某个客群的潜在风险,提高模型的实际预测效果。本文使用卡方检验方法,发现收入核实的三种状态与客户是否违约的状态存在相关关系。因此分别对这三种状态进行客群分类,并建立不同的风控模型。实证案例发现,在12次模型测试中,有7次模型优于没有划分客群的效果。最后,借助集成学习算法的优势,使用XGBoost、Adaboost和传统逻辑回归算法,对比不同模型效果,试图找出综合表现更好的模型。从本文的实证分析数据来看,XGBoost的预测效果最好,但有过拟合的风险;Stacking和逻辑回归表现相似,Stacking模型融合的优势在本次实证案例中没有体现出来。