回归学习是机器学习领域的重要研究方向之一,在企业运营决策、金融风险控制等方面都具有广泛应用。传统的回归学习基于预测代价相等的假设来最小化预测误差。然而在现实场景中,过多预测和过少预测所带来的代价普遍是非对称的,如需求预测、购买率预测等。这就需要以最小化错误预测代价为目标的代价敏感回归学习。在代价敏感回归学习任务中,往往面临着数据量较少的问题。然而直接使用小样本数据进行模型训练会带来两个挑战性问题:1、小样本量不足以过滤次要信息;2、较少样本量导致训练模型不能充分表示真实的数据结构从而具有高方差。最终这些问题降低了模型的预测性能。已有研究,针对小样本下非代价敏感学习问题提出了诸多解决方案,包括增加样本量、特征选择以及学习方法设计等。这些方案应用在代价敏感回归学习中存在缺陷,对回归预测的帮助有限。为了提升小样本的代价敏感回归学习的预测效果,考虑集成学习以及特征选择,本文提出两种新的思路,使用“模型修正”代价敏感回归学习框架,采用BP神经网络模型进行回归预测,模型非对称代价损失函数使用LLC和QQC。本文研究工作主要包括以下两个方面:（1）本文提出基于簇内信息的Bagging集成算法（ICPFB算法）。该算法使用Bagging集成算法,通过组合多个弱学习器来降低模型预测方差,同时借助簇内信息对特征进行有交叠且有放回的特征采样。实验结果表明,该方法降低了模型日均预测成本和模型方差,提升模型预测性能。以传统Bagging集成算法模型预测结果为基准,模型损失函数使用LLC和QQC,ICPFB测试集的日均成本均值分别降低了6.3%和3.7%。（2）本文提出基于簇内信息的特征选择算法（ICPFFS算法）。该算法借助簇内信息对特征进行二次筛选,在筛选出重要特征的同时减少模型训练所需要的数据量,达到提升模型预测性能的目的。实验结果表明,在ICPFB算法基础上,该方法进一步提升了模型学习的性能,模型预测日均成本和方差均下降。以传统的特征筛选算法和单个神经网络预测的结果为基准,模型损失函数使用LLC和QQC,ICPFFS的预测成本分别降低了33.5%和32.4%;与ICPFB相比分别下降7.9%、10.5%。此外,该算法在随机森林、XGboost和神经网络这3种模型下,提升效果都是鲁棒的。