认知科学是一门探索大脑、心智工作机制的前沿性交叉学科,对认知活动的功能磁共振成像(fMRI)数据的研究能够揭示认知行为在大脑中对应的加工机制,解释和预测人的认知行为。然而在认知fMRI数据的分析中,研究者们通常只关注构建的分类器的分类效果,而忽视了特征选择结果的稳定性。但实际上,fMRI数据具有高维小样本特性,容易发生特征子集的不稳定现象,从而导致特征选择结果不具有可靠性。因此,在fMRI数据的特征学习过程中,特征选择的稳定性甚至比分类性能更重要。本文采用基于随机结构稀疏优化的特征选择算法来分析认知fMRI数据,在稳定性选择的基础上加入约束块子采样过程,并利用认知活动的fMRI数据中体素的局部相关性作为算法的先验结构信息,能够在控制假阳性的同时保持较低的假阴性水平。在此基础上,将随机结构稀疏方法应用到认知活动的两类特征选择问题中:(1)以分类准确率为目标的特征选择问题,即通过改进特征选择方法来提高分类表现。本文通过人脑对情绪识别机制的多体素模式分析实验来研究这类问题。实验利用多种特征选择方法来对面孔情绪数据进行特征选择和分类,结果表明,相对于其他方法,随机结构稀疏算法可以得到最高的分类准确率,而且能够更好地揭示与情绪识别相关的激活脑区。(2)以体素选择准确性为目标的特征选择问题,也就是说重点关注特征选择而非分类准确率。在此类问题中,只用真正差异区域的一小部分体素构建分类器,分类准确率就能够轻松达到很高甚至100%,这时关注分类准确率是没有意义的,而真正应该关注的是特征选择。本文通过人脑对中性面孔的加工机制的多体素模式分析实验和人脑对开心面孔加工机制的多体素模式分析实验来研究这类问题。实验利用多种特征选择方法来对面孔数据进行特征选择,结果显示,相对于其他方法,随机结构稀疏优化算法能够更加全面地检测到面孔加工相关的激活脑区,且检测脑区精准而紧凑,潜在假阳性少,脑区可解释性强。