本文考虑变量中包含设计主变量和交互变量的分类模型.对于此类模型,使用常规工具分析高维数据是非常具有挑战性的,原因在于大多数高维数据的协变量之间具有很强的交互作用,但是大多数现有方法都是使用通用的可加性建模技术来分析.本文主要研究在二分类和多分类问题中估计协变量及其交互效应.本文涉及三方面工作(1)我们研究了具有交互作用的多项Logistic回归模型的分类问题.研究具有pliablelasso罚项的模型,该罚项可以估计协变量X的主要影响以及协变量与交互变量集合Z之间的交互效应.当相关主效应为零时,通过去除交互效应,分层惩罚有助于避免过拟合.我们将原始的对数似然模型转换为具有pliablelasso罚项的迭代加权最小二乘问题,然后采用块坐标下降法求解该问题,大量实验验证了算法的有效性.该方法使我们能够在交互变量对提高预测精度具有重要意义的情况下解决高维多分类问题.(2)我们用pliablelasso罚项代替了支持向量机(SVM)的l2范数,使得SVM模型可以考虑可能的交互作用.该部分所使用的损失函数是具有pliablelasso罚项的平方hinge损失问题,这使我们能够在优化目标函数时使用块坐标下降法.通过这种方法,我们提出了一种具有交互效应的支持向量机正则化算法.通过模拟和真实数据实验,证明了我们的支持向量机模型在处理高维交互问题方面非常有效.它还使我们能够使用支持向量机分析具有群组效应的二分类数据.(3)我们研究了具有交互效应的经验风险最小化的差分隐私问题.基于块坐标下降法,克服了不满足差分隐私的假设.与经典的梯度下降算法在单个模型向量上进行更新相比,我们的方法对单个坐标进行优化,在坐标上添加高斯噪声以确保差分隐私.这使我们能够采用lasso罚项,而无需进行严格的转换或计算.最后,我们将模型应用于二分类和多分类Logistic回归.数值研究表明,我们的方法既有效又高效,并且可以用于涉及交互变量的敏感数据分析.