论文部分内容阅读
在如今大数据背景下，导致实际问题的解往往是稀疏的，因此根据实际需求以及研究的深入，研究稀疏优化问题是十分有必要的。稀疏优化的应用十分广泛，压缩感知，人工智能，网络定位，分子生物医学领域等等都有很大的研究和发展。 近些年，带有正则项的稀疏优化模型得到及其深入的研究，本文在已有的研究基础上，继续研究了一种组合模型，即带有正则项L1/2+2的稀疏优化模型，其中我们选取了两种最为经典的具体优化模型作为本文的主要研究对象，分别是稀疏线性回归模型和稀疏逻辑回归模型。对于线性回归的稀疏优化模型可以刻画描述出一般的压缩感知问题，对于稀疏逻辑回归模型，随着分子科学技术的研究和发展，可以应用于解决癌症的分类与基因的特征选择问题，其中L1正则项能实现其特征选择的作用，在理论上，严格的凸函数为分组的效果及作用提供了充分的条件，而L2正则项恰恰保证了这种严格凸的特性。正是由于这两种正则项所具有的优势，为模型的改进提供了保障以及支持。 通过对带有正则项L1/2+2的稀疏优化模型的理论分析，本文给出了该模型具有的一些基础数学性质以及证明了其具有相合性和Oracle性质等优良的统计学方面的性质，这表明了该模型具有一定实际的研究意义。并且给出了正则项L1/2+2的阈值算子具体形式，然后利用新得到的阈值算子，在原有算法的基础上设计提出了两种迭代阈值算法，其一给出了迭代组合阈值算法CIT，其二根据迭代方式的不同，利用Gauss-Seidel迭代替换原有的Jacobi迭代给出了Gauss-Seidel迭代组合阈值算法GCIT。除此之外，数值实验结果表明对于带有正则项L1/2+2的稀疏线性回归模型和逻辑回归模型，CIT算法和GCIT算法和其他解决类型松弛模型的算法比较后，可以看出CIT算法在相对误差，错误率，运算时间，函数值等方面都表现优秀。最后在求解该模型上，给出了迭代组合阈值算法CIT和Gauss-Seidel迭代组合阈值算法GCIT收敛性分析，表明了该算法具有良好的收敛性。