论文部分内容阅读
在分类问题中,L2范数支持向量机是一种被广泛应用的工具,对两分类问题来说效果很好。L1范数支持向量机是L2范数支持向量机的一个变式,由于L1范数的特性,L1范数支持向量机有自动选择变量的性质,与标准L2范数支持向量机相比有许多优点,尤其是遇到高维问题以及当有多余的干扰变量时。但是L2范数支持向量机和L1范数支持向量机都有本身的局限性,对小样本、高维数、变量高度相关的数据进行分析时,它们有时达不到理想的效果。双重正则化支持向量机结合了它们的优点,应用了弹性网处罚,即L1范数与L2范数的一个混合处罚。这样,双重正则化支持向量机就会像L1范数支持向量机一样自动选择变量,并且将高度相关的变量一起选择或移除。但是由于双重正则化支持向量机算法的L1范数是不可微的,并且带有不等式约束,所以计算上比较复杂。对含有等式约束的二次规划问题进行研究后,证明了只要存在一个非零解,线性Bregman算法对该问题是全局线性收敛的,并且给出一个明确的收敛速率。双重正则化支持向量机问题经过转化可以变成可微的含有等式约束的问题,进而可以将线性Bregman算法应用到双重正则化支持向量机问题中。模拟数据集和真实数据集上的相关数值试验表明,用线性Bregman算法求解双重正则化支持向量机问题,降低了计算复杂度,提高了预期精确度,得到了较好的分类准确率。