Universum数据是最近提出的被定义为不属于分类问题中任何一类的样本集合。一些使用链条损失函数学习方法的缺点是对噪声比较敏感。为了避免这一缺点,我们提出了添加U数据的加权双支持向量机算法(称为U-WTSVM),通过使用权重来对错误变量进行修改,针对不同位置的样本,赋予不同的权重。U-WTSVM算法具有更好的灵活性,能够获得更合理的分类。实验结果表明,在大多数情况下,U-WTSVM算法优于传统的TSVM和U-TSVM算法。我们也构建了一种新的算法,称为添加U数据的最小二乘投影双支持向量机(U-LSPTSVM)。其中添加U数据的思想非常新颖,因为它引入了和分类样本无关的样本,并借此引入了先验域信息,使得LSPTSVM算法的分类性能提高。此外,为了促进其泛化能力,我们还扩展到递归学习方法,用于进一步增强U-LSPTSVM的性能。实验表明,U-LSPTSVM可以直接提高U-TSVM的训练时间,而且在多数情况下训练精度优于LSPTSVM。