本文以统计学习理论为基础,研究了最小二乘支持向量机算法的理论及应用,主要研究了最小二乘支持向量机回归与分类的关系及对多类分类问题的解决方案、该算法的稀疏性策略、在关键词提取问题中的应用以及在特征基因子集选择问题上的应用。具体内容如下:(1)分析了最小二乘支持向量机分类与回归算法,在此基础上证明了回归与分类问题可以相互转换,提出一种以回归方式解决多类分类问题的算法。(2)针对科技文献的关键词提取问题,提出一套完整的处理方案。按照关键词在文章的不同部分出现的次数形成训练样本,采用最小二乘支持向量机回归算法训练学习机。该学习机能够实现对科技文献的关键词提取。(3)针对最小二乘支持向量机算法中支持向量缺少稀疏性这一缺点,提出了一种基于Renyi熵的回归算法。在相近的回归正确率下,该算法有效地保证了支持向量的稀疏性,提高了运算速度。(4)针对DNA微阵列数据维数高、样本少的特点,提出了两种特征基因子集选择算法。这两种算法均采用向前选择策略,所处理的基因总数通常较少,选出基因的数目在迭代过程中由算法自适应地确定。采用选出的基因构造的分类器的性能是令人满意的。