论文部分内容阅读
高斯混合模型(GMM)被广泛应用于模式识别、计算机视觉、机器学习、数据挖掘、生物信息学等不同领域。在这些领域里,它被用来完成诸如图像分割、聚类、概率密度函数的构建等任务。通常,人们用期望最大化(EM)算法求解GMM模型中的参数。尽管EM是一种非常有效的算法,且能保证收敛。但EM算法存在两个还没有被完全解决的问题:(1)因为EM只能保证收敛到局部最优点,所以EM算法对初始条件非常敏感;(2)用户需要预先设置GMM中高斯成员的个数,而在没有任何先验信息的情况下,如何设置高斯成员的个数也通常非常棘手。本文主要研究内容分为以下两个部分:在第一部分中,本文试图解决EM算法存在的不足。本文首先分析并指出EM算法的初始化敏感问题源于它的并行式学习策略所带来的高斯成员之间的竞争关系对公平的竞争条件的苛刻要求。由此,本文从改善学习策略的角度,在EM算法的前端加入了类似于EM算法的串行式学习过程,即让所有高斯成员在参与竞争前先避免竞争,以减小EM算法对随机初始条件的敏感程度。在串行学习阶段,所有的高斯成员都试图找到各自的散点簇,在参与竞争前先获得公平的竞争条件;在并行学习阶段,EM算法对串行学习的结果进行微调,通过高斯成员间的竞争式学习,获得全局最优的竞争结果。此外,用户也不用提前为设置高斯成员的个数。本文将所求解的GMM模型应用于聚类,结果表明本文的算法大大提升了EM算法在聚类应用上的性能。在第二部分中,本文试图继承EM算法的优点,以期获得一个更一般的学习模型,帮助人们解决不同领域的问题。首先,本文分析了EM算法的探索式学习本质,并从中抽象出了一种更一般的探索式学习模式。为了证明这种探索式学习模式在方法学层面上的有效性,本文随后又将这一探索式学习模式应用于循迹、知觉感知和轮廓检测这几个具体任务中,一定程度上证明了这一探索式学习模式是一种通用性的无监督的学习模式,可能具有广泛的应用价值。