有限概率混合模型是一种常用的数学建模与统计数据分析工具,因其表达灵活,有限概率混合模型己成为最有效的概率密度估计工具以及最常用的聚类工具之一。有限高斯混合模型(Finite Gaussian Mixture Models, GMM)是一种最常见的概率密度估计工具,得到了极其广泛的应用。然而,GMM无法准确拟合非线性、非高斯性的数据。因此近年来,非高斯混合模型吸引了广泛关注,其应用越来越广泛。本文主要研究非高斯混合模型的变分学习算法,主要工作和创新包括以下几个方面：1.对有限贝塔刘维尔混合模型的变分贝叶斯学习算法进行研究,提出了一种可以在进行参数估计的同时准确地自动估计该模型分量数的算法,最后通过人工数据集与场景分类实验验证了该算法的有效性。2.对有限逆狄利克雷混合模型的变分贝叶斯学习算法进行研究。首先,提出了一个新颖的扩展变分近似推理算法,该算法能够解决诸多概率混合模型变分学习困难的问题。其次,提出MLIB (Multivarite Log-Inverse-Beta)函数下界定理,并给出此定理的详细证明。再次,使用该算法对该混合模型进行推理。最后,通过人工数据集、模式别数据集与场景分类的实验验证了该算法的有效性。3.对有限狄利克雷、贝塔刘维尔及广义狄利克雷混合模型的变分贝叶斯学习算法进行研究。首先,利用两种不同的近似算法求变分目标函数的下界。其次,利用扩展变分近似推理算法对它们进行贝叶斯推理。再次,提出变分贝叶斯期望均值最大化算法。最后,通过人工数据集、模式识别数据集与场景聚类实验验证该算法的有效性。