EM变尺度加速算法

来源 :燕山大学 | 被引量 : 3次 | 上传用户:gongyang12
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
EM算法是一种求参数极大似然估计的迭代算法,在处理不完全数据中有重要应用。它的最大优点是实现简单;数值计算稳定;存储量小;特别是,每一次迭代能保证观察数据对数似然函数是单调不减的。但EM算法最大的缺点是收敛速度缓慢,只是次线性的收敛速度,妨碍了EM算法的应用。  论文使用非线性最优化中变尺度法的对称秩2校正公式对EM算法进行改进,给出了EMD、EMB、EMDB三种新的加速算法。它们都是针对EM算法的M步的,在共享EM算法单调增加似然函数值和稳定收敛的基础上提高EM算法的收敛速度并保持了EM算法的收敛性质。  论文研究了EM算法的改进和应用。  首先,概述了EM算法的研究背景、历史意义及目前国内外学术的研究动态,使读者了解到EM算法的地位和影响及论文选题的重要性,并给出了论文所涉及到的主要理论基础。  其次,介绍了EM算法的形式化定义,针对EM算法的性质(收敛性和单调性)给出推导证明,使读者清楚了EM算法所涉及的理论的简单化和普适性,这也是它应用广泛的主要原因。  最后,利用非线性最优化中变尺度法的DFP公式、BFGS公式、DFP与BFGS联合公式对EM算法的M步条件期望极大化的求解中进行公式校正,得到了EMD、EMB、EMDB三种新的加速算法,从而达到加速收敛的目的,并对三种公式的优缺点进行比较研究,查漏补缺不断优化,对其良好的性质给出了证明,同时用数值实验进行模拟,验证了加速算法的有效性和可行性。
其他文献
非线性是自然界和工程技术里普遍存在的现象,因此,对非线性问题的研究就显得尤为重要。作为一个典型的不稳定的非线性系统,倒立摆系统具有结构简单、成本低、便于用各种方法