非线性混合效应模型是用来分析由复杂机理（例如生长曲线或群体药物动力学模型，遗传分析等）产生的复杂数据或不平衡复杂数据（聚类，相关，纵向的重复测量数据）的工具。随着统计学计算方法和复杂群体性研究和应用的不断深入，混合效应模型成为目前重要的研究课题。不过，由于非线性混合效应模型参数估计相当复杂，参数型方法需要以似然近似为基础的方法和贝叶斯方法。目前对该模型存在很多模型拟合和参数估计方法，基于其模型条件似然的方法大致可以归为线性化的方法，积分近似方法，EM 算法；还有利用先验分布和条件似然的贝叶斯方法（一般使用MCMC 方法）。本文的目标是基于似然函数的一种随机近似版本的期望最大化（EM）算法，称之为SAEM 算法来处理非线性混合效应模型的参数估计问题。相对于传统的MCEM 算法和其他算法，它的优点：不需要指明其先验分布并且对于初值的选取非常稳健。其关键思想就是循环加快收敛速度。首先我们介绍EM 算法，然后介绍其推广的算法SAEM 算法，接着我们还将其和MCMC 算法相互结合得到SAEM-MCMC 算法。我们给出了该算法的理论基础，一些标准：步长的选择，参数的估计，对数似然的估计，Fisher 信息阵的估计和停止规则等。本文应用SAEM-MCMC 或SAEM 算法去估计非线性混合效应模型参数，并给出算法过程和步骤。最后给出一个应用：使用依据真实情况的一个模拟的数据，并实现SAEM-MCMC 算法对数据的拟合和参数的估计。最后将其他算法得到的分析结果相互比较，根据结果分析该算法的优缺点。这种方法当然也可以处理其他的非线性模型，混合效应模型。