凸优化问题是数学优化问题的一个重要分支,主要研究如何基于凸紧集实现凸目标函数最小化问题。如果实际问题可以描述成凸优化问题,能够得到该实际问题的全局最小值。凸优化问题的研究已经相当成熟,有了许多有效的算法。在现实世界中,仍然存在大量的非凸优化问题,目前常见的方法是将非凸优化问题松弛成凸优化问题,但得到的结果与实际问题的解往往存在较大的差距。对于目标函数是非凸或者部分非凸的情况,这方面的研究还处于初期阶段,已有的研究成果非常少。本文以原始非凸优化问题为出发点,运用广义乘子交替方向法(GADMM)解非凸优化问题。本文针对两类非凸优化问题,在假设增广Lagrange函数满足Kurdyka-?ojasiewicz不等式的条件下,证明了当增广Lagrange函数的罚参数充分大时,由广义乘子交替方向法(GADMM)产生的迭代序列收敛到增广Lagrange函数的稳定点,在更多的假设条件下,分析了该算法的收敛速度。本文由以下五个章节构成:第一章,介绍了本文的研究背景和研究问题以及本文内容结构。第二章,给出了本文研究所要用到的一些预备知识。第三章,考虑利用广义乘子交替方向法(GADMM)求解线性约束两个函数和的最小值问题,其中一个函数为凸函数,另一个函数可以表示为两个凸函数的差。对GADMM的每一个子问题,采用凸函数差分算法中的线性化技术来类似地处理。通过假定相应函数满足Kurdyka-?ojasiewicz不等式,当增广Lagrange函数的罚参数充分大时,证明了GADMM所产生的迭代序列收敛到增广Lagrange函数的稳定点。最后,给出了该算法的收敛速度分析。第四章,考虑利用广义乘子交替方向法(GADMM)求解具有耦合目标函数的线性约束非凸优化问题。通过假定相应函数满足Kurdyka-?ojasiewicz不等式,当增广Lagrange函数的罚参数充分大时,证明了GADMM所产生的迭代序列收敛到增广Lagrange函数的稳定点。最后,给出了该算法的收敛速度分析。第五章,对全文进行总结。说明本文研究的主要工作以及得到的主要结论。