在现实生活中，很多问题的数学模型可以表现为互补问题，互补问题与非线性规划、极大极小、对策论、不动点理论等分支有紧密联系。互补问题的出现，引起了当时人们的浓厚兴趣，许多人纷纷参与这项研究.互补问题是一类重要的优化问题。在实际应用中，它出现在工程物理、经济与交通平衡等领域：同时，它也出现在约束优化的最优性条件中。因此，对它的研究具有重要意义。互补问题自被提出至今，人们对它进行了一系列研究，提出了许多有效算法，比较常用的有投影法、内点法、光滑(非光滑)牛顿法等。本文利用Fischer-Burmeister函数将互补问题转化为无约束优化问题，再利用修正的广义拟牛顿算法求解无约束优化问题。改进后的算法经数值实验验证有良好的数值效果。　　 本文分为三个部分，第一章给出了互补问题及互补函数的性质和相关定理，在Broyden族拟牛顿公式的基础上进行了修正，得到了修正的广义拟牛顿校正公式并推导出了其逆。　　 第二章给出了本文修正拟牛顿算法的步骤，并对算法：在修正的基础上证明了全局收敛性和局部超线性收敛性，从理论上验证了修正后的广义拟牛顿算法具有可行性。　　 第三章对一个经典的非线性互补问题做了数值实验，经实验验证新算法具有可行性和良好的数值效果，最后是算法的Matlab程序及其M文件。　　 最后，通过理论和数值实验验证了其可行性，但还存在一些问题需要继续研究探索，比如校正拟牛顿公式使算法计算速度更快、探索较弱的收敛性条件使算法更具一般性。