互补问题自从1963年被G.B. Daatzig和他的学生R.W. Cottle提出后,它的理论和算法就在实际中有着广泛的应用,特别是在各种经济分析、交通平衡策略以及工程领域等中更显出它的重要性.近三十年多来该问题的研究更是得到了长足发展.　　本文在拟牛顿法研究的基础上,主要探讨了求解非线性互补问题和广义非线性互补问题的光滑化拟牛顿法及其收敛性分析.本文一共分为四章,各部分内容如下:　　第一章介绍了互补问题的研究背景、研究意义以及目前的研究现状.　　第二章,我们利用光滑Chen-Harker-Kanzow-Smale函数和Robinson正则法将非线性互补问题转化为与之等价的光滑非线性方程组,并基于Li提出的无导数线搜索技术提出了一种新的求解0P非线性互补问题的光滑化拟牛顿法,而且该算法克服了当线搜索方向为范数函数的下降方向时,线搜索步有可能保证不了范数下降性质的缺点,从而使得算法更加完善,然后在一定条件下分析了该算法的全局收敛性,最后用数值实验验证了该算法的有效性.　　第三章,我们基于第二章求解问题的思想,进一步研究了利用光滑对称扰动Fischer-Burmeister函数将广义非线性互补问题转化为等价的非线性方程组,提出新的光滑化拟牛顿法求解该方程组.算法中利用Li提出的无导数线搜索技术,不仅可以避免计算量大的问题,而且可得到算法的良好收敛性.然后分析了该算法的全局收敛性,且在一定条件下可以得到该算法具有局部超线性(二次)收敛性.最后用数值实验验证了该算法的有效性.　　最后一章是对本文的工作的总结和对将来进一步研究工作的展望。