互补问题在科学研究和工程技术的许多领域有着广泛的应用,研究其理论与数值算法是当前计算数学与运筹学领域的热点问题.在求解非线性互补问题的数值算法中,基于模的迭代方法受到很多学者的关注和研究.本文基于现有的研究成果,对非线性互补问题进行详细地理论分析和算法研究.本文主要内容如下:第1章,主要综述了国内外对非线性互补问题的研究概况.除此之外,还引入了一些本文所需要的一些基本知识.第2章,证明了对于系数矩阵是-矩阵的弱非线性互补问题可以转化为一个等价的系数矩阵为严格对角占优的互补问题.此外,在一定条件下给出了基于模的矩阵分裂方法的收敛性分析.第3章,研究非线性互补问题的基于模矩阵分裂迭代算法,给出了基于模的矩阵分裂迭代算法求解非线性互补问题的更弱的收敛性定理,改进了关于加速的基于模的矩阵分裂迭代算法的收敛性条件.第4章,提出了基于模矩阵分裂的松弛化两步迭代算法来求解非线性互补问题,给出了当系数矩阵是_+-矩阵时,正对角矩阵Ω对基于模的AOR的松弛化两步方法的影响.数值实验验证了这种方法的有效性.另外,实验结果表明,通过对参数进行适当的选取,可以保证基于模矩阵分裂的松弛化两步迭代算法的实验效果比基于模矩阵分裂迭代算法更好.第5章,通过利用子空间方法,提出基于模预处理Krylov子空间方法来求解非线性互补问题.针对系数矩阵是正定矩阵和_+-矩阵的情形,分别提出了基于模预处理共轭梯度法和基于模SOR预处理广义极小残量法.实验表明该算法对于求解非线性互补问题是非常有效的.第6章,对本文的研究工作予以总结,并提出了未来研究工作的设想和尚待解决的问题.