本文研究解变分不等式问题的同伦方法.我们对箱式约束、球约束、一般抽象约束集上的变分不等式问题从其等价的非光滑方程出发，利用它们的光滑逼近构造同伦，并在与已有的从K-K-T系统出发的组合同伦方法相同的条件下证明光滑同伦路径的存在性和收敛性.该方法与组合同伦方法一样，具有可以在较弱的解存在性条件下得到收敛性的优点，并且由于不需引进乘子变量，因而对投影算子容易计算的问题计算效率更高.此外，对组合同伦方法，我们给出一个新的更有效的路径跟踪算法，并在一定条件下证明了它的全局收敛性及多项式复杂性. 第一章概要地介绍同伦方法与变分不等式问题的发展历史、定义、记号以及本文中必需的基础知识. 第二章作者给出一种求解有界箱式约束变分不等式问题的光滑化同伦方法.首先将有界的箱式约束变分不等式问题等价变形为一个非光滑方程，然后将其中的非光滑部分一中值函数用Gabriel-Mot4光滑函数逼近，并用它构造出一个光滑的同伦方程.则在所定义的映射F不需要做任何单调性假定的条件下，对几乎所有的初始点，可以证明同伦路径的存在性和收敛性.此外，作者还证明，如果初始点选在约束区域的内部时，所给出的方法也适用于内点法.数值实验结果表明这是一种有效的方法，且计算效率更高. 第三章作者给出求解球约束变分不等式问题的同伦方法.首先将球约束变分不等式问题等价变形为一个非光滑方程，然后将其中的非光滑部分--投影函数用一个类似于Chen-Harker-Kanzow-Smale函数的函数光滑化，并用其构造出一个光滑的同伦方程.则在映射F不需要做任何单调性假设的条件下，对几乎所有的初始点，可以证明同伦路径的存在性和收敛性.数值结果表明这是一种行之有效的方法. 第四章作者利用投影算子的任意光滑逼近构造了解-般的抽象无界闭凸集上的变分不等式问题的同伦方法.在较弱的解存在性条件下，对于几乎所有的初始点，作者证明一条光滑的同伦路径可以收敛到变分不等式问题的解.几个典型的数值实验结果表明这个方法是有效的，且计算效率更高. 在第五章中，给出了一个用来跟踪变分不等式问题的组合同伦路径的新算法，并在一定条件下证明了它的全局收敛性及多项式复杂性.该算法通过保证β-锥邻域在所论区域内部的条件来给出使迭代点列在区域内部的残量控制准则，克服了同伦方法的通用程序中每次预估步、校正步都要判断迭代点列是否在约束区域内部的缺点，从而减少了计算量、提高了计算效率.数值实验结果表明这个算法是有效的.