变分不等式理论是非线性分析的重要组成部分，它在力学、微分方程、控制论、数理经济、对策理论、优化理论、非线性规划等理论和应用领域都有广泛应用。由于变分不等式问题与补问题、最优化问题、均衡问题、不动点理论等数学分支的紧密联系，变分不等式理论及应用的研究日益受到国内外许多学者的关注。 　　本文主要研究一类变分不等式的广义间隙函数和算法问题，以及与此相关的非线性互补问题。主要工作如下： 　　第一章，介绍了变分不等式的发展概况及国内外研究情况。 　　第二章，在实Hilbert空间中，研究了一类集值混合变分不等式的广义间隙函数和广义 D-间隙函数。通过这两类广义间隙函数给出了集值混合变分不等式的全局误差界。 　　第三章，我们以第二章提出的广义间隙函数为基础利用间隙函数的性质将广义变分不等式问题转化为带约束的最优化问题，给出了解决此类问题的最速下降法，并验证了该最速下降法的收敛性。 　　第四章，根据一个神经网络密度函数我们研究了非线性互补问题，给出了非线性互补问题的光滑化牛顿法，同时验证了算法的收敛性。