有限维变分不等式及互补问题是一类重要的数学规划问题.本文主要研究了其数值解法.　　对于有限维非线性互补问题(NCP),该问题可转化为等价的非光滑方程组.基于光滑化的思想,引入一个新光滑化函数,将此非光滑方程近似为一簇参数化的光滑方程.提出了一个光滑化牛顿算法,通过求解这簇光滑方程而间接得到NCP的解.在适当的条件下,证明该算法产生的序列全局收敛且局部二次收敛到NCP的解.数值实验表明该算法是有效的.　　其次,利用广义Fischer-Burmeister函数,将NCP转化为一个与之等价的非光滑方程组,给出了一个带有线搜索的光滑化信赖域算法求解此再生方程,从而间接得到互补问题的解.这个新的信赖域算法适用于一般的、而不必是单调的非线性互补问题.证明了该算法具有全局收敛性,并在非奇异条件的假设下,证明了该算法的局部超线性或二次收敛率,尤其是,证明了在有限步迭代后,单位步长1将最终被接受.大量的数值实验表明该算法是高效、可靠的.　　对于有限维变分不等式(VI),利用中间值函数,将具有盒子约束的广义变分不等式转化成一个与之等价的非光滑方程组,提出了一个新的拟牛顿型算法求解之.该算法可以直接用于求解此类再生方程,而不必引入光滑逼近函数.在适当的假设条件下,证明了该算法产生的序列全局收敛和局部超线性收敛到广义变分不等式的解.数值实验表明该新算法具有可靠的实算性能。