论文部分内容阅读
本文主要研究两类带线搜索的信赖域方法.
第一章,我们简单地介绍信赖域方法及相关研究成果.
第二章,我们提出了一类带线搜索的非单调信赖域算法,与传统的信赖域方法不同的是:我们的算法不要求目标函数值在每一步都有充分下降,而是要求目标函数的连续平均值充分下降.此外,当试探步不成功时,算法不是缩小信赖域半径,重新求解二次模型获取试探步,而是沿着试探步的方向,采用一种非单调线搜索技术,计算产生下一个新的迭代点.这样改进的意义是:采用非单调技术,提高了寻找到全局最优点的可能性;另外,当计算的函数出现峡谷形时,非单调技术有助于减轻计算负担,提高收敛速度.在适当的假设条件下,我们证明了算法具有全局收敛性和超线性收敛性.初步的数值实验结果表明该方法是值得提倡的.
第三章,我们提出了一类将信赖域方法与拟牛顿方法相杂交的方法.在每一个迭代步,优先使用信赖域方法,但当试探步不成功时,方法转换成拟牛顿方法,即从当前不成功的迭代点开始,采用拟牛顿方向,通过回追线搜索技巧,计算产生一个新的迭代点.这样改进的优势是:当试探步不成功时,采用拟牛顿步继续迭代,从而避免了重新求解子问题,减轻计算负担;并且,算法使用BFGs拟牛顿方法更新矩阵Bk,不需要函数是一致凸的假设条件,我们证明该方法具有全局收敛性和超线性收敛性.数值实验结果表明该方法是有潜在意义的.