论文部分内容阅读
基于统计学习理论的支持向量机算法(SVM)具备坚实的数学理论基础和严格的理论分析框架。SVM具有理论完备、全局最优、自适应性、泛化能力好等优点,是当前机器学习领域的研究热点。SVM在坚持结构风险最小化原则(SRM)的同时,综合使用统计学、机器学习和神经网络等方面技术,有效地提高了算法的泛化能力。与传统的机器学习算法相比,SVM具有良好的应用价值和发展前景。 首先,本文对“支持向量分类机与支持向量回归机”的理论进行梳理; 其次,提出基于“主成分降维”思想的PCA-SVM算法。在PCA进行属性降维的基础上,将“交叉验证”(K-folds)思想下的网格算法、遗传算法以及粒子群算法,分别对SVC模型的惩罚参数和径向基核参数进行寻优,着重考虑分类精度问题,构建精确的商业银行房贷违约判别模型。实证表明,基于三种优化算法的PCA-SVM模型均具有较高的分类精度和稳定性。 再次,本文深入探讨SVR的算法性能以及参数寻优。以NYMEX石油期货价格合约作为实证研究对象,详细阐述SVR预测模型的具体建模和参数求解过程。首先,用Grid search方法对SVR模型所需参数进行大范围搜索,得到参数(C,σ)的最优值;其次,用K-折交叉验证方法搜索参数(ε,v)的最优值并进行选择,从而得到最佳参数组合。最后,作为ε-SVR的改进算法v-SVR,在进行国际石油期货价格预测时,具有较好的拟合度及准确度。