一种混合核函数svm建模方法及其应用
阳春华,王觉,朱红求,桂卫华
(中南大学信息科学与工程学院,湖南长沙410083)
摘 要:为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机( svm)建模方法。所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性:并利用量子粒子群算法( qpso)对惩罚系数、核参数以及混合权重系数进行综合寻优,求取****化参数组合,从而提高模型的精度。采用锌湿法冶炼净化过程现场数据对建模的方法进行了测试,结果表明,所提出的混合核函数支持向量机模型具有较好的泛化性能和预测精度,预测结果满足现场工艺生产的要求。
关键词:混合核函数;支持向量机;qpso算法;净化过程
中图分类号:tp 273 文献标识码:a
l引言
支持向量机( svm) 作为一种基于结构风险最小化学习训练方法,较好地解决了小样本、高维数、非线性、局部极小值等实际问题,具有很强的泛化能力,在故障检测与诊断、过程预测、文本分类、生物信息学、模式识别和冶金过程等领域获得了广泛的应用[24]。
支持向量机求解模式识别问题的关键在于选择一个合适的核函数。为了提高支持向量机模型的精度,人们提出了混合核函数方法,一般由一个高斯核和一个多项式核线性组合而成。模型中的参数选择对混合核函数是否为****起着关键作用。本文采用qpso算法对svm模型的参数进行寻优。利用sinc函数对所提出支持向量机建模方法进行了验证分析,并将该建模方法应用于湿法炼锌净化过程离子浓度预测,结果表明,所提出的预测模型具有很好的泛化性能,模型预测精度满足过程现场的工业技术要求,可以用来指导现场的过程操作优化。
2混合核函数
核函数的选取在很大程度上影响着svm模型的拟合能力和预测精度。核函数的引入极大地提高了学习机器的非线性处理能力,同时也保持了学习机器在高维空间中的内在线性,从而使得学习很容易得到控制。核函数将原空间的数据隐含地表示在高维的特征空间中,并在其中训练了一个线性的分类器,训练过程并不需要知道具体的非线性映射。通过调节不同的核参数,可以隐式的改变特征空间的vc维数,从而决定线性分类面能达到的最小经验误差。
smits g f和jordaan em提出了一种结合了全局核函数和局部核函数的混合核函数。局部性核函数学习能力强、泛化能力较弱,而全局性核函数泛化性能强、学习能力较弱,因此考虑把这两类核函数通过线性加权叠加构成新的核函数,解决现有核函数学习性能单一的缺陷。
polynomial核函数和rbf核函数是两种典型的全局核函数和局部核函数:
polynomial核函数:
rbf核函数:
将两类核函数混合,可得:
式中,kpoly、 krbf分别为多现实核函数及rbf核函数;λ为混合权重系数,可调节两种核函数的作用大小。
3基于qpso的混合核svm方法
sun从量子力学的角度,通过对粒子收敛行为的研究,提出了量子粒子群算法。在qpso中,由于粒子满足聚集态的性质完全不同,使粒子能在整个可行解空间中搜索全局****解,因而qpso算法在搜索能力上远优于标准粒子群算法。qpso中粒子的更新如下:
式中,mbest为所有个体当前****位置的中心点;pij为第i个个体在第,维上的****位置;pgj为粒子群在第j上的****位置;pcij是介于pij与pgj之间的随机位置;m为粒子群规模;φ,u为(0,1)之间的随机数;α为收缩扩张系数,它是qpso收敛的一个重要参数,第t次迭代时可取: |