基于特征向量提取的核回归建模方法研究
邓晓刚,田学民
中吲石油大学(华东)信息与控制工程学院,山东东营257061)
摘 要:针对工业软测量中的非线性数据回归问题,提出一种基于特征向量提取的核回归建模方法。基于核函数非线性变换技术,建立非线性软测量模型——核回归模型。为了减少核回归模型中的优化参数,采用特征向量提取( fvs)算法选择核回归模型的特征向量,最后采用改进的粒子群优化算法估计模型参数。在工业数据上的应用结果说明了方法的有效性。
关键词:核建模方法;特征向量提取;粒子群算法
中图分类号:tp 277 文献标识码:a
1引 言
工业过程控制与优化的目的在于提高产品质量,然而传统的质量仪表不仅价格昂贵,维护复杂,而且往往具有较大的检测滞后,难以满足在线实时质量控制的要求。软测量技术有效地补充了传统测量仪表的不足,而且投资低、维护简单,为先进控制技术的实施提供了有利条件。
软测量建模方法是软测量技术的核心,也是目前研究人员最为关心的热点问题。近些年来,国内外对软测量建模方法尤其是非线性软测量建模方法进行了大量的研究。文献[14]分别提出了非线性偏最小二乘( npls)、神经网络(nn)等方法,最近核函数技术逐渐被用于非线性回归方法,如核偏最小二乘( kpls)、支持向量机(svm)方法。本文针对工业软测量中的数据的非线性特性,提出一种核回归建模方法。该方法构造核回归模型,采用特征向量提取方法选择模型的特征向量,使用智能优化算法估计模型参数,最后使用工业数据验证方法的
2核回归软测量模型
软测量建模的目的是寻找输入变量和输出变量之间的数学关系。对于给定的m维过程输入变量(即辅助变量)和过程输出变量(即主导变量或质量变量)y一般情况下,工业过程中的x和y之间的关系是非线性的。首先对输入变量x作某种非线性变换,即作如下映射:
从而使映射后的中(x)与输出变量y之间为线性关系,因此本文建立如下结构的软测量模型:
式中,w为模型参数;e为建模误差。
软测量模型的求解是一个关于参数向量w的优化问题,首先需要建立优化目标函数。如果已知包含n个样本的训练数据x=[x1,x2,…,xn]∈r和y∈r,则常用的优化目标是使得所有n个训练样本的误差损失函数最小,如下:
式(3)的****解向量w存在于训练样本张成的空间中,如下式:
结合式(3)和式(4),进一步整理得到:
建模过程中所使用的非线性映射垂(.)往往是未知的,但是根据核函数技术,非线性映射空间中两个向量的内积可用原始空间中的核函数来表示。常用的核函数有高斯核函数,多项式核函数等。本文采用高斯核函数。根据核函数变换,式(5)转化为式(6)。
如果训练数据中有可能含有异常点或离群点,为了提高参数估计的准确性,式(3)还可以用一种鲁棒性更强的优化目标函数来代替,本文中给出一种基于huber m估计器的优化目标函数,如式(7)。
3基于特征向量提取的棋型稀疏化
本文拟采用智能优化算法求解已经建立的核回归软测量模型。优化过程中参数的个数等于训练样本的个数,随着训练样本数目的增加,需要求解的参数也随之增加 |