支持向量机理论及其在复杂电机设计中的应用

    (合肥工业大学，安徽合肥230009)

    摘要：阐述了支持向量机的历史以及发展现状，介绍了支持向量机在电机设计中的一些应用。对其在永磁球形步进电动机中的应用前景进行了展望。

0引  言

    支持同量机(suppon vector mach jfle，以下简称svm)是at＆t bell实验室的v．vapnik提出的针对分类和回归问题的统计学理论。它是由vapnik和其同事在1992年的计算学习理论(colt)会议上提出并介绍进入机器学习领域，之后受到广泛的关注。svm是机器学习领域若干标准技术的集成者。他集成了****间隔超平面、mercer核、凸二次规划、稀疏解和松弛变量等多项技术。在若干挑战性的应用中，获得了目前为止****的性能。在美国科学杂志上，支持向量机以及该学习方法被认为是“机器学习领域非常流行的方法和成功的例子，并是一个令人瞩目的发展方向。

    svm是建立在统计学习理论和结构风险最小原理srm(structural risk minimization pnncidle)基础上的，srm比传统的基于经验风险最小原理erm(empirical risk minmization  pnciple)的神经网络方法具有明显优点。主要优点有：(1)svm具有坚实的理论基础和较好的推广能力；(2)svm算法最终转化为二次型寻优问题，从理论上能够得到全局****点；(3)svm具有强大的非线性处理能力和高维处理能力。基于这些优点，svm在20世纪90年代中后期得到了全面深入的发展，现已成为机器学习和数据挖掘领域的标准工具。

    本文对svm的历史、发展现状及基本理论进行了概述，介绍了国内外svm在电机中的一些应用，最后，对svm在永磁球形步进电动机中的应用提出了自己的看法。

1支持向量机的提出和发展

1．1支持向量机的提出

    1958年，rosenblatt****提出了一种学习机器的模型感知器，这标志着对机器学习进行数学研究的开始。之后随着反向传播(bp)技术的提出，机器学习的研究进入了一个新的阶段，即神经网络(neural nework)时代。在随后的十几年中，神经网络取得了很大的发展，并且在实际应用中也取得了良好的效果。然而，神经网络存在着自身的局限性，其实现过程主要依赖于人的主观意识和先验知识，而不是建立在严格的数学理论基础之上，冈此，对神经网络模型的性能及其适用范围进行理论分析就比较困难。另外，神经网络研究的是样本数目趋于无穷大时的情况，但在实际问题中，样本数目往往是有限的。因此，在实际应用中很难取得理想的应用效果。神经网络的过学习问题就是一个典型的例子。当样本数据有限时，本来具有良好学习能力的学习机器就表现出很差的泛化性能。

    在这种背景下，vapnik等人从20世纪70年代开始致力于统计学习理论(statistical leamlng  theory)方面的研究。统计学习理论(slt)是一种专门研究小样本情况下机器学习规律的基本理论，为解决有限样本学习问题提供了一个统一的框架，它将很多现有方法纳入其中，有望帮助解决许多原来难以解决的问题。到90年代中期，随着统计学习理论不断发展和成熟，产生了基于统计学习理论基础上的新的机器学习方法——支持向量机。它完全不同于神经网络，神经网络算法是在模拟生物的基础上构造的，而svm算法的思想是来源于最小化错误率的理论界限。因此，svm算法具有良好的数学性质，如解的****性、小依赖输入空间维数等等。svm所表现出种种优良特性，使人们对这一新的机器学习算法开始重视，并已成为继神经网络研究之后新的研究热点。

1．2支持向量机的现状

    svm的提出引起了国内外学者的高度关注，在短短几年内，取得了一系列的研究成果。如：anthony等人提出了关于硬邻域支持向量机学习误差的严格理论界限，shawe-taylor和cristianini给出了软邻域支持向量机和回归情况下的误差界限；smola和schoelkodf提出了支持向量机一般意义下的损失函数数学描述；weston和vapnik等研究了支持向量机的泛化性能及其在多值分类和同归问题的扩展问题；脊回归是由tikhonov提出的一种具有特殊形式的正则化网络，griosi、poggio等将其应用到正则化网络的学习中，而griosi、smola和schoelkopf等讨论了正则化网络和支持向量机的关系。目前，随着支持向量机理论研究的不断深入，出现了许多变种的支持向量机，如sm01a提出的用于分类和回归的v支持向量机；mangasarian等人提出的通用支持向量机等。

2支持向量机原理

    概况地说，svm就是通过某种事先选择的非线性映射，将输入向量映射到一个高维特征空间，在这个空问中构造****分类超平面的实现过程。如图l所示．