支持向量机(SVM)主要思想有两点:

①它是针对线性可分情况进行分析

②:对于线性不可分的情况,通过使用非线性映射算法,将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分,从而使得高维线性空间采用线性算法对样本的非线性特征进行分析成了可能。

松弛变量:允许有些数据点可以处于分割面错误的一侧

SMO:将大优化问题分解为多个小优化问题来求解

SMO工作原理:每次循环中选择两个alpha进行处理,一旦找到一对合适的alpha,那么久增大其中一个同时减小另外一个。

核函数包括:线性核函数、多项式核函数、高斯核函数。

高斯核函数也叫作径向基函数。

标量:也称元向量,只有大小没有方向。

核函数:从某个特征空间到另一个特征空间的映射。

在高维空间解决线性问题也就等价于在低维空间解决非线性问题