(一) SVM的八股简介
支持向量机 (Support Vector Machine) 是 Cortes 和 Vapnik 于 1995年首先提出
的,它在解决小样本、 非线性及高维模式识别中表现出许多特有的优势, 并能够
推广应用到函数拟合等其他机器学习问题中。 支持向量机方法是建立在统计学习
理论的 VC 维理论和结构风险最小原理基础上的, 根据有限的样本信息在模型的
复杂性(即对特定训练样本的学习精度, Accuracy)和学习能力(即无错误地识
别任意样本的能力) 之间寻求最佳折衷, 以期获得最好的推广能力 (或称泛化能
力)。
以上是经常被有关 SVM 的学术文献引用的介绍,有点八股,我来逐一分解并解
释一下。
Vapnik 是统计机器学习的大牛,这想必都不用说,他出版的《 Statistical
Learning Theory 》是一本完整阐述统计机器学习思想的名著。在该书中