Bootstrap

CS231n-多分类SVM

看笔记还是有点小迷,找了点补充资料看,所以我记的笔记主要是参考下面几篇,说的真的超级通俗易懂!!!
https://zhuanlan.zhihu.com/p/73477179
https://www.cnblogs.com/limitlessun/p/9455015.html#_label8

概念

  • SVM名字由来:
    在这里插入图片描述

线性分类和线性回归的区别:

  • 分类就是把两类用一条直线分开
  • 回归就是要拟合一条直线,使样本点都落在直线附近

SVM(support vector machine)支持向量机一般用于解决二分类问题,他的训练目的是
在这里插入图片描述

以二分类为例:

在这里插入图片描述
把一堆东西分成两类的直线很多,如何找最佳的分类直线

对最好的分类器定义的是:最大边界超平面,即距两个类别的边界观测点最远的超平面。在二维情况下,就是找最宽的马路,在三维问题中,就是找最厚的木板。
在这里插入图片描述

损失函数

在这里插入图片描述
即:如果真实分类的分数大于其他分数+边界(margin),则损失=0,否则损失=其他分数-(真实分数-边界).边界的值可以任意选择,因为这个参数最终会消失.

;