K最近邻与线性分类器（下）

Linear classifier

学习一个函数

f(x,W)=Wx+b

，输入是x，其中x是图像，W是参数(线性回归中每一个

x_i

的系数),b为常数项，输出是10个数字，代表归属于不同的类。我们可以看下面的这个例子：假设一张图片由2*2的像素表示，共有三类，那上述公式的计算如下

可以看到被预测为猫的分数为负数，代表选择的W并不能很好的完成分类任务，需要调整，如何调整呢？在调整之前现需要定义一个分类好坏的标准。

损失函数

损失函数（loss function），它是用来量化预测分类标签的得分与真实标签之间一致性的，如果它的值为0那么表示模型可以正确分类所有的图片，如果损失值非常高，那么图片很难被正确分类。简单来说它是度量W的值好坏的一个标准。