交叉熵损失函数
信息量:
任何事件都会承载着一定的信息量,包括已经发生的事件和未发生的事件,只是它们承载的信息量会有所不同。如昨天下雨这个已知事件,因为已经发生,是既定事实,那么它的信息量就为0。如明天会下雨这个事件,因为未有发生,那么这个事件的信息量就大。
从上面例子可以看出信息量是一个与事件发生概率相关的概念,而且可以得出,事件发生的概率越小,其信息量越大。
假设x是一个离散型随机变量,其取值集合为X,概率分布函数为p(x),则定义事件x=x_0的信息量为:I(x_0)=-\log(p(x_0))
熵是表示随机变量不确定的度量,是对所有可能发生的事件产生的信息量的期望。熵值越大,表明这个系统的不确定性就越大。公式如下:
对于0-1分布问题,熵的计算方法可以简化为:
相对熵又称KL散度,用于衡量对于同一个随机变量x的两个分布p(x)和q(x)之间的差异。在机器学习中,p(x)常用于描述样本的真实分布,例如[1,0,0,0]表示样本属于第一类,而q(x)则常常用于表示预测的分布,例如[0.7,0.1,0.1,0.1]。显然使用q(x)来描述样本不如p(x)准确,q(x)需要不断地学习来拟合准确的分布p(x)。
KL散度的公式如下:
KL散度的值越小,表示两个分布越接近。在机器学习中,p往往用来表示样本的真实分布,q用来表示模型所预测的分布,那么KL散度就可以计算两个分布的差异,也就是Loss损失值。
将KL散度的公式进行变形,得到:
根据熵的定义,前半部分是p(x)的熵H(x)=-\sum_{i=1}^np(x_i)\log(p(x_i)),而后半部分则是交叉熵,定义为:
因此D_{KL}(p||q)=H(p,q)-H(p) ,在机器学习中,我们需要评估label和predicts之间的差距,使用KL散度刚刚好,即 D_{KL}(p|| \widetilde {q}) ,由于KL散度中的前一部分−H(p)不变,故在优化过程中,只需要关注交叉熵就可以了。
在线性回归问题中,常常使用MSE(Mean Squared Error)作为loss函数,而在分类问题中常常使用交叉熵作为loss函数,特别是在神经网络作分类问题时,并且由于交叉熵涉及到计算每个类别的概率,所以交叉熵几乎每次都和sigmoid或者softmax函数一起出现。
(1)二分类
在二分的情况下,对于每个类别我们的预测的到的概率为p和1-p。此时表达式为:
其中:
(2)多分类
多分类问题实际上就是对二分类问题的扩展:
其中:
例如:
id | predict | label | isCorrect |
---|---|---|---|
1 | 0.3 0.3 0.4 | 0 0 1 | 1 |
2 | 0.3 0.4 0.3 | 0 1 0 | 1 |
3 | 0.1 0.2 0.7 | 1 0 0 | 0 |
那么求其Loss:
对所有样本的Loss求平均
https://zhuanlan.zhihu.com/p/74075915
https://zhuanlan.zhihu.com/p/61944055