深度学习算法原理——Softmax Regression

一、Logistic回归简介

二、Softmax回归

2.1、Softmax回归简介

2.2、Softmax回归的代价函数

2.3、Softmax回归的求解

5、Softmax回归中的参数特点

5、Softmax与Logistic回归的关系

​

6、多分类算法和二分类算法的选择

有人会觉得对于一个多分类问题，可以使用多个二分类来完成，对于多分类问题是直接选择多分类的分类器还是选择多个二分类的分类器进行叠加，在UFLDL中，作者给出了这样的解释：取决于类别之间是否互斥。

对于一个多分类的问题，是直接选择多分类器直接计算还是选择多个二分类器进行计算取决于问题中类别之间是否互斥。

• 是互斥的 –> Softmax回归
• 不是互斥的 –> 多个独立的Logistic回归

对于Softmax回归更多内容，包括实验可见博客简单易学的机器学习算法——Softmax Regression

参考文献

• 英文版：UFLDL Tutorial
• 中文版：UFLDL教程
• 《Python机器学习算法》第2章 Softmax Regression