最基础的模型——感知机

前文：【神经网络】背景和基本概念介绍了机器学习和神经网络的基本概念。

本篇介绍最基础的感知机模型，对于感知机的理解是理解其他神经网络模型的重要基础。

感知机是一个有监督模型。

根据前文，神经网络有三重要素：神经元、网络拓扑结构和学习算法。

神经元与网络结构

感知机有两层神经元，输入层、输出层神经元。例如：

其中，输入层神经元的个数和样本数据属性部分(可以看作自变量)的维数一样，且输入神经元输出yi=输入xi；输出层神经元只有一个，是有计算功能的处理神经元——输出y=f(Σwx)。

学习方式

给定训练集，终止条件满足前：

每一轮训练，每次输入一个样本(x,y)，按如下规则调整权重:

其中，ŋ是一个事先确定的常数，称作“学习步长”，取值常在(0,1)，常取0.05，0.2等值。

案例

“与”问题-（x1∧x2）：即只有当x1=x2=1时，输出y=1；当x1或x2中只要有一个0，y=0。

当然，实际使用的时候，权值是需要用样本数据训练的。本例意在说明，一个两个输入的感知机，其作用相当于在平面中找一条分界线，把平面上的点分成两类。训练的过程，其实就是寻找这条线的位置的过程。

本文部分图片来源于网络，侵删。