多层前馈网络与BP算法

前文：【神经网络】背景和基本概念介绍了机器学习和神经网络的基本概念。

本篇介绍最经典的多层前馈网络模型和BP算法。对于算法的理解是编写程序、理解程序和灵活运用程序的基础。

当然，之后的文章也会整理BP算法的实现方式，以便读者使用。

一、多层前馈网络

有监督模型

1输入层、1输出层，加入隐层。和感知机一样，输入层神经元的个数和样本数据自变量的维数一致，神经元的输出等于输入；输出层依然是处理神经元，维数和结果变量的维数一致；隐层在输入层和输出层之中，也是处理神经元，用激活函数处理加权和。

多层前馈网络常用的学习算法是BP算法，使用BP算法的多层前馈网络模型常简称“BP网络”。

二、BP算法

算法原理

算法（假设激活函数都是sigmoid函数）

关于算法的其他说明，将会和算法的实现放在一块写。

本文部分图片来源于网络，侵删。