人工智能-人工神经网络

道法自然,久藏玄冥:神经网络的生理学背景


人工神经网络的生理学背景,也对人类认知的物理基础与工作机制做了简单的介绍,其要点如下:

  • 思维过程是神经元的连接活动过程,由大量突触相互动态联系着的众多神经元协同作用来实现;
  • 大脑的思维源于从神经元到神经网络再到神经回路的功能逐级整合;
  • 大脑对信息的加工可以理解为复杂的多次特征提取过程;
  • 在大脑中,数据的传输和处理是同步进行的。

image

一个青年才俊的意外死亡:神经元与感知器


神经网络的鼻祖感知器的基本原理,其要点如下:

  • 人工神经网络的神经元用传递函数对输入的线性加权进行非线性处理以产生输出;
  • 感知器是一种二分类的监督学习算法,通过自适应调整权重解决线性分类问题;
  • 感知器的神经元之间通过权重传递信息,权重的变化根据误差来进行调节;
  • 感知器不能解决以异或为代表的线性不可分问题。

image

左手信号,右手误差:多层感知器


多层感知器和反向传播的基本原理,关于反向传播具体的数学细节你可以参考相关文献,其要点如下:

  • 在感知器的输入层和输出层之间添加隐藏层,就可以得到多层感知器;
  • 多层感知器是一类前馈神经网络,采用的是反向传播的学习方式;
  • 反向传播算法要根据误差函数的梯度来调整权重系数,需要应用求导的链式法则;
  • 单个隐藏层就能使多层感知器以任意精度逼近任意复杂度的连续函数。

image

各人自扫门前雪:径向基函数神经网络


径向基函数神经网络的基本原理,其要点如下:

  • 径向基网络采用局部逼近方式,每个神经元只对特定的输入信号产生作用;
  • 径向基网络的隐藏神经元使用径向基函数作为传递函数,常用的径向基函数是高斯函数;
  • 径向基函数可以将低维空间上的线性不可分问题转化为高维空间上的线性可分问题;
  • 使用高斯函数的径向基网络可以用 K 均值聚类算法结合递归最小二乘法进行训练。

image

看不见的手:自组织特征映射


自组织特征映射的基本原理,其要点如下:

  1. 自组织映射是一类无监督学习的神经网络,模拟了生物神经系统的竞争性学习机制;
  2. 自组织映射能将任意维度的输入模式转换为一维或二维的离散映射,得到的特征映射是拓扑有序的;
  3. 在拓扑映射中,输出神经元的空间位置对应了输入数据的模式或特征;
  4. 自组织映射网络的训练包括竞争过程、合作过程和自适应过程等几个主要步骤。

image

水无至清,人莫至察:模糊神经网络


模糊神经网络的基本概念,其要点如下:

  • 模糊神经网络是神经网络和模糊逻辑结合形成的混合智能系统;
  • 模糊神经网络的输入信号、权重系数和输出信号全都是模糊集合;
  • 模糊神经网络的主要学习算法包括基于水平集的方法和基于遗传算法的方法;
  • 模糊神经网络具有和传统神经网络类似的通用逼近特性。

image

拓展阅读参考书


本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏计算机视觉战队

深度判别和共享特征学习的图像分类

秋雨思童年,落花念爱霖!一场秋雨的洗礼,让我们进入了真正能感觉得到的秋季。秋季是丰收的季节,不知朋友您收获如何?但是我相信您一定硕果累累,满载着各种成果、业绩和...

2807
来自专栏IT派

机器学习之集成学习

1. 关于集成学习的概念   集成学习是机器学习中一个非常重要且热门的分支,是用多个弱分类器构成一个强分类器,其哲学思想是“三个臭皮匠赛过诸葛亮”。一般的弱分类...

3156
来自专栏生信小驿站

过拟合和欠拟合

监督式机器学习通常理解为逼近一个目标函数,此函数映射输入变量(X)到输出变量(Y).Y=f(X)。从训练数据中学习目标函数的过程中,我们必须考虑的问题是模型在预...

642
来自专栏机器学习算法与Python学习

一文读懂卷积神经网络(CNN)

先明确一点就是,Deep Learning是全部深度学习算法的总称,CNN是深度学习算法在图像处理领域的一个应用。

3.9K26
来自专栏机器之心

学界 | DeepMind论文:CNN的变形稳定性和池化无关,滤波器平滑度才是关键

1374
来自专栏CVer

ECCV 2018 | 目标检测的可学习区域特征

本文经机器之心(微信公众号:almosthuman2014)授权转载,禁止二次转载

872
来自专栏机器人网

卷积神经网络概念与原理

受Hubel和Wiesel对猫视觉皮层电生理研究启发,有人提出卷积神经网络(CNN),Yann Lecun 最早将CNN用于手写数字识别并一直保持...

822
来自专栏智能算法

机器学习三人行(系列九)----千变万化的组合算法(附代码)

上节中我们讲解了决策树的使用: 机器学习三人行(系列八)----神奇的分类回归决策树(附代码) 本文我们在决策树的基础上,更进一步的讨论由常用机器学习算法进行组...

36210
来自专栏专知

【干货】对于回归问题,我们该怎样选择合适的机器学习算法

本文分别介绍:线性回归和多项式回归、神经网络、决策树和决策森林,并分别列出了其各自优缺点,相信有助于指导我们在特定工作中选择合适的算法。

4087
来自专栏数据科学与人工智能

【机器学习】参数和非参数机器学习算法

什么是参数机器学习算法并且它与非参数机器学习算法有什么不同? 本文中你将了解到参数和非参数机器学习算法的区别。 让我们开始吧。 ? 学习函数 机器学习可以总结...

3115

扫码关注云+社区