人工智能-人工神经网络

道法自然,久藏玄冥:神经网络的生理学背景


人工神经网络的生理学背景,也对人类认知的物理基础与工作机制做了简单的介绍,其要点如下:

  • 思维过程是神经元的连接活动过程,由大量突触相互动态联系着的众多神经元协同作用来实现;
  • 大脑的思维源于从神经元到神经网络再到神经回路的功能逐级整合;
  • 大脑对信息的加工可以理解为复杂的多次特征提取过程;
  • 在大脑中,数据的传输和处理是同步进行的。

image

一个青年才俊的意外死亡:神经元与感知器


神经网络的鼻祖感知器的基本原理,其要点如下:

  • 人工神经网络的神经元用传递函数对输入的线性加权进行非线性处理以产生输出;
  • 感知器是一种二分类的监督学习算法,通过自适应调整权重解决线性分类问题;
  • 感知器的神经元之间通过权重传递信息,权重的变化根据误差来进行调节;
  • 感知器不能解决以异或为代表的线性不可分问题。

image

左手信号,右手误差:多层感知器


多层感知器和反向传播的基本原理,关于反向传播具体的数学细节你可以参考相关文献,其要点如下:

  • 在感知器的输入层和输出层之间添加隐藏层,就可以得到多层感知器;
  • 多层感知器是一类前馈神经网络,采用的是反向传播的学习方式;
  • 反向传播算法要根据误差函数的梯度来调整权重系数,需要应用求导的链式法则;
  • 单个隐藏层就能使多层感知器以任意精度逼近任意复杂度的连续函数。

image

各人自扫门前雪:径向基函数神经网络


径向基函数神经网络的基本原理,其要点如下:

  • 径向基网络采用局部逼近方式,每个神经元只对特定的输入信号产生作用;
  • 径向基网络的隐藏神经元使用径向基函数作为传递函数,常用的径向基函数是高斯函数;
  • 径向基函数可以将低维空间上的线性不可分问题转化为高维空间上的线性可分问题;
  • 使用高斯函数的径向基网络可以用 K 均值聚类算法结合递归最小二乘法进行训练。

image

看不见的手:自组织特征映射


自组织特征映射的基本原理,其要点如下:

  1. 自组织映射是一类无监督学习的神经网络,模拟了生物神经系统的竞争性学习机制;
  2. 自组织映射能将任意维度的输入模式转换为一维或二维的离散映射,得到的特征映射是拓扑有序的;
  3. 在拓扑映射中,输出神经元的空间位置对应了输入数据的模式或特征;
  4. 自组织映射网络的训练包括竞争过程、合作过程和自适应过程等几个主要步骤。

image

水无至清,人莫至察:模糊神经网络


模糊神经网络的基本概念,其要点如下:

  • 模糊神经网络是神经网络和模糊逻辑结合形成的混合智能系统;
  • 模糊神经网络的输入信号、权重系数和输出信号全都是模糊集合;
  • 模糊神经网络的主要学习算法包括基于水平集的方法和基于遗传算法的方法;
  • 模糊神经网络具有和传统神经网络类似的通用逼近特性。

image

拓展阅读参考书


本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习算法工程师

《机器学习》笔记-线性模型(3)

作者:刘才权 编辑:李文臣 写在前面 ...

3964

时间序列预测如何变成有监督学习问题?

时间序列预测问题可以作为一个有监督学习问题来解决。

1K5
来自专栏华章科技

这份深度学习课程笔记获吴恩达点赞

吴恩达在推特上展示了一份由 TessFerrandez 完成的深度学习专项课程信息图,这套信息图优美地记录了深度学习课程的知识与亮点。因此它不仅仅适合初学者了解...

943
来自专栏大数据挖掘DT机器学习

逻辑回归、决策树和支持向量机

作者:赵屹华,计算广告工程师@搜狗, http://www.csdn.net/article/2015-11-26/2826332 这篇文章,我们将讨论如何在逻...

2934
来自专栏机器之心

入门 | 半监督学习在图像分类上的基本工作方式

46610
来自专栏机器之心

深度 | OpenAI发布「块稀疏」GPU内核:实现文本情感分析与图像生成建模当前最优水平

选自 OpenAI 作者:Durk Kingma、Scott Gray、Alec Radford 机器之心编译 参与:黄小天、刘晓坤 近日,OpenAI 在其一...

3216
来自专栏魏晓蕾的专栏

【机器学习】CS229课程笔记notes2翻译-Part IV生成学习算法

      到目前为止,我们主要谈论建模p(y|x;θ)的学习算法,给定x的y的条件分布。例如,logistic回归建模p(y|x;θ)为hθ(x)=g(θTx...

2556
来自专栏数据科学与人工智能

【机器学习】特征工程

作者:JasonDing1354 引言 在之前学习机器学习技术中,很少关注特征工程(Feature Engineering),然而,单纯学习机器学习的算法流程,...

5035
来自专栏智能算法

长文干货!走近人脸检测:从VJ到深度学习(下)

深度学习给目标检测带来的变革 人脸检测作为一种特定类型目标的检测任务,一方面具有其自己鲜明的特点,需要考虑人脸这一目标的特殊性,另一方面其也和其它类型...

3968
来自专栏企鹅号快讯

行人再识别中的迁移学习

最近,在网上搜索关于“行人重识别”及“行人再识别”等关键词,发现几乎都是关于行人检测的内容。对于“行人重(再)识别”技术能找到的资料很少,这可能是因为“行人重(...

4297

扫码关注云+社区

领取腾讯云代金券