人工智能-人工神经网络

道法自然,久藏玄冥:神经网络的生理学背景


人工神经网络的生理学背景,也对人类认知的物理基础与工作机制做了简单的介绍,其要点如下:

  • 思维过程是神经元的连接活动过程,由大量突触相互动态联系着的众多神经元协同作用来实现;
  • 大脑的思维源于从神经元到神经网络再到神经回路的功能逐级整合;
  • 大脑对信息的加工可以理解为复杂的多次特征提取过程;
  • 在大脑中,数据的传输和处理是同步进行的。

image

一个青年才俊的意外死亡:神经元与感知器


神经网络的鼻祖感知器的基本原理,其要点如下:

  • 人工神经网络的神经元用传递函数对输入的线性加权进行非线性处理以产生输出;
  • 感知器是一种二分类的监督学习算法,通过自适应调整权重解决线性分类问题;
  • 感知器的神经元之间通过权重传递信息,权重的变化根据误差来进行调节;
  • 感知器不能解决以异或为代表的线性不可分问题。

image

左手信号,右手误差:多层感知器


多层感知器和反向传播的基本原理,关于反向传播具体的数学细节你可以参考相关文献,其要点如下:

  • 在感知器的输入层和输出层之间添加隐藏层,就可以得到多层感知器;
  • 多层感知器是一类前馈神经网络,采用的是反向传播的学习方式;
  • 反向传播算法要根据误差函数的梯度来调整权重系数,需要应用求导的链式法则;
  • 单个隐藏层就能使多层感知器以任意精度逼近任意复杂度的连续函数。

image

各人自扫门前雪:径向基函数神经网络


径向基函数神经网络的基本原理,其要点如下:

  • 径向基网络采用局部逼近方式,每个神经元只对特定的输入信号产生作用;
  • 径向基网络的隐藏神经元使用径向基函数作为传递函数,常用的径向基函数是高斯函数;
  • 径向基函数可以将低维空间上的线性不可分问题转化为高维空间上的线性可分问题;
  • 使用高斯函数的径向基网络可以用 K 均值聚类算法结合递归最小二乘法进行训练。

image

看不见的手:自组织特征映射


自组织特征映射的基本原理,其要点如下:

  1. 自组织映射是一类无监督学习的神经网络,模拟了生物神经系统的竞争性学习机制;
  2. 自组织映射能将任意维度的输入模式转换为一维或二维的离散映射,得到的特征映射是拓扑有序的;
  3. 在拓扑映射中,输出神经元的空间位置对应了输入数据的模式或特征;
  4. 自组织映射网络的训练包括竞争过程、合作过程和自适应过程等几个主要步骤。

image

水无至清,人莫至察:模糊神经网络


模糊神经网络的基本概念,其要点如下:

  • 模糊神经网络是神经网络和模糊逻辑结合形成的混合智能系统;
  • 模糊神经网络的输入信号、权重系数和输出信号全都是模糊集合;
  • 模糊神经网络的主要学习算法包括基于水平集的方法和基于遗传算法的方法;
  • 模糊神经网络具有和传统神经网络类似的通用逼近特性。

image

拓展阅读参考书


本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习算法全栈工程师

《机器学习》笔记-线性模型(3)

作者:刘才权 编辑:李文臣 写在前面 ...

3664
来自专栏新智元

【重磅】计算机视觉和 CNN 发展十一座里程碑(附论文下载)

【新智元导读】从AlexNet到ResNet,计算机视觉领域和卷积神经网络(CNN)每一次发展,都伴随着代表性架构取得历史性的成绩。作者回顾计算机视觉和CNN过...

3434
来自专栏智能算法

长文干货!走近人脸检测:从VJ到深度学习(下)

深度学习给目标检测带来的变革 人脸检测作为一种特定类型目标的检测任务,一方面具有其自己鲜明的特点,需要考虑人脸这一目标的特殊性,另一方面其也和其它类型...

3598
来自专栏企鹅号快讯

行人再识别中的迁移学习

最近,在网上搜索关于“行人重识别”及“行人再识别”等关键词,发现几乎都是关于行人检测的内容。对于“行人重(再)识别”技术能找到的资料很少,这可能是因为“行人重(...

3067
来自专栏数据派THU

这份深度学习课程笔记获吴恩达点赞

来源:机器之心 通过本文用优美的信息图为大家解读深度学习课程的知识与亮点~ 吴恩达在推特上展示了一份由 TessFerrandez 完成的深度学习专项课程信息...

4907
来自专栏机器之心

入门 | 半监督学习在图像分类上的基本工作方式

37810
来自专栏机器之心

这是一份优美的信息图,吴恩达点赞的deeplearning.ai课程总结

机器之心整理 参与:思源、刘晓坤 吴恩达在推特上展示了一份由 TessFerrandez 完成的深度学习专项课程信息图,这套信息图优美地记录了深度学习课程的知识...

3496
来自专栏数据科学与人工智能

【机器学习】特征工程

作者:JasonDing1354 引言 在之前学习机器学习技术中,很少关注特征工程(Feature Engineering),然而,单纯学习机器学习的算法流程,...

4125
来自专栏AI研习社

深度学习目标检测概览

本文是翻译自Object detection: an overview in the age of Deep Learning - Tryolabs Blog ...

4106
来自专栏IT派

一文助你解决数据不平衡的疑惑

导语:这几年来,机器学习和数据挖掘非常火热,它们逐渐为世界带来实际价值。与此同时,越来越多的机器学习算法从学术界走向工业界,而在这个过程中会有很多困难。数据不平...

3218

扫码关注云+社区