受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。近年来卷积神经网络在多个方向持续发力，在语音识别、人脸识别、通用物体识别、运动分析、自然语言处理甚至脑电波分析方面均有突破。
本文来自YouTube 上的一段 5 分钟的漫画版视频[2]。这段关于“什么是神经网络”的视频对神经网络的概念进行了有趣的介绍。我们将学习神经网络中存在的不同层，并了解这些层如何处理数据。我们将了解神经网络中使用的不同参数，如权重、偏差和激活函数。我们还将了解如何使用正向传播训练神经网络，然后使用反向传播方法调整网络中的误差。本视频还涵盖了一些流行的神经网络应用。现在，让我们直接开始学习什么是神经网络。
选自automating the future 机器之心编译 参与：Jane W、吴攀 在这篇文章中，作者们使用 Elixir 编程语言创建一个标准的 3x3 深度学习神经网络。希望读者能通过阅读本文而对先进的遗传编程（genetic programming）和 Elixir 中新的人工智能技术有更深的理解。 开篇语 研究深度学习如从事巫术般疯狂。人们必须花费相当多的时间理解技术，同时在创造真正自动化的东西时考虑其优点和缺点，还要在半夜醒来时担心自动化将对我们的社会造成多大的颠覆。 创建你的第一个神经网络
1）神经元（Neuron）：就像形成我们大脑基本元素的神经元一样，神经元形成神经网络的基本结构。想象一下，当我们得到新信息时我们该怎么做。当我们获取信息时，我们一般会处理它，然后生成一个输出。类似地，在神经网络里，神经元接收输入，处理它并产生输出，而这个输出被发送到其他神经元用于进一步处理，或者作为最终输出进行输出。
神经网络基础 1、神经元（Neuron）——就像形成我们大脑基本元素的神经元一样，神经元形成神经网络的基本结构。想象一下，当我们得到新信息时我们该怎么做。当我们获取信息时，我们一般会处理它，然后生成
作者 | Star先生（CSDN博客专家） 作者专栏：http://dwz.cn/80rGi5 编辑：AI科技大本营 ▌神经网络基础 1）神经元（Neuron）：就像形成我们大脑基本元素的神经元一
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/sinat_35512245/article/details/55224524
一、神经网络介绍 神经网络是由具有适应性的简单单元组成的广泛并行互联的网络，它的组织能够模拟生物神经系统对真实世界物体作出的交互反应。 神经网络中最基本的成分是神经元（neuron）模型，即简单神经元。 （1）神经元：模拟人体结构，将数据输入神经元，中间通过激活函数f（x），即一组算法，输出结果。它是组成神经网络的最小单位。 神经元示意图如下图所示： 图1 神经元示意图 为输入向量的各个分量；为神经元各个突触的权值；系数1与为偏置；f为传递函数，通常为非线性函数；t为神经元输出。 可见，一个神经元的功能是
小编邀请您，先思考： 深度学习有哪些重要概念，怎么理解？ 深度学习和机器学习有什么异同？ 人工智能，深度学习，机器学习—无论你在做什么，如果你对它不是很了解的话—去学习它。否则的话不用三年你就跟不上时代的潮流了。 ——马克.库班 马克.库班的这个观点可能听起来很极端——但是它所传达的信息是完全正确的！ 我们正处于一场革命的旋涡
很多人认为深度学习很枯燥，大部分情况是因为对深度学习的学术词语，特别是专有名词很困惑，即便对相关从业者，亦很难深入浅出地解释这些词语的含义。 相信读过此文的圈友，会对深度学习有个全新的认识，机器人圈希望可以为圈友的深度学习之路起到一些辅助作用。 人工智能，深度学习，机器学习—无论你在做什么，如果你对它不是很了解的话—去学习它。否则的话不用三年你就跟不上时代的潮流了。——马克.库班 马克.库班的这个观点可能听起来很极端——但是它所传达的信息是完全正确的！ 我们正处于一场革命的旋涡之中——一场由大数据和计算能
很多人认为深度学习很枯燥，大部分情况是因为对深度学习的学术词语，特别是专有名词很困惑，即便对相关从业者，亦很难深入浅出地解释这些词语的含义。
人工智能，深度学习，机器学习—无论你在做什么，如果你对它不是很了解的话—去学习它。否则的话不用三年你就跟不上时代的潮流了。 ——马克.库班 马克.库班的这个观点可能听起来很极端——但是它所传达的信息是完全正确的！ 我们正处于一场革命的旋涡之中——一场由大数据和计算能力引起的革命。 只需要一分钟，我们来想象一下，在20世纪初，如果一个人不了解电力，他/她会觉得如何？你会习惯于以某种特定的方式来做事情，日复一日，年复一年，而你周围的一切事情都在发生变化，一件需要很多人才能完成的事情仅依靠一个人和电力就可以轻松搞
【编者按】GPU因其浮点计算和矩阵运算能力有助于加速深度学习是业界的共识，Theano是主流的深度学习Python库之一，亦支持GPU，然而Theano入门较难，Domino的这篇博文介绍了如何使用GPU和Theano加速深度学习，使用更简单的基于Theano的 Nolearn库。教程由多层感知器及卷积神经网络，由浅入深，是不错的入门资料。 基于Python的深度学习 实现神经网络算法的Python库中，最受欢迎的当属Theano。然而，Theano并不是严格意义上的神经网络库，而是一个Python库，它可
上一次，我们了解了 Q-Learning：一种生成 Q-table 的算法，代理使用它来找到在给定状态下采取的最佳动作。
（接上篇） 吸引之处 那么到底什么是图像识别呢？世界上的大多数事物有自己的名称，图像识别的功能就是告诉人们这些图像上显示的是哪些事物。换句话来说，根据图像辨别出图像中出现的事物。 我们无法从椅子的内在去描述它, 能做的就是给出很多个不同椅子的样子，然后说：长得像这样的，我们就称为椅子。所以实际上，我们是通过将看到的事物与椅子的外观进行对比，如果两者很像，我们就认为这个事物叫椅子，如果不像，那它就不是椅子。 现在有很多系统采用这种吸引子Attractors。想像这样一个场景，在群山周围，一滴雨有可
【导读】随着知识图谱越来越火，知识图谱的表示渐渐成为研究重点，目前已经有 TransE,TranH,ComplEX 等一系列的方法，这些方法在标准数据集中都取得了较好的结果，但在其他数据集上结果不是很
生成对抗网络（GAN）是一种神经网络，可以生成类似于人类产生的材料，如图像、音乐、语音或文本。最近我们被客户要求撰写关于GAN生成对抗性神经网络的研究报告，包括一些图形和统计输出。
如上所示，深度学习作为人工智能的一种具有代表性的实现方法，取得了很大的成功。那么，深度学习究竟是什么技术呢？深度学习里的“学习”是怎么做到的呢？本文我们就来解答一下这个疑问，不过在此之前，我们需要先了解一下神经网络，因为深度学习是以神经网络为出发点的。
导读： 从训练到用不同的参数做实验，设计神经网络的过程是劳力密集型的，非常具有挑战性，而且常常很麻烦。但是想象一下，如果能够将这个过程实现自动化呢？将这种想象转变为现实，就是本指南的核心内容。 我们将探索一系列的研究论文，这些论文试图解决具有挑战性的自动化神经网络设计任务。在本指南中，我们假设读者尝试过使用 Keras 或 TensorFlow 等框架从头开始设计神经网络。
作者：Yangfan Hu等 机器之心编译 参与：Geek AI、张倩 脉冲神经网络（SNN）具有生物学上的合理性，并且其计算潜能和传统神经网络相同，主要障碍在于训练难度。为解决这个问题，浙江大学和四川大学近日提出了脉冲版的深度残差网络 Spiking ResNet。为解决模型转换的问题，研究者提出了一种新机制，对连续值的激活函数进行标准化，以匹配脉冲神经网络中的脉冲激发频率，并设法减少离散化带来的误差。在多个基准数据集上的实验结果表明，该网络取得了脉冲神经网络的当前最佳性能。 引言 研究表明，脉冲神经
人工神经网络表示一类机器学习的模型，最初是受到了哺乳动物中央神经系统研究的启发。网络由相互连接的分层组织的神经元组成，这些神经元在达到一定条件时就会互相交换信息（专业术语是激发（fire））。最初的研究开始于20世纪50年代后期，当时引入了感知机（Perceptron）模型。感知机是一个可以实现简单操作的两层网络，并在20世纪60年代后期引入反向传播算法（backpropagation algorithm）后得到进一步扩展，用于高效的多层网络的训练。有些研究认为这些技术起源可以追溯到比通常引述的更早的时候。直到20世纪80年代，人们才对神经网络进行了大量的学术研究，那时其他更简单的方法正变得更加有用。然后，由于G.Hinton提出的快速学习算法，以及2011年前后引入GPU后使大量数值计算成为可能，开始再度出现了神经网络研究的热潮。
上周，Geoffrey Hinton和他的团队发表了两篇论文，介绍了一种基于所谓的capsules(胶囊)的全新类型的神经网络。除此之外，该团队还发布了一种叫做“dynamic routing bet
导语：很多人认为深度学习很枯燥，大部分情况是因为对深度学习的学术词语，特别是专有名词很困惑，即便对相关从业者，亦很难深入浅出地解释这些词语的含义。本文编译自Analytics Vidhya，相信读过此文的圈友，会对深度学习有个全新的认识，机器人圈希望可以为圈友的深度学习之路起到一些辅助作用。文章略长，时长大约20分钟，请仔细阅读收藏。 人工智能，深度学习，机器学习—无论你在做什么，如果你对它不是很了解的话—去学习它。否则的话不用三年你就跟不上时代的潮流了。
选自DeepMind 作者：Adam Santoro等 机器之心编译 参与：机器之心编辑部 想象一下在阿加莎·克里斯蒂（《东方快车谋杀案》作者）的侦探小说里收集所有证据找出犯人的读者，在足球滚到河边时上前停球的小孩，甚至一个购物者在购买水果时比较猕猴桃和芒果的优点。 人类将这个世界理解为事物之间的关系。我们了解世界运行的方式，因为我们能对不同事物之间的联系做出逻辑推理——物理对象、语句，甚至抽象的想法。这种能力被称为关系推理，它是人类智能的核心。 我们以每天所有感官接收到的非结构化信息为基础构建这种关系。
生成对抗网络（GAN）是一种神经网络，可以生成类似于人类产生的材料，如图像、音乐、语音或文本（点击文末“阅读原文”获取完整代码数据）。
选自arXiv 作者：Antonio Valerio Miceli Barone等 机器之心编译 参与：Nurhachu Null、李泽南 在神经机器翻译问题中，不同的堆叠架构已经多次在不同研究中展现出了良好的表现，而深度转换架构（Deep transition architecture）则成功地用于语言建模等用途中。爱丁堡大学与 Charles University 的研究者们对这两种架构的多个组合形式在 WMT 翻译任务中的表现进行了测试，并提出了结合堆叠与深度转换的新型神经网络：BiDeep RNN。
机器之心原创 作者：Qintong Wu 参与：Jane W 随着复杂和高效的神经网络架构的出现，卷积神经网络（CNN）的性能已经优于传统的数字图像处理方法，如 SIFT 和 SURF。在计算机视觉领域，学者们开始将研究重点转移到 CNN，并相信 CNN 是这一领域的未来趋势。但是，人们对成效卓著的 CNN 背后的机理却缺乏了解。研究 CNN 的运行机理是当今一个热门话题。基本上，有三种主流观点：1>优化、2>近似、3>信号。前两种观点主要集中在纯数学分析，它们试图分析神经网络的统计属性和收敛性，而第三种观
作者：Simon S. Du、Jason D. Lee、Haochuan Li、Liwei Wang、Xiyu Zhai
KDD，国际数据挖掘与知识发现大会，全称：ACM SIGKDD Conference on Knowledge Discovery and DataMining，是数据挖掘领域国际最高级别会议。
然后输出两张图片的差异值--如果你放进同一个人的两张照片，你希望他能输出一个很小的值，如果你放进两个长相差别很大的人的照片
选自Springboard 作者：Jose Portilla 机器之心编译 参与：Jane W、吴攀 本教程的代码和数据来自于 Springboard 的博客教程。本文的作者为 Jose Portilla，他是网络教育平台 Udemy 一门数据科学类课程的讲师。 GitHub 链接：https://github.com/Rogerh91/Springboard-Blog-Tutorials/blob/master/Neural%20Networks%20/JMPortilla_SpringBoard_Bl
神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。
人工智能，深度学习和机器学习，不论你现在是否能够理解这些概念，你都应该学习。否则三年内，你就会像灭绝的恐龙一样被社会淘汰。 ——马克·库班（NBA小牛队老板，亿万富翁） 马克·库班的这番话可能听起来挺吓人的，但道理是没毛病的！我们正经历一场大革命，这场革命就是由大数据和强大电脑计算能力发起的。 让我们花几分钟回想一下20世纪初的景象。那个时候很多人都不懂什么是电，在过去几十年，甚至几百年的时间里，人们一直沿用一种方式去做某件事情，但是突然间，好像身边的一切都变了。 以前需要很多人才能做成的事情，现在只需要
神奇的神经网络 当我打开Google Photos并从我的照片中搜索“skyline”时，它找到了我在八月拍摄的这张纽约地平线的照片，而我之前并未对它做过任何标记。 当我搜索‘cathedral’，G
我们之前周二的机器学习专题已经结束了，我们把机器学习领域当中常用的算法、模型以及它们的原理以及实现都过了一遍。虽然还有一些技术，比如马尔科夫、隐马尔科夫、条件随机场等等没有涉及到。但是这些内容相比来说要弱一些，使用频率并不是非常高，我们就不一一叙述了，感兴趣的同学可以自行研究一下。我想像是GBDT、SVM这些模型都能理解的话，那些模型想必也不在话下。
研究人员发现，在神经网络推理的某些数据图中存在尖峰，这些尖峰往往出现在神经网络判断模糊与产生错误的地方。观察这些尖峰，研究人员可以更容易发现人工智能系统中的故障点。
深度学习毫无疑问会是以后的热门技术了，虽然不可能转行AI了，不过了解下其内部的基本原理也是很不错的，这篇是《深度学习的数学》第一章的读书笔记；
手机端运行卷积神经网络的一次实践 — 基于 TensorFlow 和 OpenCV 实现文档检测功能 1. 前言 本文不是神经网络或机器学习的入门教学，而是通过一个真实的产品案例，展示了在手机客户端上运行一个神经网络的关键技术点 在卷积神经网络适用的领域里，已经出现了一些很经典的图像分类网络，比如 VGG16/VGG19，Inception v1-v4 Net，ResNet 等，这些分类网络通常又都可以作为其他算法中的基础网络结构，尤其是 VGG 网络，被很多其他的算法借鉴，本文也会使用 VGG16 的基础
选自arXiv 作者：Zachary Lipton等 机器之心编译 参与：Panda 强化学习是近年来最受关注的人工智能研究方向之一，相关的研究成果也层出不穷，有的甚至引起了全世界的广泛讨论。近日，卡内基梅隆大学、微软研究院、谷歌和 Citadel 等机构在 arXiv 上联合发表了一篇研究论文，提出了一种将深度强化学习应用于对话系统的新技术：BBQ 网络。本论文已被 AAAI 2018 大会接收。论文第一作者为 Zachary Lipton，另外 Citadel 首席人工智能官邓力也是该论文的作者之一，以
简介 过去几年，深度神经网络在模式识别中占绝对主流。它们在许多计算机视觉任务中完爆之前的顶尖算法。在语音识别上也有这个趋势了。 虽然结果好，我们也必须思考……它们为什么这么好使？ 在这篇文章里，我综述一下在自然语言处理（NLP）上应用深度神经网络得到的一些效果极其显著的成果。我希望能提供一个能解释为何深度神经网络好用的理由。我认为这是个非常简练而优美的视角。 单隐层神经网络 单隐层神经网络有一个普适性（universality）：给予足够的隐结点，它可以估算任何函数。这是一个经常被引用的理论，它被误解和应用
什么是神经网络 我们现在所谈论的神经网络不是动物或者人上的神经网络，而是为计算机量身定制的神经系统。 计算机神经网络是一种模仿生物的神经中枢或者动物的神经网络的功能所涉及的结构，他本质上是一种数学模型或者是计算机模型。神经网络是由大多数的计算机神经元进行连接进行计算，大多数情况下，计算机神经元能够在外界的影响下可以改变自己的内部结构，可以逐步的适应的这样的一个逐步的过程。现代神经网络是一种基于现代统计学，逻辑概率学所构建的一种工具，常用来对于输入和输出间的特殊关系进行建模或者来探索数据间的模式，神经网络是
1 新智元原创 【新智元导读】10月18日，在中国自动化学会与新智元联合主办的 2016世界人工智能大会上，今日头条科学家、头条实验室总监李磊博士受邀发表演讲 。他分享了自己对深度学习技术的理解，解密今日头条的深度学习技术和应用，包括对话机器人、自动问答机器人、写新闻的机器人等等。演讲最后，李磊也谈到了深度学习目前面临的两大局限，以及实现通用人工智能所需要解决的三大难题。 讲者介绍：李磊博士，今日头条科学家、头条实验室总监。原百度美国深度学习实验室少帅科学家 。上海交通大学计算机系本科，卡耐基梅隆大学
y^ 当两个变量间存在线性相关关系时，常常希望建立二者间的定量关系表达式，这便是两个变量间的一元线性回归方程。假定x是自变量，y是随机变量，y对x的一元线性回归方程的表达式为：y ^ =a+bx 。因此字母头上加个“^”表示回归值，表示真实值的一种预测，实际的观测值与回归值是存在偏差的
本文提出超越神经架构搜索（NAS）的高效神经架构搜索（ENAS），这是一种经济的自动化模型设计方法，通过强制所有子模型共享权重从而提升了NAS的效率，克服了NAS算力成本巨大且耗时的缺陷，GPU运算时间缩短了1000倍以上。在Penn Treebank数据集上，ENAS实现了55.8的测试困惑度；在CIFAR-10数据集上，其测试误差达到了2.89%，与NASNet不相上下（2.65%的测试误差）
神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 神经网络中最基本的成分是神经元模型，即上述定义中的“简单单元”。如果某神经元的电位超过一个阈值，那么它就会被激活，即兴奋起来，向其他神经元发送化学物质。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
