赫尔辛基大学AI基础教程：神经网络基础（5.1节）

AiTechYun

发布于 2018-07-27 11:24:05

4590

发布于 2018-07-27 11:24:05

文章被收录于专栏：ATYUN订阅号ATYUN订阅号

AiTechYun

编辑：yxy

我们的接下来要讨论的：深度学习和神经网络，它们往往比其他主题使人感兴趣。

原因之一是希望了解我们自己的思想，这是从我们大脑中的神经处理中产生的。另一个原因是近年来通过结合大量数据集和深度学习技术实现的机器学习的进步。

什么是神经网络？

为了更好地理解整体，我们将首先讨论构成它的各个单位。神经网络可能是指一个“真实”的生物神经网络，例如你的大脑中的神经网络，或者是一个在计算机中模拟的人工神经网络。

关键术语

深度学习

深度学习是指某些种类的机器学习技术，其中几个“层”的简单处理单元连接在一个网络中，以便系统的输入依次通过它们中的每一个。这种架构的灵感来自于大脑中视觉信息的处理以及视网膜捕获的视觉信息。这个深度允许网络学习更复杂的结构，而不需要不切实际的大量数据。

神经元，细胞体和信号

一个神经网络，无论是生物还是人工的，都由大量简单的单位组成，即神经元，它们彼此接收和传输信号。神经元是非常非常简单的信息处理器，由细胞体和连接神经元的线组成。大多数时候，他们什么也不做，只是静静地等待传入的信号。

树突，轴突和突触

在生物学术语中，树突为神经元提供输入。根据传入的信号，神经元可以发出信号，让其他神经元接收。而轴突用于传出信号。每个轴突可以连接到称为突触的交叉点处的一个或多个树突。

一个单独的神经元与它的同类神经元分离开来并不能起什么作用，只能做出一些非常有限的行为。然而，当它们彼此连接时，由其一致行动产生的系统可能变得非常复杂。（图A：你的大脑）系统的行为取决于神经元连接在一起的方式。每个神经元以一种特定的方式对输入信号作出反应，这种方式也可以随着时间的推移而改变。已知这种改变是记忆和学习等功能的关键。

练习20.神经网络的元素

将图中的神经元的不同部分标记出来。

为何开发人工神经网络？

建立人工大脑模型的可以对神经科学，大脑和神经系统的进行研究。人们认为，通过足够详细地描绘人类大脑，我们可以发现人类和动物的认知和意识的秘密。

注意

建模大脑

由美国神经科学研究人员领导的大脑计划正在推动用于成像，建模和模拟大脑的技术，他们现在比以前更精细也更大规模的模仿大脑。一些大脑研究项目的目标非常雄心勃勃。大约5年前人类大脑计划承诺人类大脑的奥秘很快就会被解开。但经过多年的努力，人脑项目面临着这样的问题：怎么交代欧盟投资的十亿欧元（尽管公平地说，还是有一些相对较小但也算得上是里程碑式的目标已经达成）。

然而，尽管我们似乎离理解大脑和意识还很遥远，但神经科学也已经取得了显著的突破。通过更好地理解大脑的结构和功能，我们已经获得了一些具体的回报。例如，我们可以识别异常功能并尝试帮助大脑避开它们并恢复正常。这可能会导致患有神经疾病的人们改变生活的新疗法：癫痫，阿尔茨海默病，由发育障碍引起的问题或受伤引起的损伤等等。

注：

展望未来：脑机接口

神经科学的一个研究方向是脑机接口，它可以通过简单的思考与计算机交互。目前的接口的作用还非常有限，例如，它们可以用于在非常粗略的重建人们正在看到的内容，或者通过思考控制机器人手臂或无人机。也许有一天，我们可以实现一种思想阅读机器，它可以实现精确的指令，但目前它们只存在于科幻小说中。也可以想象，我们可以通过小电子脉冲刺激信息将信息输入大脑。这种刺激目前用于治疗目的。提供具体的词汇，想法，记忆或情感等详细信息至少目前还属于科幻小说范畴而不是现实，但显然我们不知道这种技术的局限性，也不知道它们到底有多难

我们有点偏离了课程的主题。事实上，构建人工神经网络的另一个主要原因与理解生物系统没有多大关系。它是以生物系统作灵感来建立更好的人工智能和机器学习技术。这个想法很自然：大脑是一个非常复杂的信息处理系统，能够处理各种各样的智能行为（偶尔还会有一些不那么聪明的行为），因此，当我们试图创建人工智能系统时，寻找它的灵感是有意义的。

自20世纪60年代以来，神经网络一直是AI的主要趋势。最后一部分，我们将会讲到人工智能历史上的曾经流行的东西。目前，神经网络再次位列榜首，因为深度学习被用来在自然语言和图像处理等许多领域取得显著的进步，而传统上这些领域都是AI的痛点。

神经网络有什么特别之处？

一般而言，神经网络作为人工智能方法的一种，其依据与基于逻辑的方法类似。人们认为为了实现人类层次的智能，我们需要模拟更高层次的思维过程，尤其是使用逻辑规则操纵代表某些具体或抽象概念的符号。

神经网络的观点是，通过在神经元和神经网络的层次上模拟低层次、亚符号（subsymbolic）的数据处理，智能就会出现。听起来很合理，但请记住，为了制造飞行器，我们不会制造那些扇动翅膀的飞机，也不会制造由骨骼、肌肉和羽毛组成的飞机。同样，在人工神经网络中，神经元的内部机制通常被忽略，人造神经元通常比自然神经元简单得多。当人工模型的目标是建立AI系统而不是模拟生物系统时，自然神经元之间的电化学信号传递机制也大多被忽略。

与计算机传统工作方式相比，神经网络具有一些特殊特征：

神经网络的关键特征1

例如，在传统的计算机中，信息在CPU中处理，处理器一次只能集中处理一件事情。CPU可以从计算机内存中检索要处理的数据，并将结果存储在内存中。因此，数据存储和处理由计算机的两个独立组件处理：内存和CPU。在神经网络中，系统由大量的神经元组成，每个神经元都可以独立处理信息，因此神经元不是一个接一个地处理每一条信息，而是同时处理大量信息。

神经网络的关键特征2

第二个区别是数据存储（内存）和处理不像传统计算机那样分离。神经元既存储和处理信息，不需要从存储器中检索数据进行处理。这些数据可以短期存储在神经元本身（可以在一定时间内使用），也可以长期存储在神经元之间的连接（也就是权重）中，我们将在下文中讨论。

由于这两个差异，神经网络和传统计算机适用于有些不同的任务。尽管在传统计算机中模拟神经网络是完全可能的，而这正是他们长期使用的方式，但只有当我们使用能够同时处理许多信息的特殊硬件时才能发挥最大能力。这被称为并行处理。顺便提一下，图形处理器（或图形处理单元，GPU）具有这种能力，它们已经成为运行大量深度学习方法的经济有效的解决方案。