软件2.0-Andrej Karpathy

https://medium.com/@karpathy/software-2-0-a64152b37c35

Andrej Karpathy

人工智能主任特斯拉。以前在OpenAI的研究科学家和在斯坦福大学的博士生。我喜欢在大型数据集上训练深度神经网络。

11月12日

软件2.0

我有时会看到人们将神经网络称为“机器学习工具箱中的另一个工具”。他们有一些优点和缺点,他们在这里或那里工作,有时你可以用他们赢得Kaggle比赛。不幸的是,这种解释完全错过了森林的树木。神经网络不仅仅是另一个分类器,它代表了我们如何编写软件的根本转变的开始。他们是软件2.0。

Software 1.0的“经典堆栈” 是我们所熟悉的 - 它是用Python,C ++等语言编写的。它由对程序员编写的计算机的明确指令组成。通过编写每行代码,程序员正在识别程序空间中的一个特定点,并具有一些理想的行为。

相比之下,Software 2.0是用神经网络权重编写的。没有人参与编写这个代码,因为有很多的权重(典型的网络可能有数百万),直接用权重编码是困难的(我试过)。相反,我们对一个理想程序的行为(例如输入输出对实例的一个数据集)指定了一些约束,并使用我们可用的计算资源来搜索程序空间以寻找满足约束条件的程序。在神经网络的情况下,我们将搜索限制在程序空间的一个连续的子集,在那里搜索过程可以用反向传播和随机梯度下降(有点令人惊讶地)有效

事实证明,大部分现实世界的问题具有收集数据比明确写入程序要容易得多的性质。很大一部分明天的程序员不会维护复杂的软件库,编写错综复杂的程序或分析其运行时间。他们收集,清理,操纵,标记,分析和可视化提供神经网络的数据。

软件2.0不会取代1.0(实际上,需要大量的1.0基础设施来训练和推断“编译”2.0代码),但它将占据软件1.0当今所负责的越来越多的部分。让我们来看一些正在进行的过渡的例子,以便更具体一些:

视觉识别过去是由工程特征组成的,机器学习的一点点在最后(如SVM)。从那以后,我们开发了一个机制来发现更强大的图像分析程序(在ConvNet体系结构中),最近我们已经开始寻找体系结构。

语音识别涉及到大量的预处理,高斯混合模型和隐马尔可夫模型,但是现在几乎全部是神经网络。

语音合成在历史上已经用各种拼接机制来处理,但是现在最先进的模型是产生原始音频信号输出的大型虚拟网络(例如WaveNet)。

机器翻译通常是基于短语统计技术的方法,但是神经网络正迅速成为主导。我最喜欢的架构是在多语言环境中进行培训的,在这种环境下,单一模型可以从任何源语言翻译成任何目标语言,在弱监督(或完全无人监督)的环境下翻译。

机器人具有将传感,姿态估计,规划,控制,不确定性建模等问题分解为多个中间表示的显式表示和算法的悠久传统。我们目前还不是很清楚,但加州大学伯克利分校和Google的研究表明,Software 2.0可能能够更好地代表所有这些代码。

游戏。去玩节目已经存在了很长一段时间,但是AlphaGo Zero(一个看着棋盘的原始状态并且发挥作用的ConvNet)现在已经成为了这个游戏中最强大的玩家。我希望在其他领域看到非常相似的结果,比如DOTA 2或者StarCraft。

你会注意到,我上面的很多链接都涉及在Google上完成的工作。这是因为Google目前处于将大部分本身重新编写成Software 2.0代码的最前沿。“ 一个统一所有制度的模式 ”为我们提供了一个初步的概念,即将各个领域的统计强度合并为一个对世界的一致理解。

软件2.0的好处

为什么我们更喜欢将复杂的程序移植到Software 2.0中?显然,一个简单的答案就是他们在实践中更好地工作。但是,还有很多其他方便的理由来选择这个堆栈。让我们来看看软件2.0的一些好处(想一想:一个ConvNet)与软件1.0相比(想一想:一个生产级的C ++代码库)。软件2.0是:

计算均匀。一个典型的神经网络是由一个只有两个操作的三明治构成的:矩阵乘法和零点阈值(ReLU)。将其与经典软件的指令集进行比较,该指令集显得更为异构和复杂。由于您只需为少数核心计算原语(例如矩阵乘法)提供软件1.0实现,就可以更容易地进行各种正确性/性能保证。

很容易烧成硅。作为推论,因为神经网络的指令集相对较小,所以实现这些网络非常容易,比如使用定制的ASIC,神经形态的芯片等。当低能力的智能在我们周围变得普遍时,世界将会改变。例如,小巧便宜的芯片可以附带一个预训练的ConvNet,一个语音识别器,以及一个WaveNet语音合成网络,这些网络都集成在一个小的原生细胞中,您可以附加到任何东西上。

恒定运行时间。典型的神经网络正向传递的每一次迭代都需要完全相同的FLOPS量。根据不同的执行路径,您的代码可能会通过一些庞大的C ++代码库来实现零变化。当然,你可以有动态的计算图,但执行流程通常仍然受到很大的限制。这样我们也几乎可以保证永远不会发现自己处于无意识的无限循环中。

常量内存使用。与上面相关的是,在任何地方都没有动态分配的内存,所以交换到磁盘的可能性也很小,或者你必须在代码中寻找内存泄漏。

它非常便携。与传统的二进制或脚本相比,矩阵乘法的序列在任意的计算配置上运行起来要容易得多。

这是非常敏捷的。如果你有一个C ++代码,并且有人希望你做两倍的速度(如果需要的话,性能上的代价),调整新规范的系统是非常不平凡的。但是,在2.0版软件中,我们可以利用我们的网络,删除一半的通道,重新训练,而且在那里 - 运行速度是两倍,而且工作效率更差一些。这是魔法。相反,如果你碰巧得到更多的数据/计算,只需增加更多的渠道和再培训,就可以立即使你的程序更好地工作。

模块可以融合成一个最佳的整体。我们的软件经常被分解成通过公共功能,API或端点进行通信的模块。但是,如果两个原本分开训练的Software 2.0模块相互作用,我们就可以很容易地在整体上反向传播。想一想,如果你的网络浏览器能够自动地重新设计底层的系统指令10堆栈以达到更高的网页加载效率。2.0,这是默认的行为。

拿起来很容易。我喜欢开玩笑,深度学习是浅薄的。在你做任何有用的事情之前,这不是你需要博士学位的核物理学。基础概念需要基本的线性代数,微积分,Python和CS231n的一些讲座。当然,随着时间的推移,人们可以获得大量的专业知识和直觉,所以更精确的说法是,软件2.0堆栈很容易拾取,但不是很容易掌握。

这比你好。最后,也是最重要的一点,神经网络是一个比任何你或我可以在很大一部分有价值的垂直线上都能提出的更好的代码,目前这至少与图像/视频,声音/语音和文字。

软件2.0的局限性

2.0堆栈也有其自身的一些缺点。在优化结束时,我们剩下的大型网络运行良好,但很难说清楚。在许多应用领域,我们将会选择使用我们理解的90%精确模型,或者99%精确模型。

2.0堆栈可能会以不直观和令人尴尬的方式失败 ,或者更糟糕的是,他们可能会“默默地失败”,例如,通过默认的训练数据中的偏见,这些数据很难正确地分析和检查它们的大小在几百万在大多数情况下。

最后,我们仍然发现这个堆栈的一些特殊属性。例如,敌对的例子和攻击的存在突出了这个堆栈的直觉性。

最后几个想法

如果将神经网络看作是一个软件堆栈,而不仅仅是一个很好的分类器,很显然,它们具有大量的优势,并且有很大的潜力来改造软件。

从长远来看,软件2.0的未来是光明的,因为许多人越来越清楚,当我们开发AGI时,肯定会写成2.0软件。

和软件3.0?这完全取决于AGI。

  • 机器学习
  • 人工智能
  • 程序设计
  • 软件开发
  • 未来

一个拍手,两个拍手,三个拍手,四十个?

通过或多或少的鼓掌,您可以向我们表明哪些故事真正脱颖而出。

26K

92

  • 以下 Andrej Karpathy 人工智能主任特斯拉。以前在OpenAI的研究科学家和在斯坦福大学的博士生。我喜欢在大型数据集上训练深度神经网络。

原文发布于微信公众号 - CreateAMind(createamind)

原文发表时间:2017-12-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

【观点】社会网络分析:探索人人网好友推荐系统

image.png 最近四五年间,互联网行 业似乎总是绕不开社交网络这个概念。无论是旗舰级别的传说中的facebook、LinkedIn,还是如雨后春笋般冒...

369120
来自专栏IT大咖说

别急!看完文章再来说你懂TensorFlow

18610
来自专栏玉树芝兰

如何用《玉树芝兰》入门数据科学?

链接起散落的文章,给《玉树芝兰》数据科学系列教程做个导读,帮你更为高效入门数据科学。

20010
来自专栏新智元

【并非愚人节】科学家创建可自我复制的神经网络,AI像生命体一样繁殖

19530
来自专栏AI研习社

从深度学习到机器人控制,2017 人工智能新开发工具盘点

2017 年,在深度学习技术的加持下,CV、NLP、数据分析等领域全面开花,同时大量新开发工具和开源软件的涌现,降低了人工智能开发的门槛,加速了深度学习的普及。...

38760
来自专栏机器人网

利用机器视觉OCR提升包装生产线性能的三种方法

OCR 是什么? OCR,或光学字符识别,是一种广泛应用于包装业的视觉系统工具。与条形码技术一样,OCR 也是一种数据采集的方法。它的最大优势在于其信息代码格式...

36450
来自专栏大数据文摘

谷歌首届TensorFlow开发者峰会 重磅发布TensorFlow 1.0 | 附主题演讲视频

17330
来自专栏AI研习社

Tensorflow的迭代更新 | Tensorflow 最全资料汇总【1】

【AI研习社】关注AI前沿、开发技巧及技术教程等方面的内容。欢迎技术开发类文章、视频教程等内容投稿,邮件发送至:zhangxian@leiphone.com 谷...

37090
来自专栏量子位

讲道理,我觉得TensorFlow太逊了

原作:Nico Jimenez 安妮 编译自 Nico’s Blog 量子位 出品 | 公众号 QbitAI 本文作者Nico Jimenez。自2015年从斯...

366100
来自专栏CSDN技术头条

Twitter开源云环境时间序列数据断层检测工具BreakoutDetection

【编者按】区别于传统环境,鉴于云环境中众多不可预测的因素和异常,其时间序列breakout检测并不容易。近日,Twitter开源了一款基于E-Divisive ...

31950

扫码关注云+社区

领取腾讯云代金券