AI科学家们,有驯兽师要向你们传授两点必看的人生经验

李林 编译整理 量子位 出品 | 公众号 QbitAI

训练人工智能系统,和驯兽很像。

用动物做类比能帮普通人理解人工智能中很多复杂的方面,也能帮我们思考怎样让这些系统学新技能最好,最重要的是,还可以引导我们去考虑AI的局限性。

一位名叫Heather Roff的美女姐姐说。

Heather Roff

Heather是牛津大学政治及国际关系学院高级研究员,曾经做过驯兽师,现在正在研究人类如何运用AI。

她最近写了篇《理解动物能如何帮我们充分利用人工智能》,向AI科学家们传授了两点人生经验:

1. 给吃瓜群众讲AI,要靠和动物类比

普通人想让技术人员解释一下AI是什么,得到的答案多半会是“我们是怎么做AI的”。

讲深度学习,就说这种技术依靠多层神经网络来学习,需要处理海量信息,接下来难免讲到神经网络的算法、神经元之间复杂的连接方式。这时,吃瓜群众极有可能睡着:他只想知道这东西能干什么,怎么学会干这些的。

总把AI讲得像外星人一样,对科普没什么帮助;和我们训练过的小动物做个类比,倒是正合适。

Heather举了个用增强学习方法来训狗的例子。当狗正确地听从命令坐下,就表扬它、给它奖励,长此以往,它就学会了命令-行为-奖励这三者之间的联系。

训练AI系统也是一样,在深度增强学习中,人类设计、设置一个系统,预想一下他们想让系统学什么,给它信息,看它的行为然后给它反馈,比如说看到期望的行为就表扬它一下。

AI和狗,还有更深层次的相似性。

人类在训狗时,不会指望狗理解“爱”、“好”这种复杂的概念,只希望它掌握一种行为方式。同样,我们也可以让AI系统学会在公共道路上移动汽车,但指望它们去“解决”电车难题之类的道德问题,就想太多了。

2. 把AI当成狗,对研究也有帮助

当AI研究者教系统学新技能的时候,把这个过程看作训狗也有助于找到潜在的问题或并发症。

比如说,我想让狗听到“sit”就坐下,但是刚好在训练的时候,我一说sit烤箱的报警器响起来。结果,狗训练好了,听见“sit”会坐下,但是烤箱的报警器一响,它也会坐下。这就叫“意外强化(accidental reinforcement)”。

训练AI的时候也会发生类似的情况,所以,AI的研究人员们不仅要关注他们在训练过程中给AI系统的指令,也要注意AI在周围环境中可能观察到了什么。当然,烤箱报警器只是一个简单的例子,真实世界中的情况会比这复杂得多。

找到了AI系统被“意外强化”的原因,除了能帮我们预见错误,还能告诉我们怎样重新训练最有效。

最后,让我们回味一下《连线》杂志去年某篇封面文章的网络版标题:

Soon We Won’t Program Computers. We’ll Train Them Like Dogs.

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-04-03

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

AI在手,DJ我有

16440
来自专栏大数据文摘

全方位搜集汪星人行为数据,让AI学做一只狗 | 华盛顿大学最新研究

22250
来自专栏PaddlePaddle

从第一本书开始,如何成为深度学习工程师(上篇)

小编结合资料与工程师经验,梳理出一条深度学习工程师的成长路径及“练级大法”,希望可以帮到各位“炼丹师”稳步进阶,畅游深度学习海洋~

12420
来自专栏奇点大数据

围棋之后,AI玩FPS游戏也能秀人类一脸!

基于经典第一人人称射击游戏毁灭战士DOOM的AI挑战赛“Visual Doom AI Competition @ CIG 2016”尘埃落定,Facebook团...

43360
来自专栏AI研习社

读了这些书,才能正确入门深度学习

编者按:本文作者为 Jeffries Consulting 创始人 Daniel Jeffries,他以自己的阅读体验,对当前含金量极高的几本深度学习书籍进行点...

30660
来自专栏人工智能头条

微博大V@爱可可:arXiv论文怎么读?

17850
来自专栏AI科技评论

开发 | 入门深度学习,读对书很重要

AI科技评论按:本文作者为 Jeffries Consulting 创始人 Daniel Jeffries,他以自己的阅读体验,对当前含金量极高的几本深度学习书...

378110
来自专栏思影科技

NEJM:Waving Hello to Noninvasive Deep-Brain Stimulation

近日多伦多大学Andres M. Lozano等人在新英格兰医学杂志发文,介绍了无创深部脑刺激技术。通过两个频率差异较小的电场信号刺激,激活深部大脑细胞,同时避...

36650
来自专栏机器之心

严格的评选标准,造就了这张分享量过千的在线机器学习课程榜单

选自Medium 作者:David Venturi 机器之心编译 本文作者 David Venturi 是技术博客 freeCodeCamp 的知名主笔之一。 ...

39960
来自专栏数据的力量

史上最好的思维导图中文教程

13210

扫码关注云+社区

领取腾讯云代金券