面部识别智能驾驶,除了这些好处,人工智能还有那些弊端呢?

人工智能的益处和风险

“我们对文明所爱的一切都是智慧的产物,所以用人工智能增强人类智能有促进文明走向前所未有的兴盛的潜力。但,前提是我们能保持这项技术有利无弊。”

什么是人工智能?

从SIRI到自动驾驶汽车,人工智能(AI)正在迅速地发展。虽然科幻小说经常将人工智能描绘成具有人类特性的机器人,但人工智能可以涵盖从谷歌(Google)的搜索算法、IBM沃森 (人工智能程序)到自动武器的任何科技。

当今的人工智能准确地称其为专用人工智能(或弱AI),因为它被设计来执行的任务范围狭窄(例如,仅执行面部识别,或只进行互联网搜索,或仅驾驶汽车)。然而,许多研究人员的长期目标是创建通用人工智能(AGI或高级AI)。虽然专用人工智能 能在其特定的任务上超越人类,如下棋或解方程,AGI将在几乎所有认知任务上超越人类。

研究人工智能的安全性

在短期内,保障AI对社会有益的科研范畴可涵盖诸多领域如经济学和法学,以及验证法、有效性计算、安全性和控制论等技术层面课题。如果安全保障仅限于防止你的笔记本电脑死机或被黑客入侵,就算出了问题也只是给你添点小麻烦。但当AI系统控制汽车、飞机、心脏起搏器、自动交易系统或电网时, 我们必须保证该系统完全遵照我们的指令,否则后果将不堪设想。

从长远来看,一个重要的问题是,如果我们成功创造了能在所有认知功能上超过人类的通用人工智能,将会发生些什么。正如约翰·古德(Irving John Good)在1965年所说的,设计更有智慧的AI系统本身就是一个认知任务。这样的系统有潜力执行递归式的自我完善,触发智能爆炸,并远远地超越人类智力。通过发明革命性的新技术,这样的超级智能可以帮助我们消除战争,疾病和贫困。因此,创造高级AI可能是人类历史上最重大的事件。然而,一些专家表示担心,人类的历史也会随着此类的超强大AI的诞生戛然而止,除非我们学会在AI成为超级智能之前即可使其与我们同心所向。

有些人质疑高级AI是否会实现, 也有些人坚信创建超级智能对人类必定是有益的。这两种情形皆有可能,但我们更意识到人工智能系统具有有意或无意造成巨大危害的潜力。我们相信今日的研究意在防患于未然,使得未来人们受益于AI的同时,规避潜在风险隐患。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181213A1JS0700?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券