如果人工智能杀了人,谁来承担责任?

我们对人工智能的第一印象基本来自科幻电影,那些喜欢电影《终结者》的粉丝也许坚信未来人工智能将与人对抗,是一种人类已知威胁。这并不是毫无根据随着时间的推移,人工智能系统将会越来越不依靠传统的经典算法和代码,而且他们也会展示出更多我们无法预料到的行为。

显然,人工智能背后可以牵扯出很多伦理问题,并亟待有相应的法律来完善这个行业。法律哲学家John Donaher表示,如果能够仔细思考这些问题的话,说不定会有助于减少未来可能存在的风险。

一、人工智能需要规章制度吗?

如果从监管的角度来看人工智能,那么你会发现,严格的安全标准,以及建立完善的安全认证流程是非常必要的。不过,如何设计一个合适的机构与流程框架,并且让这个框架得以有效运行,依然是一个非常棘手的问题。

人工智能领域复杂难懂,而且外部世界对于人工智能研发圈子普遍缺乏认识,这也就是人工智能专家需要尽快创建行业框架的原因所在。实际上,这里所说的框架,就是规章制度,说通俗些也就是游戏规则。因此,这意味着人工智能顾问委员会需要和政府一起,尽快立法,建设行业标准。

我们不得不承认,人工智能行业存在巨大的潜在效益;但是标准和流程,需要不断的创建、更新、并且执行,这样才能达到一种持续性平衡,继而最大限度地提高公共福利和安全;当然,也只有这样,才不会扼杀创新,更不会出现不必要的法律负担。

事实上,站在国家的角度上,建立任何一个法律框架或游戏规则,都必须要足够灵活,监管机构不仅需要考虑到本国利益,也要从全球角度出发。这意味着在某种程度上,你不仅要考虑本国的人工智能产量,以权衡进口其他各国人工智能技术,同时,你还要思考该如何任何不同国家之间的安全标准和认证,必要的时候,你是否还需要遵守未来可能出现的国际条约或公约,等等。所有这一切,远比我们想象的要复杂得多。

因此,当我们沿着人工智能研发的道路上前行,围绕人工智能构建规章制度是必须要去做的事情,不要当一切都来不及时再后悔莫及。

二、人工智能犯了事,就没人担责任吗?

上面关于人工智能的监管的分析,但是现在我们要谈谈责任问题。人工智能的监管与责任,和安全与公共福利一样,都像是硬币的正反面。监管的目的,是为了确保人工智能系统尽可能的安全;而责任,其实就是为了当人工智能系统出错时,我们可以找到可以追究问题的人,或者再说的准确一点儿,就是找谁可以获得法律上的赔偿。

首先,我们可以模拟一个侵权(民事)责任问题,想象下,在不远的将来可能会发生这样一个场景:一辆无人驾驶拖拉机原本应该按照指令在A农民的田里播种,但是奇怪的是,它却把种子播种到了B农民家的田里。

让我们先假设A农民是完全按照操作手册来使用那辆无人播种拖拉机的,同时,我们也假设A农民无需再做其他额外的操作,比如在农田交界处设置无线电信标,等等。那么现在,假设农民B要来控告这次错误播种事件(我们暂且不考虑诸如滋扰和侵犯等问题),会遇到哪些问题呢?

实际上,有很多问题需要被回答,这个事故是农民A的责任吗?可能不是;那么,是无人播种拖拉机厂商的责任吗?有可能,但在此之前,我们是不是该明确与这些问题相关的责任和标准呢?比如无人播种拖拉机的行业标准是什么,制造商的产品规格是否符合相关标准呢?不仅如此,如果自己的土地被他人种植上了其他农作物,这是否算是财产损失,又是否能否追溯经济赔偿呢?

在一连串问题之前,我们其实是先假定了无人播种拖拉机里面的系统软件是由制造商开发的。那么接下来又有新的问题出现了,如果那套人工智能系统是由第三方开发公司完成开发的,该如何处理?还有,系统内部的软件代码是由多人合作完成的,又该如何界定各自的职责?

未来,人工智能到底会做出什么事来,包括人工智能系统的创造者也无法预料。但重要的是,可预见性,其实是处理责任过失问题中一个非常关键的组成部分。

为了能够让读者更好地理解可预见性问题,我们才会假设了上面那个无人播种拖拉机的案例,或许十年、二十年之后,人工智能已经不再是简单的种错庄稼这件事儿了,它可能会是某个意外让人们受伤,更严重一些,人工智能可能会不小心杀人。所以,如果我们的法律无法适时作出改变,那么未来将会导致更多问题出现。就拿上面那个人工智能种错庄稼的事情为例,当无法实现可预见性,最终的结果就是没人承担责任!

三、不可以直接责怪人工智能机器人吗?

由上面一连串的分析,也许你会想为什么我们不干脆去责怪机器人呢?毕竟,关于人工智能人格也有过讨论,而且人工智能系统本身也有担负刑事责任的可能。

但是,这种方法在实际应用时又有什么不一样呢?这里,还是借用别人曾经说过的一句话吧。“人工智能系统真的会像著名小说家艾萨克·阿西莫夫笔下的机器管家那样吗?遵守法律,遵从道德良知,还能保护银行存款?”

我们姑且不去讨论人工智能系统是否可以被起诉,但人工智能制造商和开发商们必须受到监管。只有这样,才有可能将一些无法归责的各方,用严格责任赔偿(注:严格责任赔偿是指只要造成了损害,不论行为人有无过错,都要承担赔偿责任。 常见的适用于无过错责任原则的,有从事高压、剧毒、高速、放射等作业造成他人损害的。工伤是典型的适用无过错责任原则的,也就是说只要劳动者在工作期间因公受伤了,排除劳动者个人主观故意的因素之外,雇用单位无论有无过错都要承担工伤赔偿的责任的。)约束起来,

实际上,在我们的日常生活里,严格责任赔偿已经应用到了很多地方。当然除了这种责任赔偿之外,如果需要对人工智能追责,其实也可以采用无过错责任赔偿和赔偿方案池等方式。

我们可以大胆猜测一下,在过几年无人驾驶也许会占领汽车领域,必定会掀起热烈的讨论。当我们将无人驾驶汽车所涉及到的问题解决的差不多时,人工智能还会是事儿吗?

原文发布于微信公众号 - 镁客网(im2maker)

原文发表时间:2015-08-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏科技向令说

信商和博弈论能解决消费升级与反脆弱吗?

在日本海底有一个国家叫小日本,该国居民都是小矮人,故又称小人国。一天,海底世界的霸主彩虹国爆发股市大崩盘并在海底世界引发金融核弹冲击波,将小日本的金融体系彻底冲...

942
来自专栏量子位

华为任正非:高科技不是砸钱就能成功,清醒看待中美差距

1403
来自专栏罗超频道

Amazon的VP为什么不能Qualify中国互联网公司?

这几天在朋友圈有一篇文章又双叒叕引发了站队。 一个自称是Amazon前VP的人,去乐视干了几个月VP之后,重返Amazon,并写了一篇长文讲述其为何离开乐视,以...

4005
来自专栏机器人网

90后小伙孔尧和他用278天做的明机器人

孔尧在展示他的明机器人 “Everything is back-words now. Like out there is the true world,and ...

3063
来自专栏企鹅号快讯

科协带你开个2017年科技世界的总结会!

当付款无需现金 签到只需刷脸时 科技正无声无息地改变着我们的生活方式 ? 2017年已进入倒计时 这一年科技的世界又发生了哪些变化呢 快来看看 DATA 消失的...

2008
来自专栏数据的力量

创新何谈公平:流量的马太效应

每个互联网人,也许最不缺乏的就是一腔追逐自由平等的热血。我们感触着互联网带来的改变,倾听着内心深处渴望自由的拨动,共享着这个我们自己的世界:没有传统社会上各种所...

1368
来自专栏ThoughtWorks

ThoughtWorks的格调 | MD脑洞

编者按 企业管理对于快速发展的行业来说是一个永远的谜题,但企业的文化和特质似乎是那只看不见的手,决定着企业的人如何行事和选择甚至未来,粗暴单调、高高在上的管理方...

2875
来自专栏大数据文摘

腾讯架构师揭秘《微信用户报告》背后的巨大商机

3505
来自专栏腾讯大数据的专栏

解读《微信用户数据报告》的正确姿势

本文由“我道(myfaithmyroad)”授权转载 作者:刘志斌,字炫材,清华博士毕业,先后在盛大创新院、百度、腾讯任职。目前为微信大数据架构师,研究内容覆...

1K8
来自专栏图形学与OpenGL

《大学之路》读后总结

受益良多的一本书,上册中对大学的教育理念作了不少精辟的论述。我从本书上册中找出几个重要的问题,试着总结如下:

992

扫码关注云+社区

领取腾讯云代金券