未来人工智能会说谎吗?它们也会感到疼痛吗

未来机器人会说谎吗?

一般情况下,我们会认为机器人总是冷冰冰地进行分析,富于理性, 总是说真话。但是,如果要机器人融合到社会中,它们就可能必须学会说

谎,或至少有策略地保留自己的意见。

在生活中,我们一天会遇到好几次必须说善意谎言的情况。如果别人 问我们,他们长得怎么样,我们一般不敢说实话。善意的谎言就像润滑剂 一样,能够使社会的运转更平滑。如果要我们突然完全说真话(就像《大话王》中金•凯利的角色),很可能会造成混乱, 并伤害别人。如果你告诉别人他们的真实模样,或者你的真切感受,他们 会觉得受到冒犯,老板会炒你的鱿鱼,情人会抛弃你,朋友会离你而去,陌生人会给你一巴掌。一些想法最好还是藏在心里。

同样,机器人可能也需要学习说谎或隐瞒事实,不然它们就会冒犯人 类,被主人解雇。如果机器人在聚会上说实话,这可能让主人十分难堪, 造成混乱。所以,如果有人询问它的意见,它应该学会闪烁其词,学会外 交辞令和策略性语言。它要么回避问题,改换话题,说些陈词滥调,用问 题回答问题,要么就说善意的谎言(这些都是现在的聊天机器人所擅长 的)。这说明,机器人的程序中已经有了一张如何做出逃避性回应的清单, 必须从中选择一种使事情最为简化的回应。

需要机器人完全说真话的少数场合之一是对主人的直接提问进行回 答,主人可以理解这个答案可能真实而残酷。或许仅有的另外一个需要机 器人说真话的场合是警察办案的时候,这时需要完全的真相。除此之外,机器人可以自由地说谎,或者隐瞒事实。这样,社会的车轮才会顺利 转动。

换句话说,机器人必须社会化,就像十几岁的青少年一样。

机器人能感觉到疼痛吗?

我们一般会给机器人安排枯燥、肮脏或危险的工作。机器人没有理由 不做无休止的重复或肮脏的工作,因为我们不会给它们编入感觉到枯燥或 厌恶的程序。真正会产生问题的是当机器人面对危险工作的时候。这种情 况下,我们会希望对机器人编程使它能够感觉到疼痛。

我们进化出痛感,是因为它能帮助我们在危险环境中存活。儿童如果生下来就没有感觉疼痛的能力,这是一种基因缺陷,称为先天性无痛症。 表面看来,这似乎是一种福分,因为儿童在经历伤害时不会感到疼痛,但 事实上这更是一种诅咒。患这种病的儿童会遇到严重的问题,比如咬掉自 己的舌头,皮肤严重烧伤,割伤自己,有时会导致手指截肢。疼痛使我们 对危险保持警觉,告诉我们什么时候从燃烧的炉子上把手拿开,什么时候 停止带着扭伤的脚跑步。

某些时候,机器人的程序设计也应该使它感觉到疼痛,不然它们将不 会知道什么时候躲避危险。它们必须具有的第一种疼痛感是饥饿(即渴望 得到电能)。当电池用尽时,它们会变得绝望、着急,意识到不久自己的 电路就会关闭,自己的所有工作会陷入一团糟。它们越是接近没电,就越 发焦虑。

同样,不管它们有多么强壮,机器人也会偶然遇到所搬运的物体太 重,可能把肢体弄断的情况。或者,它们在钢铁厂的工作会接触到熔化的 金属,或者进人燃烧的大楼去帮助消防员时可能会遭遇过热。温度和压力 传感器会警告它们自己的设计规定已经被突破了。

但是,一旦在它们的情感清单中加入疼痛感,就会立即出现道德问 题。很多人认为我们不应该给动物施加不必要的疼痛,对机器人,人们也 可能有相同的感情。这就引出了机器人的权利问题。我们可能会颁布法律 限制机器人要面对的疼痛和危险值。如果机器人做的是枯燥或肮脏的工 作,人们并不会在意,但如果它们在从事危险工作时感到疼痛,人们可能 就会开始提议立法保护机器人。这甚至会引起法律冲突,机器人的主人和 制造商要求提高机器人能够忍受的痛感,而道德人士要求降低这种痛感。

这还可能会引发有关机器人其他权利的道德辩论。机器人可以拥有财 产吗?如果机器人偶然伤害到人会怎么样?能够对机器人进行诉讼,对它 们进行惩罚吗?在诉讼中由谁承担责任?机器人可以拥有另外一个机器人 吗?这种讨论引出了另外一个棘手的问题:应该给机器人道德感吗?这些问题现在还不好推论!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180815A0QE4800?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券