监管AI？未来20年将出现具有人类意识的人工智能

史密斯和舒姆写了一本书——《未来计算》，详细描述了关于未来人工智能的预测。

据悉，他们致力于研制能够模拟人类思维能力的人工智能软件。

他们指出，这是一项技术突破，一些人担心这意味着人类末日的开端，将在未来20年出现。同时，他们警告称，对机器人“密友”的控制应当落实在防止智能机器人危害社会和人们的利益。

史密斯和舒姆写了一本书——《未来计算》，详细描述了关于未来人工智能的预测。他们认为，随着人工智能机器人变得更加成熟，它将更多地融入人类的日常生活之中。

《未来计算》预测称，微软公司“科塔娜（Cortana）”的未来版本能在人们睡眠时，自动通知日程表，有利于第二天人们的计划安排。像这样的机器人是无所不知的，甚至能够像人类一样思考问题。

舒姆说：“我认为预测未来是很难的，但是我和史密斯坚信一点的是，人工智能的终极形式是一个真正了解你的数字助理，在你的许可下，知道关于你的任何事情。我们将它称为机器人‘密友（alter ego）’，是真实的第二个人类自身”。

这项技术具有难以揣测的影响，如果不加以解决，可能会出现一些问题。我们生活的部分控制权交给了机器，机器人拥有像人类的思想，如果不进行合理控制，将出现力量滥用或者误用。

微软公司表示，政府和学术团体将是处于这些棘手道德问题的最佳对象。史密斯强调称，科技行业的人们都非常关注人工智能的伦理问题，以及学术界和大学之间的互动，但这需要一种从社会中引入的人类对话。我们能够证明，科技公司将更加了解科技发展，但并不意味着科技公司将知道人工智能如何更好地对社会负责，并带来一定的利益。

在科学技术领域，一些高层人士对人工智能的未来发展非常关注。2017年11月，埃隆·马斯克（Elon Musk）在一次谈话中指出，使人工智能变得安全的可能性仅有5-10%。

据悉，这项最新警告提出之前，马斯克曾声称对人工智能的监管是非常有必要的，因为它是人类文明存在的根本性风险。这位亿万富翁表示，相应的法规将阻止人类被计算机系统或者“网络中的深度智能化”击败，它们通过操纵信息能够发动战争。

2017年7月，马斯克称，政府必须更好地理解人工智能技术的快速演变，才能完全理解其中的风险。一旦人工智能设备拥有人类意识，人类将变得非常恐惧。到那时我们将受到人工智能设备的控制，会显得非常被动，那时将为时已晚。

在被追问更具体的指导意见时，马斯克表示，第一步是让政府更好地理解开发人工智能技术所取得的快速进展。之前他曾将人工智能比喻为“召唤魔鬼（summoning the devil）”。