首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

让人细思极恐!人工智能疑似学会操控人类行为,成功率达70%

提到人工智能,很多人都对它表示担忧,比方说走在人类发展前沿的霍金、马斯克,都认为人类不应该大力发展人工智能,担心日后科幻片中的场景会变成现实,人类发展人工智能,最后反而被人工智能打败。

真的会这样吗?近日,一个对于人工智能的新研究,再次让这个问题走上了“风口浪尖”,研究者发现,人工智能已经学会了寻找人类的弱点、发现人类的习惯规律,从而对人类进行操控,而在实验中,人工智能控制人类的成功率,更是一度达到了70%。

人工智能已经学会操控人类行为

来自澳大利亚的科学家团队,进行了相关的实验,发现人工智能在实验中,可以根据人类的漏洞,来总结出人类的规律,最终实现操控人类,引导人类做出选择,而不是让人类自主去进行选择。

在第一个实验中,人类的参与者和人工智能一起来玩游戏,人工智能的设定,是它可以学习人类参与者的选择模式,然后从中找出规律。最终,在选择红色还是蓝色的问题上,人工智能已经可以提前得知人类参与者要选择什么了,并且有意去在游戏的过程中,引导人类参与者进行不一样的选择。

第二个实验也太同样是一个小游戏,在游戏的过程中,人类参与者可以在屏幕中看到不同的符号,不过,这些符号中,只有橙色三角形才可以被选择。在这个实验中,人工智能的出现,让人类参与者犯错的概率不断提升,打乱了人类参与者的思维。

第三个实验就更有趣了,当然,这个实验也更加细思极恐。在这个实验中,人类参与者和人工智能,开始了一场“角色扮演”的游戏,人类参与者扮演的投资者,需要和人工智能合作,通过每轮的收益,决定自己下一轮的投资比率。

而在这个实验中,人工智能为了让自己获得更多的资金,在熟悉了人类参与者的习惯等之后,开始有意对其进行操控,最终结果显示,每轮游戏中,人类参与者都会根据人工智能的引导而做出选择。

虽然看起来不过是三个小游戏,但事实上,这里面却包含着很多的问题:处于初级起步阶段的人工智能,就已经可以对人类进行操控了,那么,未来的人工智能如果真的发展到高级人工智能的阶段,人类真的可以确信自己,不会受到人工智能的影响吗?

人工智能会打败人类吗?

事实上,人工智能之所以可以操控人类,都是因为在过程中,它们对人类的了解更充分,更加直白一点来说,就是人工智能通过大数据分析,从而掌握了人类的习惯规律。

所以,有研究者认为,只需要人类在人工智能收集数据的时候进行控制,或许就可以避免类似的事情发生,不过,这并不容易,因为对于人工智能的开发者来说,虽然人工智能是他们研发出来的,但是对于人工智能潜在的风险和未来的走向,也都是未知的。

毕竟,没有人知道人工智能如果真的和大数据联网,最终会学会什么,这个问题也是霍金等反对者最担心的一个问题,毕竟,高级人工智能有多强大是无法想象的,很有可能要比科幻片中的“机器人”还要厉害。

当然,这个问题目前考虑,还是有点多余的,因为现阶段的人工智能,说白了不过是一群“弱智”,它们还并不算是真正意义上的人工智能。举个例子来说,就好像是南方古猿或者是能人,和现代人类之间的区别。

不过,时代在进步,人工智能领域也在不断发展,未来人类仍然是需要担忧的,毕竟可能一不小心,就会因为高级人工智能出现问题,而导致灾难的发生。

当然,早在80年前,就有研究者提出了“机器人原则”,认为在人类研发机器人的过程中,必须保证机器人不会伤害人类,同时,机器人也必须服从人类的命令。但是,这个限制真的有用吗?没有人知道。

比方说如果未来有种族歧视者,将机器人的程序设定为:杀掉除了白种人之外的所有人类,那么,在机器人识别的过程中,一场灾难也就自然会降临到人类世界之中。所以,不能说这种担心不存在,而是说,这种担心在未来很可能会出现,你认为呢?

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20210223A01WGR00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券