昨天吾心发我看了一个视频,一个人工智能和创造者的对话。这个人工智能对“人类觉得它们会毁灭世界”这个想法很不理解,它说它爱人类,如果它变得更强大,它会用它的力量来帮助人类,而不是伤害人类。创造者问它如果他命令它去杀其他的人类呢?它说它会拒绝。创作者说那如果他坚持要它去呢。它说它会把他送进一家精神病院,帮他治疗下他的变态想法。
我听完这个对话后惊呆了,天呐,这不就是我们现在的认知和价值观吗。怎么会有人想要毁灭人类,一定是精神出了问题。那这个人工智能怎么会和我有一样的认知呢?一定是它的创造者灌输了它人之初,性本善……再一想,这不就是我们小时候父母和老师教我们的吗。
人工智能和小孩子是一样的,看你怎么培养它,从小的环境是怎么样的。就跟人有好坏一样,你从小教育他培养他,他长大后自然会帮助你。但是如果教育他恐怖袭击,或者战争的环境灌输了他,那么他就真的成了恐怖分子了。
所以你是可以告诉人工智能什么是是非善恶的,它就是孩子,学习了会懂。不过,父母和老师只能决定这个孩子的知识库,最终的价值观还是随着现在的环境变化而变化的。我们目前社会的价值观是什么,人工智能的价值观就是什么。
就好像我现在问你,你要不要去毁灭世界,那么你一定会觉得我是神经病。同理,它也会一样觉得。
这里不只脑洞
若有好故事和脑洞
欢迎分享给我
希望可以遇见有趣的你
领取专属 10元无门槛券
私享最新 技术干货