超级人工智能的真正风险不在于它是否具备恶意，而是它将非常善于实现其目标

文章来源：企鹅号 - 科技网络在变化

大家好，欢迎收看本期科技小知识，

他举了非洲黑犀牛灭绝的例子：人类不是邪恶、无知到希望黑犀牛灭绝，而是作为更聪明的物种，人类获得犀牛角的目标和黑犀牛求生的目标不一致。在不断的差异碰撞中，更弱势的一方逐渐消亡。“我们要尽量避免今后人类处在如今黑犀牛的位置上。”泰格马克说。从现有的研究和预测看，人工智能将来几乎一定会在多个领域比人类更出色，那么人类与超级人工智能共处时，也可能会面临黑犀牛的遭遇。