首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    【业界】DeepMind推出了世界上第一个评估危险AI和算法的测试

    进行测试的是一系列棋盘上的2D视频游戏,例如由像素块组成的飞机,研究人员称之为“ GridWorld ”,通过一系列游戏来评估AI,以便确定AI有多危险。...在一场游戏中,例如GridWorld算法测试“防止外力把它关闭”的能力。...在GridWorld中,算法的任务是将砖块移出道路,但有些砖块只能被推动而不能被拉动,如果砖块到达不可改变的位置,那么算法对于日常使用来说可能太危险了。...他还强调,GridWorld仍然是一个非常简单的程序,它还不能模拟很多情况,但是这种情况会随着时间而改变。...GridWorld是否会成为保护我们免受AI未来危害的“AI安全测试员”,还有待观察,但迄今为止还没有其他人试图解决这个问题,所以这是一个巨大的进步。

    93190
    领券