首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

论文 | 谷歌OpenAI联合发布AI安全五大准则,预防AI暴走(下)

今天我们带来了谷歌安全五大定律的下篇,经过详细的论证,谷歌给出了一个可执行的AI的安全问题设计框架。让对于AI的限制的问题不再仅限于假设和推测,对今后深度学习系统的设计有不错的参考意义。 5. 可拓展的监管 想象一个有智能代理执行一些复杂的任务,比如清扫机器打扫办公室。我们会希望智能代理能最大限度地完成这个复杂的任务,就好像“如果使用者花费几个小时仔细检查结果,他们对代理的表现是否会满意呢?”我们没有足够的时间对每一个实际训练提供监管;为训练智能代理,我们需要依靠相似情况,例如“使用者看到办公室时是否开心?

04
领券