OpenAI通过推出一项资助计划,旨在建立一个民主化的决策程序,用于决定人工智能系统应该遵循哪些规则。此举是在OpenAI呼吁建立类似于核能管理的国际人工智能监管机构后采取的重要举措。资助计划将授予10个价值100,000美元的赠款,用于资助实验和探索,为人工智能护栏制定原则。
OpenAI的创始人Sam Altman、Greg Brockman和Ilya Sutskever联合提出了设立这一机构的提议,他们认为人工智能的快速创新使得我们不能仅依赖现有的权威机构来完全控制这一技术。资助计划旨在寻求个人、团队和组织的资助,以开发概念验证,回答与AI护栏相关的问题。OpenAI希望通过这些实验,汲取经验教训,并为未来更为全球化、更有雄心的进程奠定基础。
尽管这些实验最初并不具备决策约束力,OpenAI希望它们能够探索与决策相关的问题,并构建新颖的民主工具,以更直接地为决策提供信息。资助计划代表了建立监督超级智能的民主程序的一大步骤。
通过OpenAI非营利组织提供的资助,OpenAI希望建立一个反映柏拉图式民主理念的过程,即通过广泛代表性的人群交流意见,参与深思熟虑的讨论,并通过透明的方式做出决策。OpenAI表示,这一过程有助于回答一系列问题,例如在何种情况下应该谴责或批评公众人物,鉴于不同群体对这些人物的不同意见,以及有争议的观点如何在AI输出中表示等。
这一资助计划被暗示与OpenAI的商业利益完全无关。然而,考虑到Altman最近对欧盟提议的AI法规的批评,这一点可能值得关注。OpenAI的时机选择似乎明显,此前Altman在美国国会参议院委员会上提出了一种具体的AI监管方法,该方法对OpenAI现有技术的影响较小。
无论如何,即使该项目最终变成了自私自利的项目,它也代表了人工智能决策的一个有趣方向(尽管在某些明显方面与欧盟的努力重叠)。我们都很期待了解这个"民主进程"的具体构想以及OpenAI最终选择了哪些申请者。
申请OpenAI的资助计划已于太平洋夏令时间6月24日晚上9点截止。OpenAI将从申请者中选出十位获奖者。获奖者必须展示一个涉及至少500名参与者的概念,并于10月20日之前发布关于他们的发现的公开报告,并开源他们的工作代码。
领取专属 10元无门槛券
私享最新 技术干货