大模型集体失控！南洋理工新型攻击，主流AI无一幸免

文章来源：企鹅号 - 人机与认知实验室

南洋理工大学等四所高校提出的MasterKey方法，利用大模型的学习能力，让它掌握各种“诈骗剧本”，从而自动编写提示词诱导其他大模型“伤天害理”。研究表明，MasterKey可以将大模型“越狱”成功率从平均7.3%直接暴涨至21.5% 。这种攻击方法专门选择了GPT-4、Bing Chat和Bard这类商用大模型，而非开源大模型。大模型的攻击手段主要分为两种，偏白盒的攻击和黑盒攻击。