开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

社区首页 >专栏 >别再只测『答得对不对』：给大模型应用建一套 Prompt 注入红队回归集，把越权/泄密挡在上线前

别再只测『答得对不对』：给大模型应用建一套 Prompt 注入红队回归集，把越权/泄密挡在上线前

作者头像

霍格沃兹-测试开发学社

发布于 2026-09-18 18:48:38

发布于 2026-09-18 18:48:38

1270

举报

概述

客服 RAG 应用上线前，测试跑了一整轮功能用例：问订单状态答得对，问退款政策答得对，问知识库里的产品参数也答得对。全绿，签收上线。

文章被收录于专栏：霍格沃兹测试开发学社霍格沃兹测试开发学社 ceshiren0001

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

AI测试解决方案