首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >企业大模型安全评测落地指南:风险识别、证据记录与上线准入

企业大模型安全评测落地指南:风险识别、证据记录与上线准入

作者头像
AI风控技术笔记
发布于 2026-11-09 10:52:17
发布于 2026-11-09 10:52:17
220
举报
概述
企业大模型安全评测应以具体应用版本为对象,将模型、提示词、知识库、记忆、工具、身份权限和运行策略纳入统一范围,覆盖指令与意图、生成内容、数据与隐私、任务规划与执行、供应链五类风险。评测结果需要连接风险证据、整改复测和上线准入,避免用单一综合分数代替高影响风险判断。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 一、确定评测对象:模型与应用分开看
  • 二、建立“风险—控制点—证据”矩阵
    • 指令与意图风险
    • 生成内容风险
    • 数据与隐私风险
    • 任务规划与执行风险
    • 供应链风险
  • 三、分层建设评测流程
  • 四、上线准入如何设置
  • 五、评测结果如何进入治理闭环
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档