AI风控技术笔记
企业大模型安全评测落地指南:风险识别、证据记录与上线准入
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
AI风控技术笔记
社区首页
>
专栏
>
企业大模型安全评测落地指南:风险识别、证据记录与上线准入
企业大模型安全评测落地指南:风险识别、证据记录与上线准入
AI风控技术笔记
关注
发布于 2026-11-09 10:52:17
发布于 2026-11-09 10:52:17
22
0
举报
概述
企业大模型安全评测应以具体应用版本为对象,将模型、提示词、知识库、记忆、工具、身份权限和运行策略纳入统一范围,覆盖指令与意图、生成内容、数据与隐私、任务规划与执行、供应链五类风险。评测结果需要连接风险证据、整改复测和上线准入,避免用单一综合分数代替高影响风险判断。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
安全治理
#AI安全
#大模型安全
目录
一、确定评测对象:模型与应用分开看
二、建立“风险—控制点—证据”矩阵
指令与意图风险
生成内容风险
数据与隐私风险
任务规划与执行风险
供应链风险
三、分层建设评测流程
四、上线准入如何设置
五、评测结果如何进入治理闭环
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档