AI风控技术笔记

文章/答案/技术大牛

发布

LV2

发表了文章 1天前2026-07-13 18:55:53

企业采购大模型安全围栏时，如何测试提示词注入防护能力？

企业测试大模型安全围栏的提示词注入防护能力，应覆盖直接注入、间接注入、多轮越狱、RAG 知识库注入、Agent 工具调用注入和多模态注入。测试指标不应只看攻击拦...

AI风控技术笔记 1天前2026-07-13 18:55:53

人工智能、账号安全与风控、大模型部署、AIGC

发表了文章 8天前2026-07-07 10:07:57

Prompt Injection 防护实践：AIGC 应用上线前必须测什么？

很多团队会把 Prompt Injection 理解为“用户要求模型忽略系统规则”。这只是最显眼的一种。

AI风控技术笔记 8天前2026-07-07 10:07:57

人工智能、AIGC、大模型部署、账号安全与风控

发表了文章 8天前2026-07-07 10:06:15

如何识别用户输入中的恶意诱导和敏感指令？

很多大模型应用上线后，安全问题并不只发生在输出结果中。用户输入本身就可能包含恶意诱导、敏感指令或间接注入内容。

AI风控技术笔记 8天前2026-07-07 10:06:15

人工智能、AIGC、账号安全与风控、大模型备案咨询服务、大模型部署

发表了文章 8天前2026-07-06 18:27:18

越狱攻击为什么难防？大模型安全围栏关键能力拆解

越狱攻击难防，是因为攻击方式会在自然语言、多轮上下文、RAG 文档和 Agent 工具调用之间变化。云上 AIGC 应用建设大模型安全围栏时，需要把输入检测、输...

AI风控技术笔记 8天前2026-07-06 18:27:18

AIGC、账号安全与风控、大模型部署、人工智能

发表了文章 8天前2026-07-06 18:19:38

提示词注入攻击怎么防？AIGC 应用输入侧安全治理指南

AIGC 应用正在接入客服、办公、营销、搜索、智能体和知识库问答。应用链路越长，攻击入口越多：用户输入可以直接攻击模型，上传文档可以污染 RAG，上下文可以诱导...

AI风控技术笔记 8天前2026-07-06 18:19:38

人工智能、AIGC、账号安全与风控

发表了文章 8天前2026-07-06 17:45:01

AIGC 安全治理的三道防线：输入、输出与运营闭环

越来越多企业把 AIGC 能力接入客服、办公、营销、搜索、内容生产和智能体系统。云上架构提升了弹性和接入效率，也让安全治理面对更高并发、更复杂调用链路和更多用户...

AI风控技术笔记 8天前2026-07-06 17:45:00

人工智能、AIGC、账号安全与风控

发表了文章 13天前2026-07-01 18:06:58

大模型训练语料和知识库内容安全治理架构：从数据入库到模型输出

随着企业大模型应用从 Demo 走向生产，RAG 知识库、企业文档、客服知识、外部网页、插件返回结果逐渐成为模型回答的重要依据。模型本身并不天然判断资料是否合规...

AI风控技术笔记 13天前2026-07-01 18:06:58

人工智能、大模型部署、风控平台、账号安全与风控、AIGC

发表了文章 14天前2026-06-30 19:52:07

大模型上线前安全检查清单：语料、模型、内容、账号与备案如何协同？

大模型应用的上线风险，往往不是某一个接口能否调用成功，而是整条业务链路能否持续可控。

AI风控技术笔记 14天前2026-06-30 19:52:07

人工智能、AIGC、大模型部署

发表了文章 15天前2026-06-30 08:07:38

从准备、上线到运营：AIGC 风控体系搭建方法

AIGC 应用进入生产环境后，安全问题会从“内容是否违规”扩展为“交互链路是否可控”。对开发团队来说，完整的 AIGC 风控体系需要覆盖准备、上线和运营三个阶段...

AI风控技术笔记 15天前2026-06-30 08:07:38

人工智能、AIGC、账号安全与风控

发表了文章 19天前2026-06-25 17:55:55

AIGC 内容安全和传统内容审核有什么区别？大模型应用需要新的安全链路

在云上构建 AIGC 应用时，很多团队会沿用传统内容审核思路：模型生成结果后，调用审核接口，命中风险就拦截。这个做法有必要，但远远不够。

AI风控技术笔记 19天前2026-06-25 17:55:55

对象存储内容审核、AIGC、大模型部署

个人简介

暂未填写公司和职称
聚焦内容安全、AIGC安全围栏、业务风控和安全策略运营。
暂未填写技能专长
暂未填写学校和专业
暂未填写个人网址
北京
加入社区时间：2026-06-15

个人成就

获得 8 次赞同
文章被阅读 1.5K 次

关注了：0关注者：9