“用了AI，但不知道要不要备案”
原创
“用了AI，但不知道要不要备案”
原创
用户11870562
发布于 2025-11-17 10:56:24
发布于 2025-11-17 10:56:24
“用了AI，但不知道要不要备案”成为产品上线的最大不确定性。本文基于《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》及2024–2025年备案审核实践，提供一套可逐项对照的判定体系，明确边界、规避风险、一次过审。
一、是否需要算法备案？三步快速判定法
✅ 只要同时满足以下两点，就必须申报算法备案：
- 服务对象在中国境内（包括面向中国用户提供服务，无论公司注册地在哪）；
- 使用了属于“深度合成”或“生成式AI”的技术功能（见下文详细清单）。
二、必须备案的 6 类核心场景（附具体示例）
类别 | 法规依据 | 典型功能示例 | 是否必须备案 |
|---|---|---|---|
1. AIGC 内容生成 | 《生成式AI办法》第2条 | • AI 写作（周报、文案、邮件）• 文生图（Stable Diffusion、Midjourney 类）• AI 视频生成• 代码自动生成（GitHub Copilot 类）• AI 音乐/语音合成 | ✅ 是 |
2. 生物特征合成与编辑 | 《深度合成规定》第3条 | • 人脸美颜（磨皮、瘦脸）• 虚拟换脸（ZAO 类）• 语音克隆（模仿名人声音）• AI 生成虚拟主播形象 | ✅ 是 |
3. 个性化推荐 | 网信办《算法推荐管理规定》 | • “猜你喜欢”商品推荐• 信息流内容排序（如抖音、小红书）• 音乐/视频智能推送• 求职岗位匹配推荐 | ✅ 是 |
4. 人脸识别与验证 | 《个人信息保护法》第29条 | • APP 刷脸登录• 实名认证活体检测• 门禁/考勤人脸核验 | ✅ 是（属高敏感个人信息处理） |
5. 自动摘要与语义分析 | 《深度合成规定》第2条 | • 新闻自动摘要• 会议纪要生成• 社交媒体情感分析• 客户评论自动归类 | ✅ 是（涉及自然语言生成） |
6. 智能对话系统（含大模型） | 《生成式AI办法》第4条 | • 客服机器人（非预设问答）• AI 助手（如通义千问、文心一言接口）• 教育陪练对话 | ✅ 是 |
💡 关键判断标准：
- 是否自动生成新内容？（是 → 备案）
- 是否基于用户数据做自动化决策？（是 → 备案）
- 是否处理生物识别等敏感信息？（是 → 备案）
三、无需备案的 4 类“非AI”或“低风险”功能
功能类型 | 示例 | 为什么不用备案 |
|---|---|---|
1. 规则引擎 / 关键词匹配 | • 客服自动回复（仅匹配预设问题）• 敏感词过滤（正则表达式）• 表单格式校验（邮箱、手机号） | 无模型训练，无内容生成，仅为逻辑判断 |
2. 统计排序 / 热门榜单 | • 按销量/评分/点击量排序• “今日热门”“飙升榜” | 未使用用户画像或机器学习，仅为聚合统计 |
3. 传统图像/音视频处理 | • 图片裁剪、压缩、旋转• 滤镜（非AI美颜，如黑白、复古）• 视频转码、加字幕（非AI识别） | 无生成或合成行为，属基础处理 |
4. 简单分类（无用户画像） | • 垃圾邮件识别（基于发件人黑名单）• 商品类目自动打标（基于关键词） | 未使用深度学习模型，不涉及个性化 |
⚠️ 注意：若“热门榜单”结合了协同过滤、用户兴趣预测等算法，则属于个性化推荐，需备案。
四、特殊场景深度解析
1. 开源模型商用是否要备案？
- 要。只要你在境内提供服务，无论模型是否自研、是否开源（如 Llama、ChatGLM），均需备案。
- 网信办关注的是服务行为，不是模型来源。
2. 仅内部使用 AI 工具（如员工用 AI 写周报）
- 不需要备案，前提是：
- 未向外部用户提供服务；
- 数据不出内网；
- 无公众访问入口。
- 但若该工具通过 Web 页面提供给员工（且部署在国内服务器），建议做等保，算法备案可豁免。
3. 调用第三方 AI 接口（如百度文心、阿里通义）
- 你需要备案。作为服务提供方，你是算法备案的责任主体，不能以“调用接口”免责。
- 需在自评估报告中说明：“底层模型由 XX 公司提供，我方负责应用场景合规”。
4. 跨境 AI 服务（境外模型 + 中国用户）
- 必须备案。只要中国用户能访问并使用 AI 功能，即触发备案义务。
- 同时可能触发数据出境安全评估（如用户输入内容传至境外服务器）。
五、备案材料关键细节（决定能否通过）
材料 | 常见错误 | 正确做法 |
|---|---|---|
应用场景说明 | “用于提升用户体验”“智能优化内容” | “用于电商APP商品详情页，根据用户近7天浏览记录，通过协同过滤算法生成个性化推荐列表” |
隐私政策 | 未提及用户权利 | 必须包含：• 可关闭个性化推荐• 可删除AI生成内容• 可拒绝生成结果用于模型训练 |
AI 内容标识 | 无标识 或 标识太小 | • 文字：在生成结果上方/下方标注“AI生成”• 图像：角标水印，字体≥12px• 视频：前3秒叠加“本视频由AI合成” |
自评估报告 | 无公章、内容模板化 | • PDF 含公章扫描页• 包含：数据来源合法性、偏见控制措施、应急响应机制、用户投诉渠道 |
📌 网信办明确：“技术中立”不能成为免责理由，算法提供者对输出内容负主体责任。
六、高频驳回案例复盘（2024–2025）
企业类型 | 功能 | 驳回原因 | 修正方案 |
|---|---|---|---|
教育科技公司 | AI 作文批改 | 隐私政策未说明学生可删除生成评语 | 新增条款：“学生或家长可申请删除AI批改记录” |
电商平台 | 商品推荐 | 描述写“智能分发” | 改为“基于用户画像的协同过滤推荐算法” |
内容社区 | AI 自动生成标题 | 未在标题旁标注“AI生成” | 在每篇AI生成文章标题下方加灰色小字标识 |
SaaS 工具 | 客服对话机器人 | 自评估报告未盖章 | 重新打印 → 盖章 → 扫描为PDF提交 |
七、自查清单（上线前必核）
- 功能是否属于6类必须备案场景？
- 是否面向中国境内用户提供服务？
- 隐私政策是否包含三项用户权利？
- AI 输出是否带有显著“AI生成”标识？
- 自评估报告是否具体、盖章、无模糊表述？
- 若调用第三方模型，是否说明责任边界
文章内容不代表UC平台观点
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
评论
登录后参与评论
推荐阅读
目录
腾讯云开发者
