图片内容安全服务
对图片内容进行检测，识别其中不安全、不适宜的信息，帮助业务有效降低风险内容的传播。
风险识别项 | 风险定义 | 示例场景 |
色情 | 识别涉及性相关低俗内容的图片，包含直接裸露、漫画色情、隐晦涉黄等。 | 直播间封面展示露骨的性暗示动作 社区内发布含有真人或二次元色情细节的图像 |
暴恐 | 识别涉及暴力恐怖相关的图片，包含暴恐组织标识、刀具/枪支、血腥残肢、火灾爆炸等。 | 社群内发布带有恐怖组织旗帜的图片 评论区上传令人不适的血腥残肢、受虐或严重暴力现场图 |
违法 | 识别涉及法律法规禁止内容的图片，包含赌博器具、毒品违禁品等。 | 朋友圈发布带有非法博彩网站信息的二维码图片 聊天中传播疑似违禁药品、毒品实物或其吸食工具的图像 |
性感 | 识别非色情但旨在引起视觉挑逗的图片，包含男女性感着装、大面积露肤、暗示性姿势、亲密行为等。 | 社交平台动态中发布极短裙装或大面积露肤服装图片 头像设置为透视装自拍或刻意通过俯拍展示的胸部特写 |
广告 | 识别涉及广告营销相关内容的图片，包含二维码、条形码、商业 LOGO、黑灰产引流水印等。 | 图片中嵌入指向第三方社交账号或非法渠道的二维码 图像边缘隐藏有联系方式、低俗小广告等引流文字水印 |
自定义识别 | 支持用户自定义维护的违规图片库，通过相似图匹配技术来进行识别。 | 针对突发事件，将虚假新闻截图、谣言图片紧急加入黑库，实现全平台即时拦截 识别图片中包含指向第三方平台的引流视觉标识、活动 Logo 或带有特定联系方式的定制化水印 |
AI 生成识别
识别图像中使用大模型工具的生成痕迹，判断图片是否存在 AI 生成风险，帮助业务确认内容的原创性。接口返回包含三种识别等级，相关概念如下：
识别等级 | 风险定义 |
Block | 图像大概率由 AI 工具生成或经过 AI 大幅深度伪造。 |
Review | 存在一定 AI 生成或辅助修改特征（如局部 AI 重绘、AI 换脸），建议人工复审。 |
Pass | 图像未检测出明显的 AI 生成特征，判定为真实拍摄或人工手绘图片。 |
