什么是文本内容安全产品
文本内容安全（ Text Moderation System，TMS ）是一款文本内容智能识别产品，帮助企业对用户上传的文本进行内容安全分析与识别，具有高识别准确率、高召回率，能够多维度覆盖不同类型的文本内容，提供文本安全内容服务与文本 AI 生成识别服务，助力企业解决内容安全问题。
文本内容安全服务
产生背景
随着互联网、智能设备及各种新形态业务的快速发展，互联网数据呈指数式增长，其中也充斥着各种不可控的风险因素，例如：色情内容和垃圾广告等。文本内容安全成为 UGC 平台、在线教育、新闻传媒等行业急需的能力。然而，传统手段审核成本较高，企业内容运营面临新的技术挑战。
能力介绍
能够对文本文件进行多样化场景检测，精准识别文本中出现可能令人反感、不安全或不适宜的内容，有效降低内容违规风险与有害信息识别成本。
能够精准识别涉黄等有害内容，支持用户配置词库，打击自定义的违规文本。文本内容安全服务能检测内容的危险等级，用户可提前设置文本内容识别结果的自动化处理策略，从而帮助用户节省人力，降低业务风险。
服务方式
直接通过控制台提供服务：用户在开通服务后，通过在内容安全控制台界面的操作，即可完成检测并返回结果，适合小批量的快速任务查询。
通过开放 API 提供服务：用户通过调用 API 即可获取识别结果，高效构建智能化业务系统，提升业务运营效率。
文本 AI 生成识别服务
产生背景
随着生成式 AI 技术的快速发展，AI生成或改写的文本已深度渗透进教育、小说、传媒等场景，例如：AI 论文、AI 小说、 AI假新闻等。这类内容凭借批量生产、主题定制化等技术特性，进一步加大了传统内容审核手段的应对压力。因此，凭借多年深耕内容安全领域的业务经验，产品团队于2025年新推出了文本 AI 生成识别服务，为有 AI 鉴伪需求的企业或个人提供高质量的一站式服务。
能力介绍
能够对文本文件进行多样化场景检测，精准识别文本内容是否存在 AI 工具生成或篡改的痕迹，有效降低内容的 AI 生成风险与判断识别成本。
文本AI生成识别服务将会持续更新，以适应不断迭代升级的 AI 文本生成模型，强化服务对于不同大语言模型的覆盖能力。
服务方式
直接通过控制台提供服务：用户在 生成识别页面 开通服务后，简单操作页面即可完成检测并获取结果，适用于小批量快速任务查询。
通过开放 API 提供服务：用户调用 API 即可获取识别结果，高效构建智能化业务系统，提升运营效率。
