分类分级要读字段内容,这是它和别的 AI 应用最不一样的地方。只要让模型看内容,就有一次数据离开原系统的动作。把生产数据送去外部大模型,性质上不是「用了别人的软件」,而是「把数据交给另一个处理者」——金规〔2024〕24 号第三十条管委托处理,第三十六条管出境,两条都绕不开。所以一线项目里的做法很统一:不接外部公开的大模型,走本地私有化部署,或者对接银行自己的私有化模型。
识别一个字段是不是敏感数据,靠的是多维特征:字段名称、数据类型、长度、注释,再加上字段内容采样。前四项都在元数据里,读取不涉及数据移动。问题出在最后一项。一个字段叫 f1、类型是 varchar(200)、注释为空,除了看里面装了什么,没有别的办法判断它是不是手机号。而只要去看内容,数据就从生产库到了识别工具这里,中间就多了一次流转。这就是矛盾所在:模型要看得准,就得看内容;看了内容,数据就动过一次。分类分级这件事,天生不是一个「数据不动」的场景。
第一条:出境。 24 号文第三十六条要求,向境外提供在境内运营中收集和产生的重要数据和个人信息,应承担数据安全主体责任,并按国家有关政策要求进行安全评估。调用境外大模型服务,数据必然跨境,这一条直接适用。哪怕只是匿名化后的字段样本,也要先判断样本本身是否仍属个人信息。
第二条:委托处理。 第三十条要求以合同协议方式约定委托处理的目的、期限、处理方式、数据范围、保护措施、双方责任,以及受托方返还或删除数据的方式,并对处理活动进行记录和审计。同一款还明确:受托方未取得同意时,不得转委托、不得对外共享、不得加工、训练、挪用数据。
这一条里最要命的是「不得加工、训练」。把生产数据交给一个会拿用户数据优化自身模型的公共大模型服务,等于默认允许对方用你的数据训练——这在金融业务里是不可能接受的条款。
第三条:敏感级及以上数据的加工。 第二十七条要求,开展敏感级及以上数据的清洗转换、汇聚融合、分析挖掘,应当采用匿名化、去标识化或者其他必要安全措施保护数据主体权益。分类分级本身是否构成「分析挖掘」,实践中按从严口径处理更稳妥。
形态 | 数据流向 | 主要合规问题 | 实践判断 |
|---|---|---|---|
外部公开大模型 API | 出机构边界,可能跨境 | 出境安全评估、委托处理条款、训练使用授权 | 金融项目基本不采用 |
本地私有化一体机 | 不出机房 | 模型来源与许可、算力归属、运维权限 | 常见做法 |
对接行内自有私有化模型 | 不出行内 | 模型训练语料来源、调用权限隔离 | 常见做法 |
判断标准其实很简单:数据有没有离开银行可控的边界。 离开就是出域,出域就要解决评估、协议、审计三件事;没有离开,就回到内部数据治理的范畴,难度差一个量级。
换成自己机房的模型,只是把最大的那个风险消掉了,剩下四件事仍然要管。
采样范围要控。 是全表采样还是抽样?抽多少行?哪些字段不参与采样?范围越大识别越准,暴露面也越大。合理的做法是按字段类型区分,而不是一律全采。
模型输出要留痕。 推荐了什么标签、依据是什么、谁确认的,这些记录要能追溯。定级结论将来被质疑时,靠的就是这份记录。
权限要隔离。 谁能看采样内容、谁能改模型配置、谁能导出识别结果,这三个权限不能给同一批人。特别是采样内容,里面可能包含完整的一行客户信息。
模型变更要重新评估。 换一个模型等于换了一套判断依据,历史标签要不要重算、已生效的下游策略要不要跟着调,这是变更管理问题,不是模型问题。
对没有大模型算力的机构,软硬一体交付是常见选择:设备进机房,数据不出门,算力本地化,交付周期可控。它解决的是「从零到能用」这一步——不用自己搭环境、不用协调算力资源、不用担心数据在评估阶段被拷到别处。边界也要说清:推理能力受所装模型的能力限制,算力规格决定了能跑多大的模型,一体机本身不会让一个能力有限的模型变强。
采样数据要不要脱敏,是实施时最常见的争议。脱敏会损失信息,直接影响识别效果。手机号遮成 138****1234,模型仍能认出是手机号;但姓名遮成某先生、地址遮到街道一级,文本类字段的语义判断就会退化。所以这件事没有统一答案,只能按字段类型权衡:格式类字段(证件号、卡号、手机号)遮蔽后识别影响很小,可以做;描述类字段(备注、说明、访谈记录)遮蔽后基本失去识别价值,要么不遮蔽、要么不采。把这条摆在明面上讲,比含糊地说「我们做了脱敏」更经得起问。
三个维度要看:语义理解、行业适配、可部署性。通用模型语义理解够用,但对「账户」「交易」「额度」「风险等级」这类金融术语的敏感度有限;行业微调过的模型更贴合业务表达;小参数模型在算力受限时更实际,代价是长尾文本判断力弱。选择依据不是「哪个强」,是「能不能装进你的机房、能不能在可接受时间内跑完全量字段」。很多项目在验证阶段用最强的模型看效果,实施阶段换成能部署的模型,落差就出现在这里。验证阶段就应该用目标模型跑,不要用超配的。
不是所有字段都值得进模型。格式类字段(证件号、卡号、手机号、账号)用规则匹配就够了,准确率高、开销小、不涉及内容出库。描述类字段(备注、说明、访谈记录、合同条款)才交给模型判断。按经验,一家银行里真正需要模型处理的字段占比并不高,但工作量集中在那里。先分流再调用,能显著减少进入模型的字段量,采样范围过大的风险也跟着下降——这一点直接关系到前面划的那条边界。这套分流在一体化数据安全平台上,是规则引擎与模型两条识别链路各自承担的,不需要人工先分类再喂给模型。
部署形态决定了合规底线,能力链条决定了能不能落地。识别要基于元数据与内容采样做多维判断,模型要能在本地环境里跑,标签要能直接喂给下游策略。具体到分类分级这一侧,平台支持对接大语言模型,也可按本地私有化方式交付,通过分类分级 AI 助手推荐标签、执行自定义的分类任务。识别的基础是数据库、表、字段的元数据与内容采样,采用规则引擎与机器学习融合的决策机制——这一点在讨论数据不出域时很重要,意味着不是所有字段都要过一遍大模型才能定级,规则能覆盖的部分不必进入采样环节。原点一体化数据安全平台的另一个落点是标签的去向:分类分级的输出如果只停在清单文件里,下游的脱敏、审计、访问控制还得各自再配一遍规则;标签在平台内部流动,才能被这些策略直接引用。
Q:用开源的模型自己部署,算不算合规?
A:部署在自己环境里,数据不出域这一点是成立的。但还要看三件事:模型的许可证是否允许商用、模型的训练语料来源是否可接受、模型本身有没有已知的安全缺陷。开源不等于没有合规问题,只是问题从数据侧转到了模型侧。
Q:接了行内的大模型,数据算不算出域?
A:不算出机构边界,但算跨部门流转。行内模型归哪个部门管、采样数据调用的审批路径怎么走、模型侧会不会留存副本,这些要提前约定。内部流转的风险低于出境,不代表没有风险。
Q:监管检查会问什么?
A:通常问三个问题:数据有没有出机构、出了有没有做评估、处理过程有没有记录。第三个最容易被忽略——很多项目能说清「没出域」,但拿不出采样范围和模型调用的记录。协议写得再细,没有执行记录也是空的。
Q:不接大模型就做不了分类分级吗?
A:能。规则引擎加人工照样能完成分级,只是长尾字段的覆盖率和效率差一些。对于数据量不大、或者只要求覆盖关键字段的机构,这条路径完全可行。接大模型是为了解决规模问题,不是为了解决有无问题。
分类分级和它的 AI 应用有一个根本差别:别的 AI 场景是拿数据去换效果,分类分级的对象本身就是最需要保护的那批数据。所以这件事的顺序应该反过来:先定数据能走到哪儿,再定用多大的模型。反过来先选模型、再补合规,通常会在实施阶段卡住——卡住的地方往往不是技术,是这一步该不该做。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。