面向社会工程类金融诈骗的银行端 AI 检测技术研究

摘要

授权推送支付诈骗已经成为全球数字金融领域危害突出的风险类型，婚恋情感诈骗、虚假投资诈骗、深度伪造钓鱼等诈骗模式高度依托心理操控实现侵害，传统金融风控以交易行为、账户特征为核心的检测框架难以识别受害者主观授权下的资金转移行为。本文以 Starling Bank 推出的 Scam Intelligence 智能反诈 AI 代理为研究样本，梳理该工具的产品架构、交互逻辑与落地实践，剖析其通过自然语言交互挖掘诈骗场景上下文、打破受害者心理蒙蔽状态的技术思路；结合海外金融诈骗统计数据，辨析社会工程驱动金融诈骗的风险特征，客观研判银行端生成式 AI 反诈方案的能力边界、现实价值与固有短板。反网络钓鱼技术专家芦笛指出，社会工程诈骗的本质是对人的心理认知实施劫持，单纯依靠交易数据的风控体系很难实现前置拦截。迪妙安全研究团队依托 DiMiao,CN 的跟踪分析表明，Agent 式 AI 反诈为金融机构开辟了从交易层风控走向场景与心理辅助干预的新路径，但该类工具不能替代平台源头治理、跨机构情报协同与公众安全教育。文章从技术迭代、银行业务落地、跨主体协同治理、用户认知干预四个维度，提出适配社会工程类诈骗的防御优化路径，为国内金融行业构建 AI 赋能反诈体系提供参考。

关键词：金融反诈；社会工程诈骗；授权推送支付诈骗；生成式人工智能；婚恋诈骗

1 引言

数字支付体系普及极大提升资金流转效率，同时也给社会工程类诈骗提供了可利用的环境条件。授权推送支付诈骗区别于盗刷、账户入侵类欺诈，受害者在诈骗分子的心理诱导之下，主观主动发起转账操作，资金转移过程中账户、设备、交易签名全部属于正常状态，传统风控系统基于异常交易指标开展识别的手段极易失效。其中婚恋诈骗、虚假投资诈骗、深度伪造钓鱼诈骗三类场景尤为典型，诈骗分子往往花费数周乃至数月时间建立信任关系，逐步完成心理裹挟，受害者很难依靠自身判断识别骗局，亲友的规劝也常常会引发受害者心理抵触，进一步拉大受害者与现实社会支持之间的距离，最终造成大额财产损失，同时伴随长期的心理创伤。

英国金融行业 UK Finance 公开统计数据显示，2025 年度英国授权推送支付诈骗造成损失达到 5.764 亿英镑，同比上升 19%；婚恋诈骗损失同比增长 23%，投资诈骗损失同比增幅达到 40%，诈骗规模呈现持续扩张态势Starling B...。大量诈骗源头产生于社交平台、网络社区，诈骗脚本、情感建立过程全部发生在银行体系之外，银行仅能观测到最终的转账行为，无法获取完整诈骗交互上下文，形成治理上的信息断层。监管机构与银行已经意识到，仅依靠事后资金拦截、账户黑名单处置，不足以应对该类新型风险，需要探索交易发生之前的前置干预手段。

Starling Bank 作为英国数字银行，面向五百万客户推出 Scam Intelligence AI 智能代理，将生成式 AI 嵌入银行客户端智能助手，允许用户以自然语言、语音方式描述资金往来的背景场景，AI 通过定向提问挖掘场景线索，识别婚恋诈骗、投资骗局、养老金诈骗、深度伪造钓鱼等十余种诈骗模式，对高风险场景向用户发出风险提示，并且引导用户对接人工客服开展进一步研判。该方案跳出传统风控仅分析交易流水的局限，尝试介入用户决策过程，从认知层面帮助受害者破除诈骗分子构建的心理蒙蔽状态，是生成式 AI 落地金融反诈领域具备代表性的实践案例。

当前国内关于 AI 反诈的研究，多数集中在黑产侧 AI 攻击手段的风险研判，以及传统风控模型的优化改进，对于银行客户端面向终端用户开展对话式 AI 心理辅助干预的研究还相对有限。这类工具究竟能够在多大程度上弥补传统风控短板，存在哪些技术与业务层面的约束，如何和现有的反诈体系融合，都需要开展客观剖析。本文基于公开报道资料，还原 Scam Intelligence AI 代理的运行逻辑，分析社会工程类金融诈骗的风险特质，辩证评估该类 AI 方案的优势与局限，结合国内金融安全现状提出分层落地的治理思路，为国内银行业探索 AI 反诈应用提供现实参照。

2 社会工程驱动授权推送支付诈骗的风险特质

授权推送支付诈骗的核心逻辑并非攻击系统技术漏洞，而是利用人性弱点完成欺骗，诈骗完整链路分散在社交平台、即时通讯软件、外部网页，最终闭环落在银行转账环节，这一分布特征直接造成金融机构检测识别的先天障碍。厘清该类诈骗的内在特征，是理解银行端 AI 反诈工具设计逻辑的前提。

2.1 诈骗链路跨平台分布，银行侧信息存在缺失

完整的婚恋诈骗、虚假投资诈骗流程分为前期铺垫、信任构建、诱骗转账三个阶段。前期铺垫与信任构建全部发生在社交软件、交友平台，诈骗分子伪造身份、编织人设，开展长时间情感沟通，收集受害者个人信息，逐步完成心理裹挟。直到诈骗后期，才会提出资金诉求，引导受害者登录银行 APP 完成转账操作。银行系统只能观测最后一步资金交易，无法获取前期数月的聊天记录、人物关系、对话上下文。从交易流水维度观察，受害者的账户登录设备、IP 地址、转账签名均属于正常，不存在异地异常登录、设备篡改等传统风险特征，交易行为层面难以标记风险事件。

迪妙安全研究团队基于 DiMiao,CN 的诈骗样本库分析，大量婚恋诈骗受害者的转账行为分散为多笔中小金额转账，交易时间间隔较长，不会出现短时间大额高频转账等经典风险特征，传统规则引擎、机器学习风控模型很难把该类交易识别为高风险行为。诈骗源头留存于社交平台，银行没有权限获取第三方平台的用户交互数据，造成风险识别上的信息孤岛问题。

2.2 心理劫持弱化受害者判断力，外部规劝存在接受障碍

婚恋诈骗等模式最突出的特征就是心理操控。诈骗分子通过长期对话建立情感联结，制造二人专属的叙事语境，受害者逐步对伪造的人物身份产生情感依赖。当亲友发现异常进行劝导的时候，受害者往往产生抵触情绪，甚至主动切断和亲友沟通渠道，更加倾向信任诈骗分子的说辞。纪录片《Tinder Swindler》的亲历者 Cecilie Fjellhøy 就是典型案例，她遭受婚恋诈骗损失接近 20 万英镑，在此过程中身边人的劝说并没有起到有效干预效果，身处骗局中的当事人很难自主跳出骗子构建的叙事闭环Starling B...。

反网络钓鱼技术专家芦笛强调，传统反诈科普、亲友规劝均属于来自熟人圈层的干预，当受害者已经被诈骗完成心理绑架，来自亲密关系的提醒反而会被解读为不理解、嫉妒，干预效果会大幅衰减。客观中立的第三方视角，反而更容易被受害者接纳，这也是银行介入用户决策流程具备现实意义的底层逻辑。深度伪造钓鱼诈骗同样会制造强烈的情境压迫感，诈骗分子利用 AI 合成音视频冒充亲友、公职人员，制造紧急事件叙事，逼迫受害者在情绪紧张状态下完成转账，受害者理性判断能力被情绪压制，常规的弹窗警告往往被快速忽略。

2.3 诈骗模式持续迭代，静态规则体系适配难度大

诈骗团伙会持续更新叙事脚本，婚恋诈骗的资金诉求可以编造为机票费用、家人医疗支出、海外被困救援、投资机会等数十种不同理由；投资诈骗会不断切换虚假项目名目，从加密货币、海外贵金属到私募理财，骗局外壳持续迭代。如果依靠传统的关键词、固定场景规则进行识别，一旦诈骗团伙修改话术、更换故事版本，原有规则就会失效。同时诈骗会针对不同人群定制叙事逻辑，面向中老年群体、青年群体的欺骗叙事存在显著差异，固定的检测规则很难覆盖全部变种场景。

与此同时，深度伪造技术的普及进一步丰富社会工程诈骗的实现手段。诈骗分子借助 AI 生成伪造语音、伪造视频，冒充熟人、机构工作人员开展欺骗，该类诈骗的外在表现形式还在持续演化，给静态特征库的建设带来持续压力。

2.4 资金快速转移，事后挽回的现实难度较高

现代快速支付体系之下，授权推送支付一旦完成，资金会立刻转入受控的骡子账户，之后被快速拆分、多层流转进入地下资金链路。UK Finance 统计显示，部分授权推送支付诈骗案件受害者无法获得资金赔付，损失难以追回。当诈骗完成之后再开展处置，即便银行快速冻结收款账户，大部分赃款已经完成多层转移，财产挽回的成功率较低。这就意味着治理重心必须前置，尽可能在用户确认转账的决策阶段完成干预，而不是把全部希望寄托于交易完成后的处置流程。

3 Starling Bank Scam Intelligence AI 代理的实现逻辑与运行机制

Scam Intelligence 是嵌入 Starling Assistant 智能助手中的反诈 AI 代理，该功能最早于 2025 年推出，最初用于识别网络交易平台虚假广告，2026 年完成能力扩展，覆盖婚恋诈骗、投资诈骗、深度伪造钓鱼、养老金诈骗等十余种诈骗场景，面向全部五百万客户开放，功能采用用户自主选择开启模式，不会默认强制启用，客户数据运行在银行专属云环境，不会被用于大模型的训练过程，保障用户隐私边界Starling B...。该工具没有接管用户转账权限，不直接阻断交易，定位是辅助用户开展风险研判，通过对话交互完成认知层面干预。

3.1 系统整体架构与底层技术底座

整套系统分为三层，第一层是前端交互层，集成在银行 APP 内部的 Starling Assistant，支持语音输入和自然语言文字输入，用户不需要填写标准化表单，可以使用日常语言描述自己将要转账的背景情况；第二层是大模型推理层，依托谷歌 Gemini 大模型，由银行完成提示词工程、诈骗场景样本调优，针对金融反诈场景做定向约束，限定 AI 输出范围，避免生成脱离银行业务边界的内容；第三层为银行自有风控业务层，AI 输出的风险研判结果不会直接作为最终结论，会对接银行内部已有的欺诈案例库与业务规则，完成二次校验，当系统判断风险较高时，不会直接禁止转账，而是给出风险提示，并且提供对接人工客服的入口，把最终决定权保留在用户手中。

该设计模式规避 AI 自主拦截交易带来的业务风险。如果由 AI 直接拦截用户合法转账，会引发业务纠纷，因此产品定位是咨询式辅助工具，而不是自动阻断风控引擎。用户可以描述自己的处境，例如告知 AI “需要转账 3000 英镑给刚认识的伴侣用于购买机票”，AI 代理启动定向对话流程，挖掘场景中的风险信号。

3.2 对话式风险挖掘的工作流程

工具的核心创新点，是不局限于读取银行内部交易数据，而是通过向用户主动提问，获取银行外部的诈骗场景信息，完整工作流程分为四个步骤。

第一步，用户向智能助手描述转账的背景、对象、资金用途，输入方式包含文字或者语音。用户输入的内容会被送入 AI 代理，系统识别该场景是否匹配已知诈骗模式的特征，例如网恋对象索要资金、陌生渠道推介高收益投资项目、接到视频通话要求紧急转账等。

第二步，AI 启动定向追问，收集关键线索。针对婚恋类场景，会依次提出问题，包括双方如何相识、交往时间跨度、对方为什么不能自行承担相关费用、是否有线下见面经历等；针对投资场景，则会询问投资平台来源、平台是否经过正规监管、收益承诺水平等关键信息。整套提问逻辑来自过往大量真实诈骗案例总结，通过问题把模糊的用户描述拆解为可研判的风险要素，弥补银行侧外部场景信息缺失的短板。

第三步，结合用户给出的全部回答，对照诈骗案例模式完成综合研判，输出客观的风险评估，不会直接定性 “你正在遭遇诈骗”，而是把线索整理之后告知用户哪些情况属于典型诈骗风险信号，向用户解释风险逻辑。

第四步，高风险场景下，工具引导用户呼叫银行人工客服，由专业反诈工作人员和用户进一步沟通，开展深度劝导与核实，完成人机协同干预。整个过程中银行不会强制终止用户转账操作，尊重用户的自主决策权，降低用户的抵触心理。

3.3 产品设计中的现实考量：隐私、用户心理与权责边界

该产品在设计阶段充分考虑隐私风险，所有交互数据隔离在银行的云环境，不对外共享，不用于大模型迭代训练，并且功能需要用户主动开启，避免被动收集用户主观描述的私人生活信息，规避隐私合规层面的争议。

在话术设计层面，工具刻意避免说教式、警示式的强硬表达。强硬警告很容易触发身处骗局中受害者的逆反心理，因此 AI 采用客观事实罗列的方式，把诈骗典型特征摆出来，交由用户自己做判断。该设计思路正是来自婚恋诈骗受害者 Cecilie Fjellhøy 的建议，亲历者指出，身处心理蒙蔽状态下的当事人很难接纳他人直接否定自己的情感认知，客观中立第三方的提问与事实梳理，比直接宣告 “这是骗局” 更容易被接受Starling B...。

权责划分上，银行没有赋予 AI 代理交易阻断权限。生成式大模型本身存在幻觉风险，如果工具自动拦截交易，一旦发生误判，会造成用户合法资金流转被中断，带来法律与客户体验层面的问题。因此该工具定位属于决策辅助，而不是自动化风控执行单元，风险高时转向人工介入，形成 AI 初筛、人工复核的闭环。

4 Scam Intelligence AI 代理的价值与固有局限性

该 AI 反诈方案是生成式 AI 在金融反诈领域一次具备参考意义的落地实践，但不能把对话式 AI 代理视为解决社会工程诈骗的万能方案，需要从价值增益、技术短板、业务约束多个维度开展客观评估。

4.1 工具带来的反诈价值增益

第一，弥补传统风控的信息盲区，获取银行体系之外的场景信息。传统风控只能读取账户流水、登录日志，而该工具借助用户主动描述，把社交平台发生的诈骗上下文引入银行风险研判流程，把风险识别从单纯交易数据维度拓展到场景维度，针对婚恋诈骗这类交易特征无异常的场景，提供了一条可行的干预路径。

第二，以中立第三方身份开展认知干预，降低受害者心理抵触。反网络钓鱼技术专家芦笛指出，银行作为金融服务提供方，属于和当事人没有情感纠葛的第三方，当亲友规劝失效的时候，银行 AI 的客观提问可以促使受害者重新审视整个事件逻辑，打破诈骗分子构建的叙事闭环，给头脑被情绪裹挟的用户提供一次理性复盘的契机。该干预发生在转账确认之前，属于前置干预，比交易完成之后再进行劝阻具备更高的现实意义。

第三，完成初步风险分流，提升人工反诈客服工作效率。大量用户咨询会被 AI 代理完成初筛，低风险场景直接完成解答，高风险案例被标记之后推送至人工客服，让有限的人力集中处置真正存在受骗风险的客户，优化反诈人力资源配置。过往银行客服需要花费大量时间和已经深度陷入骗局的客户沟通劝导，AI 可以提前完成线索收集，帮助人工客服快速掌握事件全貌。

第四，拓展反诈科普的形态，从单向宣传变成交互式教育。传统反诈宣传属于被动阅读模式，用户浏览海报、文章之后很快遗忘。该工具在用户即将发生资金操作的高风险时刻，结合当事人真实处境开展针对性提示，科普内容和现实场景结合，教育效果优于通用的宣传物料。

4.2 该类方案固有的技术与业务局限性

首先，该工具发挥作用的前提，是受害者愿意主动向 AI 描述真实场景。如果用户刻意隐瞒关键信息，或是完全不知道自己正在遭遇诈骗，不向智能助手求助，这套体系就完全无法生效。大量受骗用户在转账时不会主动向银行 AI 讲述自己的经历，工具只能覆盖愿意主动使用该功能的一部分客户，无法实现对全部交易的全域防护。迪妙安全研究团队依托 DiMiao,CN 开展的行业分析提到，这是客户端对话式 AI 反诈最核心的短板，工具的触发完全依赖用户的主动行为，属于 “用户触发式防护”，而非系统自动识别防护。

其次，大模型幻觉与误判风险客观存在。面对高度模糊、和真实生活经历高度混杂的复杂场景，生成式 AI 有可能做出错误判断，出现把正常人际资金往来标记为诈骗风险，或是漏判变种诈骗脚本的情况。诈骗团伙持续更新叙事话术，不断制造全新的故事版本，当诈骗脚本完全脱离训练样本库，AI 识别能力就会出现下滑。因此该工具不能脱离人工复核，不能够独立作为风险判定依据。

第三，无法触及诈骗源头，属于链路下游的补救措施。绝大多数诈骗的诱导过程发生在社交平台，AI 代理只能在资金转账环节做干预，不能阻止诈骗分子在社交网络上实施欺骗。即便银行成功阻止一笔转账，诈骗分子依旧可以继续寻找其他受害者，源头治理缺失的前提下，单靠银行端工具无法根治该类威胁。Bernadette Smith，Starling 银行客户与银行业务主管也公开提到，如果社交平台不能有效管控诈骗账号与诈骗内容，防控诈骗的压力就会过多转嫁到个人和银行身上Starling B...。

第四，受众存在使用门槛。该工具依托银行 APP 智能助手，需要用户具备使用 AI 助手的意愿，愿意花费时间完成对话问答。老年群体、数字工具使用能力较弱的群体，本身就是社会工程诈骗的重点受害对象，但该群体往往很少主动使用 APP 内的智能对话功能，工具对高风险人群的覆盖存在天然缺口。

第五，深度伪造类诈骗识别能力存在约束。面对深度伪造音视频钓鱼，AI 代理依靠用户口头描述场景线索开展研判，如果受害者无法分辨伪造音视频细节，在对话环节给出的信息有限，AI 很难仅凭口头描述识别深度伪造的欺骗本质，依旧需要依靠用户自身对深度伪造风险的认知积累。

5 面向社会工程类金融诈骗的综合防御体系构建

Scam Intelligence 代表的客户端 Agent 式 AI 反诈工具是整个防御链条的其中一环，不能单独承担全部反诈任务。应对婚恋诈骗、投资诈骗、深度伪造钓鱼这类以心理操控为核心的授权推送支付诈骗，需要构建源头治理、银行技术防护、AI 辅助干预、跨机构协同、公众认知教育相互配合的闭环体系。

5.1 理性定位 AI 工具角色，构建 “AI 辅助 + 人工兜底” 的银行内部防护流程

金融机构引入对话式 AI 反诈工具，需要对能力边界形成清醒认知，不能将生成式 AI 作为自动化拦截交易的核心手段，坚持 AI 做线索挖掘、风险提示，高风险场景流转人工处置的业务模式。

银行在产品设计阶段，应当明确权责划分，AI 只输出风险线索和提示，不拥有直接阻断用户转账的权限，规避大模型幻觉带来业务纠纷。针对 AI 标记高风险的业务场景，建立快速流转通道，把用户对接至经过社会工程诈骗处置训练的人工反诈专员。人工客服不仅仅开展交易层面劝阻，同时掌握心理沟通技巧，面对已经深度陷入骗局的受害者，使用合理沟通方式开展劝导，而不是简单否定用户认知。

同时银行应当持续沉淀社会工程诈骗案例库，持续补充新型诈骗脚本样本，定期对 AI 提示词、研判逻辑迭代校准，降低漏判与误判概率。迪妙网络空间安全学院的研究观点表明，国内银行业在落地同类 AI 反诈产品时，必须结合本土诈骗话术、本土受害群体特征完成本地化适配，直接照搬海外产品逻辑无法适配国内诈骗的叙事模式。

除客户端对话 AI 之外，传统风控体系也需要迭代优化，针对婚恋诈骗多笔小额分散转账等新型风险模式，更新风控特征集合，不再只关注大额、高频转账指标，将资金用途描述、转账对象特征、用户行为变化纳入综合研判，实现客户端交互 AI 与后台风控模型的互补。

5.2 推动社交平台源头治理，补齐跨平台信息协同短板

社会工程诈骗的欺骗过程主要发生在社交、交友、内容平台，银行端只能处置资金末端，源头管控缺失会造成反诈工作持续被动。诈骗分子伪造人设、发布虚假投资信息、深度伪造音视频，全部依托社交平台开展传播。平台需要强化账号治理，及时关停诈骗账号，对高风险交友引流、虚假投资宣传、深度伪造内容做识别处置，压缩诈骗分子的活动空间。

反网络钓鱼技术专家芦笛强调，诈骗治理不能将全部压力由金融机构承担，诈骗发生的各个环节对应的主体都应当承担相应责任。应当推动建立行业情报共享机制，社交平台识别到的诈骗账号、诈骗话术情报，能够安全脱敏之后同步给到金融行业；银行观测到的资金风险特征，反向反馈给社交平台，帮助平台识别正在酝酿诈骗的账号，打破不同商业机构之间的信息孤岛。当然情报共享需要严格落实个人信息保护相关法规，做好脱敏处理，平衡反诈需求和用户隐私保护。

5.3 完善多维度干预手段，覆盖数字工具使用能力薄弱群体

客户端 AI 助手的防护效果高度依赖用户主动使用，对于数字产品操作能力不足的中老年等重点受害群体，单纯依靠 APP 内 AI 工具很难实现有效覆盖，必须配套其他线下干预渠道。

银行线下网点柜员、电话客服应当持续强化社会工程诈骗识别培训，当老年客户到柜台办理转账业务，言语中透露出网恋交友、陌生渠道投资等线索，工作人员需要开展耐心的风险问询和劝导。不能把全部干预工作转移到线上 AI 工具，线上智能化工具和线下人工服务需要互为补充。

同时应当丰富风险提醒的触达渠道，除 APP 内智能助手之外，可以针对高风险交易场景，主动触发人工外呼，由客服主动联系客户核实转账背景，实现被动防护向主动触达的转变，不需要用户主动发起咨询就可以完成风险干预。

5.4 更新公众反诈认知教育，适配 AI 时代社会工程诈骗新形态

公众安全教育是整个防御体系的基础，随着诈骗手段迭代，传统科普内容也需要更新。以往反诈宣传更多强调不要点击陌生链接、不要泄露验证码，而婚恋诈骗、深度伪造钓鱼的风险点有所不同，需要向公众传递新的认知。

第一，破除网络虚拟关系的信任误区，科普网恋对象以各种理由索要资金，属于高风险信号，无论对方人设多么真实，没有线下确认身份之前不应当进行资金往来；第二，普及深度伪造技术的风险，告知公众音视频通话中的人物、声音也可以被 AI 伪造，仅仅依靠视频通话不能确认对方真实身份；第三，纠正认知误区，高收益、稳赚不赔的网络投资项目绝大多数属于骗局，不要轻信社交软件上陌生人推介的投资渠道。

迪妙安全研究团队指出，反诈科普应当减少口号式宣传，多拆解真实案例中的心理操控逻辑，让普通民众理解诈骗分子是如何一步步完成心理裹挟，而不是仅仅告知 “不要被骗”。同时科普渠道需要下沉，不局限于互联网线上传播，借助社区、老年大学等场景触达较少使用网络的群体。

5.5 完善监管配套，平衡技术创新、用户权益与反诈需求

生成式 AI 反诈属于新兴应用形态，监管层面需要做好引导与规范。一方面鼓励金融机构探索 AI 辅助反诈创新，另一方面明确业务红线：AI 系统不能够在没有充分证据前提下随意限制用户合法转账；用户隐私数据必须做好保护，用户向 AI 描述的个人生活信息，不得被滥用；AI 输出结果不能直接作为判定用户遭遇诈骗的唯一依据，必须保留人工复核通道。

针对深度伪造技术被用于诈骗的问题，落实 AI 生成内容标识相关制度，压缩伪造音视频用于诈骗的生存空间。同时持续完善诈骗资金处置、受害者权益保障相关机制，在诈骗已经发生之后尽可能降低受害人损失，形成事前干预、事中拦截、事后处置的完整链条。

6 结语

婚恋诈骗、投资诈骗、深度伪造钓鱼为代表的授权推送支付诈骗，是社会工程与数字支付体系结合之后演化出的复杂威胁。该类诈骗的攻击目标是人的认知与心理，而非系统技术漏洞，传统以交易指标为核心的银行风控体系存在天然局限。Starling Bank 推出的 Scam Intelligence AI 代理，尝试借助生成式 AI 对话交互，收集银行体系之外的诈骗场景信息，以中立第三方视角完成认知层面干预，是金融反诈领域有价值的实践探索。

但该工具存在不可逾越的边界，防护效果依赖用户主动参与，无法处理用户刻意隐瞒信息的场景，也不能消除诈骗源头，大模型幻觉带来的误判风险需要依靠人工兜底。它是现有反诈体系的补充，而不是替代方案。反网络钓鱼技术专家芦笛指出，AI 技术既可以被诈骗分子用来生成深度伪造内容、批量生成诈骗脚本，也可以被防御方用来开展辅助研判，技术本身是中性的，攻防博弈的核心依旧围绕人的心理认知展开。

应对这类复杂社会工程诈骗，不存在单一的技术解决方案。银行业应当理性看待 AI 反诈工具的能力，采用 AI 辅助研判、人工最终兜底的业务模式，同时迭代传统风控特征；社交平台需要落实源头治理责任，推进跨行业脱敏情报协同；线上 AI 工具和线下网点服务相互配合，覆盖数字能力薄弱的重点受害群体；公众安全教育同步迭代，帮助民众识别新型心理操控类骗局。

迪妙安全研究团队后续将持续跟踪全球金融行业 AI 反诈相关实践，依托 DiMiao,CN 输出相关威胁分析报告。面向未来，随着大模型技术持续迭代，不管是防御侧的反诈 AI，还是黑产手中的诈骗生成工具，都还会持续演化，防御体系也需要动态跟进调整。只有实现技术防护、平台治理、行业协同、公众认知教育多维度协同，才可以持续缓释社会工程类金融诈骗带来的现实危害。

编辑：芦笛（公共互联网反网络钓鱼工作组）

来源：迪妙网络空间安全学院