「13章」Flink 从0到1实战实时风控系统Flink 核心技能实操环境搭建在进行 Flink 开发之前,需要先搭建好开发环境。...) .startNewChain() .keyBy(value -> value.f0) .sum(1);使用异步 I/O:对于涉及到外部存储(如数据库、文件系统
摘要:本文作者彭明德,介绍了钱大妈与阿里云 Flink 实时计算团队共建实时风控规则引擎,精确识别羊毛党以防营销预算流失。...除了数仓的分析场景以外,钱大妈面临着业务系统中的风控需求,例如每季度的营销费用中被不少的羊毛党薅走正常用户的利益,其中羊毛党一方面可能导致用户的口碑下降,另一方面也会影响原有的活动运营预算迅速攀升从而导致资损...钱大妈与阿里云 Flink 实时计算团队共建实时风控规则引擎,精确识别羊毛党以防营销预算流失。...图一:钱大妈实时风控流程示意图 二、业务架构 钱大妈风控业务架构如图二所示总共分为四个部分:事件接入、风险感知、风险应对、风险回溯。...图六:社区Flink动态CEP规则表 五、回顾展望 基于 Flink 的实时风控解决方案已接应用于钱大妈集团内部生产环境,在此解决方案里未引入新的技术组件和编程语言,最大化复用 Flink 资源实现实时风控场景需求
2010加入携程,参与了携程结算平台、风控系统的开发,对系统架构、流式数据处理等有比较深入的研究。...目前携程利用自主研发的风控系统有效识别、防范这些风险。携程风控系统从零起步,经过五年的不断探索与创新,已经可以有效覆盖事前、事中、事后各个环节。...一、Aegis系统体系 ? 主要分三大模块:风控引擎、数据服务、数据运算、辅助系统。 风控引擎:主要处理风控请求,有预处理、规则引擎和模型执行服务,风控引擎所需要的数据是由数据服务模块提供的。...数据运算所需的数据来源主要是:风控Event数据(订单数据、支付数据),各个系统采集来的 UBT、设备指纹、日志数据等等。 除了这些,风控平台还有非常完善的监控预警系统,人工审核平台以及报表系统。...由于携程的业务种类非常多,而且每种业务都有其特性,在进入风控系统(Aegis)后,为了便于整个风控系统对数据进行处理,风控前端有一个适配器模块,把各个业务的数据都按照风控内部标准化配置进行转换,以适合风控系统使用
摘要:本文整理自阿里云开发工程师耿飙&阿里云开发工程师胡俊涛,在 FFA 实时风控专场的分享。...开发了相关代码并跑起作业后,遇到 d1、a1、b1、b2、d2、c1 的事件流,Flink CEP 就能找到其中的 a1、b1、b2、c1 这一次匹配,之后用户就可以在作业中针对这次匹配做出处理,比如发送报警到下游系统等...我们这里展示三个典型场景: 第一个场景,实时风控。
一、关于API随着风控系统对实时性的要求不断提高,小时级别的借贷查询数据愈发成为核心资产。...Node.js因为天然的事件驱动模型,经常出现在API网关、异步风控任务和对外数据交换层中。它轻量、灵活、易并发,特别适合在高调用量的查询系统中承担接口请求角色。...系统会在用户申请时实时调用接口,把短周期查询、逾期情况和夜间行为作为同步风险输入,交给评分系统或规则引擎。若连续出现密集查询或逾期金额较大,系统会自动调整审批流程。...五、总结Node.js结合天远API的细粒度风控数据,可以构建敏捷、高并发的风控网关和实时查询服务。...API本身结构清晰,加上Node的灵活性,无论是接入审批系统、反欺诈系统还是贷中监控,都能形成顺畅的业务链条。在生产环境中加入缓存、限流和稳定加密模块,可以让系统持续可靠地运行。
而天远API提供的多头借贷小时级API,恰恰把这些细节整理成一份精细的时间切片,让风控系统不再依赖迟缓的周级或月级数据,而能以小时为单位观察风险波动。...Java在企业级风控体系中长期占据主导,它强调稳定、可维护和类型安全,非常适合构建与风控API通信的基础服务。...Java通常会把加密模块抽成独立类,以便复用,同时把网络请求托付给HttpClient,这些都能让代码在复杂的风控系统中保持干净。...06:00||BH_A357|近1天非银机构夜间查询|捕捉短周期异常|逾期记录|字段名|含义|说明||BH_B001|近90天最大逾期金额|与信用风险高度相关||BH_B016|当前逾期最大金额|判断即时风险的重要指标...短期查询次数的突然增多,常常代表着用户短时间内多次申请信贷;如果这种行为同时伴随在夜间发生,就更容易引起系统侧的风险提醒。系统会默认先让模型对这些数据做一次初筛,再把明显异常的情况推入人工审核。
性能和复杂度可以兼得 携程的风控系统,和大部分第三方支付平台一样,也是以实时风控系统为主: 支付环节一般留给风控校验的时间不会超过1s,业务风控点上更是希望风控能在100ms内就能通过;对性能的追求,也是对极致用户体验的追求...在实时风控场景里大量部署复杂模型,使模型也能和规则一样能直接拒绝交易;平均来看、执行一个模型以及相关的变量计算所需的资源可能与200条普通规则相当,对系统的架构和性能都是很高的挑战。...携程风控架构变迁简史 ? 携程自建风控系统开始于2011年左右,直到2015年正好赶上公司技术栈从.Net往Java平台转变,风控系统也迎来了一次完全的重写。...每天风控收集上来的数据超过50亿条,其中超过1亿左右的请求需要风控实时校验风险并返回给业务系统当前操作是否可以继续。...模型执行引擎: 风控引擎支持把SAS或SPARK等工具训练出来的模型直接在风控系统中部署,支持DOT和PMML等多种格式。
这要求风控系统一定要有实时性。本文就介绍一种实时风控解决方案。 1.总体架构 风控是业务场景的产物,风控系统直接服务于业务系统,与之相关的还有惩罚系统和分析系统,各系统关系与角色如下: ?...该系统有三条数据流向: 实时风控数据流,由红线标识,同步调用,为风控调用的核心链路; 准实时指标数据流,由蓝线标识,异步写入,为实时风控部分准备指标数据; 准实时/离线分析数据流,由绿线标识,异步写入,...2.1 实时风控 实时风控是整个系统的核心,被业务系统同步调用,完成对应的风控判断。 前面提到规则往往由人编写并且需要动态调整,所以我们会把风控判断部分与规则管理部分拆开。...前边提到,做规则判断需要事实的相关指标,比如最近一小时登陆次数,最近一小时注册账号数等等,这些指标通常有一段时间跨度,是某种状态或聚合,很难在实时风控过程中根据原始数据进行计算,因为风控的规则引擎往往是无状态的...Flink 把汇总的指标结果写入 Redis 或 Hbase,供实时风控系统查询。两者问题都不大,根据场景选择即可。
在信贷风控环节,系统往往需要在300ms内完成对用户多维度数据的聚合与决策。...Go语言凭借其轻量级的协程模型和高效的编译速度,成为构建高性能风控网关的首选。本文将分享一个生产环境下的对接案例,展示如何处理复杂的加密通信与数据清洗。...五、总结通过Go语言对接风控数据接口,我们不仅利用了其并发优势解决了吞吐量问题,还通过强类型约束降低了业务逻辑中的空指针风险。...在利用信贷行为数据洞察等涉及个人信用的高敏感度接口进行风控决策时,数据合规与隐私保护始终是企业不可逾越的红线。
2010加入携程,参与了携程结算平台、风控系统的开发,对系统架构、流式数据处理等有比较深入的研究。...目前携程利用自主研发的风控系统有效识别、防范这些风险。携程风控系统从零起步,经过五年的不断探索与创新,已经可以有效覆盖事前、事中、事后各个环节。...一、Aegis系统体系 ? 图1 主要分三大模块:风控引擎、数据服务、数据运算、辅助系统。 风控引擎:主要处理风控请求,有预处理、规则引擎和模型执行服务,风控引擎所需要的数据是由数据服务模块提供的。...数据运算所需的数据来源主要是:风控Event数据(订单数据、支付数据),各个系统采集来的UBT、设备指纹、日志数据等等。 除了这些,风控平台还有非常完善的监控预警系统,人工审核平台以及 报表系统。...由于携程的业务种类非常多,而且每种业务都有其特性,在进入风控系统(Aegis)后,为了便于整个风控系统对数据进行处理,风控前端有一个适配器模块,把各个业务的数据都按照风控内部标准化配置进行转换,以适合风控系统使用
12月1日晚间,卓翼科技(002369.SZ)发布公告称,公司控股股东、实控人夏传武因涉嫌内幕交易、操纵证券市场罪,经深圳市中级人民法院批准,于12月1日被深圳市公安局执行逮捕。...资料显示,夏传武生于1973年,2004年起任职卓翼科技,2014年初成为卓翼科技实控人。而夏传武被抓主要以与2018年公司重组期间内幕交易有关。
金融市场的波动往往在毫秒间决定盈亏,而传统风控系统因数据延迟、分析维度单一,常让企业陷入“事后补救”的被动局面。据行业统计,过去五年内,风险事件导致的平均利润损失高达17%。...一、金融实时风控的核心需求 金融风控需覆盖多维度数据整合、秒级响应、智能预警三大核心能力。...低至万元级 三、腾讯云流计算:为何成实时风控利器?...场景适配案例 某银行使用其构建交易反欺诈系统,通过Flink SQL实时聚合用户交易频率、地理位置等特征,将欺诈拦截从分钟级压缩至200毫秒内; 与Kafka、Redis等组件深度集成,支持维表关联...结语 实时风控已从“可选项”变为“生存刚需”。工具选型需摒弃“大而全”的堆砌思维,聚焦数据整合效率、计算延迟与团队适配性。腾讯云流计算以其全托管、低延迟的特性,尤其适合追求敏捷迭代的金融团队。
一、关于"信贷行为数据洞察API在秒级放款的现金贷业务、高频交易反欺诈、以及大型互金平台的微服务网关等场景中,系统的响应速度与吞吐量直接决定了用户体验与风控效率。...[信贷全周期行为特征]——包括多维度的查验频次与还款履约记录,是进行[实时风险决策]——如毫秒级自动审批与动态额度计算的核心数据支撑。...本文档专为Go(Golang)开发者编写,旨在展示如何利用Go语言的强类型系统与原生并发特性,高效对接此API。...调用API补充信贷行为数据,清洗后写入HBase或ClickHouse,用于构建实时风控大屏。...通过合理定义Struct并利用Go的并发优势,企业可以快速构建起能够支撑千万级日调用量的信贷行为数据洞察系统,将天远API的数据价值转化为实实在在的业务风控防线。
导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风控系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。...对于业务快速上线和资源快速扩缩容的需求,且公司自研上云项目往全面容器化上云方向推进,水滴风控平台开始进行自研上云的改造。...水滴后台架构 水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风控策略平台,提供一系列的基础组件给策略人员进行构建策略模型,能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示: 水滴实时风控平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。...,我们将指标监控系统由 Monitor 监控系统改造为智研监控系统。
摘要 在金融行业数字化转型中,数据湖平台成为平衡实时风控与监管合规的核心基础设施。...##正文 一、实时风控:从“T+1”到“毫秒级”的技术挑战 金融实时风控需覆盖交易监控、反欺诈、信用评估等场景,对数据湖平台的核心诉求包括: 低延迟处理:需在数百毫秒内完成PB级数据查询与模型推理...集成腾讯云智能分析Agent,实时调用风控模型,输出动态决策建议。...反洗钱等SaaS服务 - 兼容Apache Iceberg标准 典型客户案例: 某国有大行:通过DLC构建实时反欺诈系统,日均处理10亿笔交易,风险拦截准确率达99.9%; 东南亚某银行...##结语 金融行业数据湖选型需兼顾“实时风控”与“监管合规”双重目标。
本篇更新策略篇的规则集性能测算及Python实操,内容选自《100天风控专家》第57期。 首先介绍规则集的完整分析流程,包括五个步骤。 一、规则集分析流程 1....三、案例分析Python代码实操 通过配置决策树参数以及入模变量数量,自动化生成规则100多条,通过规则评估指标如命中率、精准率、召回率、lift进行初步筛选,组成为规则集进行初步的性能测试。...-end- 以上内容节选自《100天风控专家》从0到1的信贷风控训练营
陈建平,后台开发工程师,现就职于TEG安全平台部-业务安全中心,主要负责中心实时策略风控平台开发。...导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风控系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。...对于业务快速上线和资源快速扩缩容的需求,且公司自研上云项目往全面容器化上云方向推进,水滴风控平台开始进行自研上云的改造。...水滴后台架构 腾讯水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风控策略平台,提供一系列的基础组件给策略人员进行构建策略模型,能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示: 水滴实时风控平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块:主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。
在金融行业数字化浪潮中,实时风控已成为保障交易安全的核心环节。传统风控系统因延迟高、规则更新慢,难以应对现代金融交易的实时性要求。...流计算技术以其低延迟、高吞吐的特性,成为构建实时风控系统的技术基石,帮助金融机构在毫秒级内识别并拦截欺诈行为。 本文将深入解析市面上主流的流计算解决方案,助您选择最适合金融实时风控的技术路线。...一、主流流计算解决方案对比 目前,业界有多种流计算解决方案可全面支持金融实时风控需求,它们各有特色,适用于不同场景。 1....在实战中,Flink可与Groovy等动态脚本语言结合,构建支持规则热更新的风控系统,无需重启服务即可调整风控策略,极大提升了业务灵活性。 2....结语 在数字化金融时代,选择适合的流计算解决方案,是构建高效实时风控体系的关键。
这类平台的核心挑战在于如何将传统风控的后端逻辑,转化为用户可感知的前端安全体验,并构建贯穿始终的可信环境。本文以行业实践为参考,探讨此类平台在架构设计中需重点关注的几个工程问题。...从架构角度看,用户触发的此类请求应作为最高优先级事件处理,通过独立于普通业务消息的通道(如专属的WebSocket命令通道或高优先级消息队列)直通风控中心,确保亚秒级响应,并立即在双方会话中生效。...基于边缘计算的实时风险提示为实现低延迟的安全交互,可采用边缘节点进行轻量级实时判断。在加密通信前提下,可部署轻量模型在边缘节点,对聊天中的文本模式进行实时风险分析(如高频敏感词组合、疑似欺诈话术)。...算法可解释性与公平性:推荐与风控算法应避免不可解释的“黑箱”决策,特别是在涉及用户权限限制时,应保留可追溯的决策依据。算法设计需主动避免对任何群体的无意歧视,确保公平性。...这要求从产品逻辑到系统设计,都将“可信”与“适老”作为第一性原则。