首页
学习
活动
专区
工具
TVP
发布

钱大妈基于 Flink 的实时风实践

摘要:本文作者彭明德,介绍了钱大妈与阿里云 Flink 实时计算团队共建实时风规则引擎,精确识别羊毛党以防营销预算流失。...钱大妈与阿里云 Flink 实时计算团队共建实时风规则引擎,精确识别羊毛党以防营销预算流失。...图一:钱大妈实时风流程示意图 二、业务架构 钱大妈风业务架构如图二所示总共分为四个部分:事件接入、风险感知、风险应对、风险回溯。...图四:实时风规则配置业务逻辑简图 四、难点攻坚 针对规则模型的流式序列型数据,我们选择 Flink CEP 处理事件序列匹配,由于我们整个风作业使用 Flink 实现,并且 Flink CEP 作为...图六:社区Flink动态CEP规则表 五、回顾展望 基于 Flink 的实时风解决方案已接应用于钱大妈集团内部生产环境,在此解决方案里未引入新的技术组件和编程语言,最大化复用 Flink 资源实现实时风场景需求

1.7K20

基于 Apache Flink 和规则引擎的实时风解决方案 ​

这要求风系统一定要有实时性。本文就介绍一种实时风解决方案。 1.总体架构 风是业务场景的产物,风系统直接服务于业务系统,与之相关的还有惩罚系统和分析系统,各系统关系与角色如下: ?...该系统有三条数据流向: 实时风数据流,由红线标识,同步调用,为风调用的核心链路; 准实时指标数据流,由蓝线标识,异步写入,为实时风部分准备指标数据; 准实时/离线分析数据流,由绿线标识,异步写入,...2.1 实时风时风是整个系统的核心,被业务系统同步调用,完成对应的风判断。 前面提到规则往往由人编写并且需要动态调整,所以我们会把风判断部分与规则管理部分拆开。...Flink 把汇总的指标结果写入 Redis 或 Hbase,供实时风系统查询。两者问题都不大,根据场景选择即可。...通过把数据计算和逻辑判断拆分开来并引入 Flink,我们的风系统可以应对极大的用户规模。

4.5K20
您找到你想要的搜索结果了吗?
是的
没有找到

Flink CEP 新特性进展与在实时风场景的落地

摘要:本文整理自阿里云开发工程师耿飙&阿里云开发工程师胡俊涛,在 FFA 实时风专场的分享。...我们这里展示三个典型场景: 第一个场景,实时风。...然后编写 Flink DataStream 作业并打包提交到 Flink 全托管实例中运行。 接下来为大家介绍 main 函数的大致流程以及部分关键实现。...例如一个常见的应用场景是用户行为模式识别,从流量入口到最终完成用户价值转化的一系列流程中,我们希望整体流程周期在十分钟之内的高潜用户,则可以像上图中在 PATTERN 后使用 WITHIN INTERVAL...但可能也存在这样的需求,对于这些流程周期超过十分钟或流程中断的用户,我们也希望能够识别出来,进一步去分析其超时或中断的原因。

1.6K30

携程是如何把大数据用于实时风的?

目前携程利用自主研发的风系统有效识别、防范这些风险。携程风系统从零起步,经过五年的不断探索与创新,已经可以有效覆盖事前、事中、事后各个环节。...主要分三大模块:风引擎、数据服务、数据运算、辅助系统。 风引擎:主要处理风请求,有预处理、规则引擎和模型执行服务,风引擎所需要的数据是由数据服务模块提供的。...由于携程的业务种类非常多,而且每种业务都有其特性,在进入风系统(Aegis)后,为了便于整个风系统对数据进行处理,风前端有一个适配器模块,把各个业务的数据都按照风内部标准化配置进行转换,以适合风系统使用...风系统要进行数据的合并。举个例子,当有一笔支付风校验,支付BU只抛过来支付信息(支付金额、支付方式、订单号等)。...由于每个风Event请求,都需要执行数百个规则,以及模型,这时,风引擎引入了规则执行路径优化方法。

2.2K80

干货 | 携程基于大数据分析的实时风体系

性能和复杂度可以兼得 携程的风系统,和大部分第三方支付平台一样,也是以实时风系统为主: 支付环节一般留给风校验的时间不会超过1s,业务风点上更是希望风能在100ms内就能通过;对性能的追求,也是对极致用户体验的追求...在实时风场景里大量部署复杂模型,使模型也能和规则一样能直接拒绝交易;平均来看、执行一个模型以及相关的变量计算所需的资源可能与200条普通规则相当,对系统的架构和性能都是很高的挑战。...携程风架构变迁简史 ? 携程自建风系统开始于2011年左右,直到2015年正好赶上公司技术栈从.Net往Java平台转变,风系统也迎来了一次完全的重写。...每天风收集上来的数据超过50亿条,其中超过1亿左右的请求需要风实时校验风险并返回给业务系统当前操作是否可以继续。...支撑风系统的高可用、高性能,离不开强大的基础设施,下面我向大家展示一下携程风的几个核心服务和组件: ? 风引擎: ? 我们给他起了一个名字叫 Matrix,意思是像魔方一样灵活多变。

2.2K50

实时化浪潮下,Apache Flink还将在大数据领域掀起怎样的变革?| Q推荐

今年是 Flink Forward Asia(下文简称 FFA)落地中国的第五个年头,也是 Flink 成为 Apache 软件基金会顶级项目的第八年。...、实时风、实时湖仓、数据集成等多个时下热门方向,分享 80+ 干货议题,带来一场专属于开发者的技术盛宴。...Flink 社区也把拓展适合流批一体的数据存储作为重点技术方向来推进,并在前不久发布了 Flink Table Store 0.2.0。...AI 特征工程 + 实时风 AI 特征工程专场将由来自腾讯、字节跳动、阿里巴巴的技术专家带来基于 Flink 的实时特征工程平台建设思路与落地实践。...实时风专场将由网易互娱、字节跳动、京东、AirWallex、阿里巴巴的技术专家分享实时风平台建设的实践案例。

53430

​网易游戏实时 HTAP 计费风平台建设

本文整理自网易互娱资深工程师, Flink Contributor, CDC Contributor 林佳,在 FFA 实时风专场的分享。...本篇内容主要分为五个部分:实时风业务会话会话关联的 Flink 实现HTAP 风平台建设提升风结果数据能效发展历程与展望未来图片众所周知,网易互娱的核心业务之一是线上互动娱乐应用服务,比如大家耳熟能详的梦幻西游...为了解决以上的问题,我们以 Flink 为计算引擎构建了一套实时风平台,并为他起名为 Luna,下面我将为大家进行详细的介绍。...图片从还原业务会话到使用数据做 HTAP 实时风平台的全过程,我们使用 Flink 消费原始数据,根据平台上提前配置好的分析模板,实时还原出业务会话。...未来我们希望,可以实时风平台可以支持更多的功能。比如我们希望支持用 Flink-SQL 即席查询风结果;用户反馈驱动的风模型修正;结合 Flink-ML 挖掘更深层次数据价值。

99230

建模整体流程

确定建模目的 在信贷领域中建立风模型是为了找出可能会逾期的客户,根据逾期的可能性和资金的松紧程度选择是否放贷。 在支付领域建立风模型是为了找出可能存在非法经营的商户,保证商户没有违法经营。...确定好坏样本逻辑 在信贷领域中逾期大于x期(不同公司取值不同)的客户定义为坏客户(1),从未逾期的客户定义为好客户(0) 在支付风领域中,有赌博、欺诈、套现、伪卡等行为的商户定义为坏商户(1)(具体根据模型要防的风险决定...特征工程 在风领域一直都有这样一句话 “数据决定了机器学习的上限,而算法只是尽可能逼近这个上限”,这里的数据指的就是经过特征工程得到的数据。通俗的讲就是衍生变量去捕获风险客户。...模型上线 在支付风领域如果模型验证没有问题,一般会上到线上,自动生成案例。在信贷中会模型搭配规则,判断申请贷款的人是通过放贷、拒绝放贷、还是转人工处理。...本文所讲的都是大致流程,没有深入展开分析,在之后的各期中会逐步展开这里所讲的每一小点,给所有需要从事风模型的同学一点建议。 以上都是我在建模过程中的一点经验总结,有不正之处恳请指正!

1.9K20

实时化浪潮下,Apache Flink还将在大数据领域掀起怎样的变革?

今年是 Flink Forward Asia(下文简称 FFA)落地中国的第五个年头,也是 Flink 成为 Apache 软件基金会顶级项目的第八年。...、实时风、实时湖仓、数据集成等多个时下热门方向,分享 80+ 干货议题,带来一场专属于开发者的技术盛宴。...Flink 社区也把拓展适合流批一体的数据存储作为重点技术方向来推进,并在前不久发布了 Flink Table Store 0.2.0。...AI 特征工程 + 实时风 AI 特征工程专场将由来自腾讯、字节跳动、阿里巴巴的技术专家带来基于 Flink 的实时特征工程平台建设思路与落地实践。...实时风专场将由网易互娱、字节跳动、京东、AirWallex、阿里巴巴的技术专家分享实时风平台建设的实践案例。

45640

微分享回放 | 携程是如何把大数据用于实时风

目前携程利用自主研发的风系统有效识别、防范这些风险。携程风系统从零起步,经过五年的不断探索与创新,已经可以有效覆盖事前、事中、事后各个环节。...图1 主要分三大模块:风引擎、数据服务、数据运算、辅助系统。 风引擎:主要处理风请求,有预处理、规则引擎和模型执行服务,风引擎所需要的数据是由数据服务模块提供的。...由于携程的业务种类非常多,而且每种业务都有其特性,在进入风系统(Aegis)后,为了便于整个风系统对数据进行处理,风前端有一个适配器模块,把各个业务的数据都按照风内部标准化配置进行转换,以适合风系统使用...风系统要进行数据的合并。 举个例子,当有一笔支付风校验,支付BU只抛过来支付信息(支付金额、支付方式、订单号等)。...由于每个风Event请求,都需要执行数百个规则,以及模型,这时,风引擎引入了规则执行路径优化方法。

95780

资源利用率提高67%,腾讯实时风平台云原生容器化之路

导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。...水滴后台架构 水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风策略平台,提供一系列的基础组件给策略人员进行构建策略模型,能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示: 水滴实时风平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。...服务扩缩容流程类似于服务升级过程。...上云后带来的效率提升主要有以下方面: 上云资源申请流程更加简单快速,上云前机器申领搬迁、虚拟 IP 申请、机器转移等流程周期一周左右,上云后资源申请周期缩短为小时级别 机器资源利用率提高67%,上云前

62520

业务流程

原本计划这篇写竞品分析操的,因为上篇只讲了流程和思路,竞品分析里有个步骤很关键就是还原竞品的业务流程图,所以这篇先分享下业务流程操,下篇再分享竞品分析操。...业务流程图的六步 关键逻辑的梳理 用户与任务梳理 开始和结束路径 核心路径 细化流程、添加异常 合并或拆分流程 今天以一款记账应用“鲨鱼记账”来分享业务流程操,建议小伙伴们可以先下载体验下...三、开始和结束路径 每个功能模块中,从哪里开始流程,到哪里终结流程。 如下图 ?...五、细化流程、添加异常.png 六、合并或拆分流程 因为这个是竞品的业务流程,所以就没有合并和拆分这个步骤了,当我们做自己产品的业务流程图的时候,思路是先复杂后简单,就是说先把能想到的都想出来,之后再优化做减法...,其它业务属于附加的,有的是变现的业务流程也很重要,以实际工作中便于沟通和项目推荐为标准去做流程图。

1.2K30

flink系列(9)-flink任务提交流程分析

连续写了几天的flink StreamGraph的代码,今天闲来说一下flink的启动,今天主要说的是本地模式(LocalStreamEnvironment)启动 下面先上传一张启动流程的顺序图 ?...从图上看出MiniCluster(包含)之前的所有的流程都是属于客户端的,后续的都是属于远端 其中每一个流转类,如果细讲都可以形成好几篇,下面在结合代码细讲一下 StreamExecutionEnvironment...类表示运行一个Flink任务所需的环境,分为本地LocalStreamEnvironment和远程RemoteStreamEnvironment两种。...这个环境让我们可以配置参数来控制如何运行Flink任务。...CompletionException(resultThrowable); }); return currentSchedulingFuture; } 好的,已经很接近整个流程到终点了

1.9K20

资源利用率提高67%,腾讯实时风平台云原生容器化之路

陈建平,后台开发工程师,现就职于TEG安全平台部-业务安全中心,主要负责中心实时策略风平台开发。...导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。...水滴后台架构 腾讯水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风策略平台,提供一系列的基础组件给策略人员进行构建策略模型,能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示: 水滴实时风平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块:主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。...机器转移等流程周期一周左右,上云后资源申请周期缩短为小时级别。

1K61
领券