首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

TiDB 帮助万达网络科技集团实现高性能高质量的实时风平台

作者 | 陈新江 万达网络科技集团大数据中心 万达网络科技集团 是中国唯一的实业+互联网大型开放型平台公司,拥有飞凡信息、快钱支付、征信、网络信贷、大数据等公司,运用大数据、云计算、人工智能、场景应用等技术为实体产业实现数字化升级...万达网络科技集团的技术团队,建设和维护着一套实时风平台。这套实时风平台,承担着各种关键交易的在线风数据的写入和查询服务。...实时风平台后端的数据库系统在高性能,可靠性,可扩展性上有很高的要求,并且需要满足如下核心功能和业务要求: 风相关业务数据实时入库 实时风规则计算 通过 BI 工具分析风历史数据 ETL 入库到...基于 MySQL Proxy 中间件的方案,缺少对分库分表后的跨库跨表的分布式事务支持以及对复杂JOIN 的良好支持,因此也无法满足业务上风规则实时计算和复杂查询的需求以及对业务团队的 BI 需求的支持...在实时风平台的高并发高性能的对外服务过程中,在线灵活扩容的相关工作在 MySQL Proxy 中间件架构中无法高效和可靠的实施。

1.2K10
您找到你想要的搜索结果了吗?
是的
没有找到

数据赋能,高效防:蚂蚁数据智能如何守护金融安全

在 7 月 21-22 日深圳 ArchSummit 全球架构师峰会上,来自蚂蚁集团的高级技术专家马希民分享了,基于信贷实时风,构建数据智能的高可用实时风决策系统实践。以下是演讲内容整理。...我们团队主要负责的是消费金融产品的实时风,例如支付宝收银台中花呗、花呗分期、信用卡分期等贷记产品显示时,表示这笔交易已经通过了我们的实时风系统,被视为无风险交易,我们实时的决策系统面临的主要问题有以下四方面...因此,实时风除了需要保障日常正常流量压力下的极速响应,还需要在面临一些特殊状态依然保持高可用,例如大促、直播的高峰流量,以及当风险规则因为数据等原因导致异常,进行了远超出预期的拦截,实时风架构需要对上述特殊状态进行快速的自适应响应...,来将实时风的响应时间和拦截率始终维持在一个合理的水位。...今天我主要分享了如何使实时风决策系统实现极速响应和高可用性。实时风决策系统的在性能方面的核心优化手段是降低 IO,我之前提到的多级决策、分层决策、预决策和规则精简,本质上都是为了减少 IO。

25830

基于 Apache Flink 和规则引擎的实时风解决方案 ​

这要求风系统一定要有实时性。本文就介绍一种实时风解决方案。 1.总体架构 风是业务场景的产物,风系统直接服务于业务系统,与之相关的还有惩罚系统和分析系统,各系统关系与角色如下: ?...业务系统,通常是 APP + 后台 或者 web,是互联网业务的载体,风险从业务系统触发; 风系统,为业务系统提供支持,根据业务系统传来的数据或埋点信息来判断当前用户或事件有无风险; 惩罚系统,业务系统根据风系统的结果来调用...该系统有三条数据流向: 实时风数据流,由红线标识,同步调用,为风调用的核心链路; 准实时指标数据流,由蓝线标识,异步写入,为实时风部分准备指标数据; 准实时/离线分析数据流,由绿线标识,异步写入,...2.1 实时风时风是整个系统的核心,被业务系统同步调用,完成对应的风判断。 前面提到规则往往由人编写并且需要动态调整,所以我们会把风判断部分与规则管理部分拆开。...Flink 把汇总的指标结果写入 Redis 或 Hbase,供实时风系统查询。两者问题都不大,根据场景选择即可。

5K20

钱大妈基于 Flink 的实时风实践

摘要:本文作者彭明德,介绍了钱大妈与阿里云 Flink 实时计算团队共建实时风规则引擎,精确识别羊毛党以防营销预算流失。...钱大妈与阿里云 Flink 实时计算团队共建实时风规则引擎,精确识别羊毛党以防营销预算流失。...图一:钱大妈实时风流程示意图 二、业务架构 钱大妈风业务架构如图二所示总共分为四个部分:事件接入、风险感知、风险应对、风险回溯。...行为序列其实也是事件与事件之间的组合,他打破了以往风规则只能基于单事件维度描述事实的壁垒,在事件与事件之间的事实信息也将被规则引擎捕捉。...图六:社区Flink动态CEP规则表 五、回顾展望 基于 Flink 的实时风解决方案已接应用于钱大妈集团内部生产环境,在此解决方案里未引入新的技术组件和编程语言,最大化复用 Flink 资源实现实时风场景需求

2K20

卢明樊:爱奇艺的业务安全风“秘籍”

已经实现从社工钓鱼,逆向破解,APP伪造,恶意植入,漏洞挖掘,羊毛情报分享,物料(IP,设备,号,证,信息)供应,批量工具和自动化操作,任务分包和网赚平台,群,打码接码,交易变现等精细化分工。...统一实时风险决策接口服务 业务接入后,业务的后台服务即可调用统一实时风险决策接口服务,该服务依托于风险中台的六大核心引擎,分别为:规则引擎、模型引擎、查询引擎、工作流和决策引擎、场景引擎、仿真和灰度引擎...风所用的数据源包括但不限于威胁情报、实时风日志、业务数据、设备数据、行为数据、验证数据、数据中心其他风险数据、客诉数据等等。...也需要避免风服务因为超时熔断导致策略被迫失效而让黑产得手;同时也要持续优化缓存、流式、离线等数据链路,保证数据分析、指标和特征产出、实时查询的稳定性和可靠性,能及时发现异常并且随着数据规模扩大进行快速扩展...5.云端协同 风必须和端上的可信任的维度采集以及灵活多变验证能力紧密结合在一起,端上采集设备多维信息形成设备指纹,云上风基于设备信息进行伪造分析和其他恶意分析,用来进行设备识别与鉴白鉴黑,并提供多种防护能力

1.7K30

​网易游戏实时 HTAP 计费风平台建设

本文整理自网易互娱资深工程师, Flink Contributor, CDC Contributor 林佳,在 FFA 实时风专场的分享。...本篇内容主要分为五个部分:实时风业务会话会话关联的 Flink 实现HTAP 风平台建设提升风结果数据能效发展历程与展望未来图片众所周知,网易互娱的核心业务之一是线上互动娱乐应用服务,比如大家耳熟能详的梦幻西游...为了解决以上的问题,我们以 Flink 为计算引擎构建了一套实时风平台,并为他起名为 Luna,下面我将为大家进行详细的介绍。...实时风业务会话图片常见的线上支付逻辑是,当用户在应用上点击商城的道具进行应用内购买的时候,用户的客户端终端就会到计费系统进行下单,获得本次下单的订单信息。...未来我们希望,可以实时风平台可以支持更多的功能。比如我们希望支持用 Flink-SQL 即席查询结果;用户反馈驱动的风模型修正;结合 Flink-ML 挖掘更深层次数据价值。

1K30

TiDB 在金融行业关键业务场景的实践(下篇)

TiDB 在实时风业务中的实践 我们还有一大类关键的金融应用场景是实时风业务。跟传统的风不一样,随着互联网化的业务场景增多,银行和泛金融机构对于实时风的要求是非常高的。...TiDB 目前在风业务中的实时风数据汇聚、存储、管理、加工、计算场景方面已经有多个落地实践。...“T+0” 级别,如高达秒级的风数据计算查询。...在金融业务场景方面,我们有包括北京银行线上业务风模型管理平台、微众银行 CNC 反欺诈系统、天翼支付反洗钱平台、拉卡拉金融实时风平台等一系列的场景落地。...同时在互联网及电商业务场景中,包括像东南亚知名电商 Shopee 的风平台,小红书反欺诈系统及实时风平台、拼多多风平台等都有了一些落地。

1.3K20

快速开启专属的风系统

防范账号盗用和篡改:通过对用户登录、注册、密码修改等行为进行监控,风系统可以尽早发现账号被盗用或者信息被篡改的情况,及时采取措施,保护用户的个人信息安全。...顶象Dinsight实时风引擎,支持私有化部署和SaaS服务。以SaaS接入为例: 第一步,注册/登陆 顶象防御云,开通实时风险决策服务。...第二步,访问 [实时风险决策] - [应用管理] 菜单,新增应用。用来标识用户入口,比如:App、Web等。 第三步,访问 [实时风险决策] - [事件管理] 菜单,新增事件。...第四步,访问 [实时风险决策] - [风策略] - [策略管理] 菜单,添加一条简单策略。 第五步,业务后台开始集成。...detail/const-id#doc-h2-1 集成验证码:https://www.dingxiang-inc.com/docs/detail/captcha#doc-h2-1 顶象Dinsight实时风引擎可以在营销活动

1.8K20

引擎如何快速接入不同的数据源?

实时监控:风引擎可以通过分析客户信息、历史交易数据和公共数据库等信息,对客户的信用状况进行评估和风险判断,并通过实时监控各种风险,对交易异常、信用评估、欺诈检测等,通过即时通知进行提醒和预警。...数据是风引擎的重要组成数据是风决策引擎中不可或缺的组成部分,包括历史数据、实时风险数据、行为数据等等,不仅提供关键的信息和指示,更有助于做出明智的决策。...征信数据是指记录个人信用历史和相关财务信息的数据,包括个人基本信息、收入、职业、婚姻状况、信用卡和贷款信息等,三方数据。...以顶象Dinsight实时风引擎为例,首先在控制台接入,然后就可以在引擎配置。...接入控制台 (console) ,在application.properties中配置:接入引擎 (engine), 在application.properties中配置:顶象Dinsight实时风引擎可以在营销活动

31110

大数据等技术进步驱动互联网金融创新

技术进步推动实时风   随着互联网金融的发展,各类网银支付欺诈、电商钓鱼网站等风险因素也在增加,对风险控制(简称“风”)的要求越来越高。   ...蚂蚁金融服务集团资深数据专家陈继东介绍,大数据风主要是通过分析交易设计的环境信息、行为信息以及账户之间的关联关系来做交易的风险判断。...就如何找到用户体验与信息安全的平衡点,杭州邦盛金融信息技术有限公司总经理王新宇指出,通过实时风一定程度上可以解决这个问题。...从人类感知学来讲,实时风如果判断的时间大于200毫秒,这件事情是不可接受的,同时,实时风每秒又要面对上万笔的吞吐量,所以实时风平台的技术门槛特别高。...但有了实时风系统,企业可以更自如地做产品创新、限额的调整。

1.3K50

为本创新驱动,券商如何实现智能风加速?

如何融合信息技术与证券业务,不断地通过先进的科技手段,通过数据的汇聚和分析,通过智能化的探索,为各业务板块的核心竞争力赋能,是各大券商关注的重点。...问题与需求 该头部券商制定了“科技+服务”的发展战略,希望实现信息技术到金融科技能力的跨越,实现数据驱动的业务模式创新,从而实现数据资产的变现。...非现场风平台各项报表和查询生成时间逐渐拉长。夜间批量任务越来越慢,部分任务出现超时失败现象。 02 原合规风数据库数据量巨大,原有的传统的备份手段难以实现数据的实时保护。...每日高管报表从原半小时缩短至几分钟,并基于QData高效的处理能力实现了实时风与管理。同时,QPlus在大体量的数据实时备份的情况下既解决了成本问题又不失备份效率。...坚持自主研发,助力企业数字化转型可持续发展 该行业内头部券商表示:基于沃趣产品的高性能,帮助企业实现了实时风,全面部署了对线上全渠道、全业务、实时性的欺诈防

1.1K10

实时化浪潮下,Apache Flink还将在大数据领域掀起怎样的变革?| Q推荐

我们将在 FFA 上看到阿里巴巴、字节跳动、快手、美团、华为、Shopee、运满满、米哈游、蔚来汽车、集度汽车、菜鸟、网易等全球 40+ 各行业一线厂商,围绕 Flink 核心技术、行业实践、平台建设、实时风...AI 特征工程 + 实时风 AI 特征工程专场将由来自腾讯、字节跳动、阿里巴巴的技术专家带来基于 Flink 的实时特征工程平台建设思路与落地实践。...实时风专场将由网易互娱、字节跳动、京东、AirWallex、阿里巴巴的技术专家分享实时风平台建设的实践案例。...Tips: Flink Forward Asia 2022 大会最终议程以官网公布信息为准。...点击下方「阅读原文」或点击视频号预约按钮,即可报名预约大会直播,了解更多 Flink Forward Asia 2022 大会信息

57430

干货 | 携程基于大数据分析的实时风体系

性能和复杂度可以兼得 携程的风系统,和大部分第三方支付平台一样,也是以实时风系统为主: 支付环节一般留给风校验的时间不会超过1s,业务风点上更是希望风能在100ms内就能通过;对性能的追求,也是对极致用户体验的追求...规则数量两年翻了五倍,同时规则使用更多的数据不再仅限于产品信息、支付信息、账号信息,行为数据等弱关联数据开始大量的应用于规则分析。...在实时风场景里大量部署复杂模型,使模型也能和规则一样能直接拒绝交易;平均来看、执行一个模型以及相关的变量计算所需的资源可能与200条普通规则相当,对系统的架构和性能都是很高的挑战。...携程风架构变迁简史 ? 携程自建风系统开始于2011年左右,直到2015年正好赶上公司技术栈从.Net往Java平台转变,风系统也迎来了一次完全的重写。...Counter服务每天支撑了超过100亿次查询,单次流量查询的平均耗时仅1ms左右,保证了变量衍生的可靠性。

2.3K50

谁,复制了另一个我?

以下文章来源于腾讯云AI ,作者Jerry 据媒体报道,在2020年个税年度汇算查询时,有数千名学生发现自己的个人所得税App上有陌生公司的就职记录,也就是“被就业”了! 从被法人!被老赖!...“被就业”也许对生活暂时没有影响,但信息泄露有可能让受害人信息在不知情下被进一步滥用,甚至让犯罪记录“从天而降”。...在实际业务办理环节中,如果能结合音视频形式校验本人的真实意愿以及实时风险提示,就显得尤为重要。...2/实时风险检测 实时检测认证过程中的设备、视频流、用户行为风险,可有效拦截摄像头劫持、翻拍、面具攻击等恶意行为。...在业务办理流程设计上,诸如运营商行业可能出现用户被开电话卡的潜在冒用风险时,可以对高危用户实行“二次人认证”,即人实名核身认证后继续进行语音识别认证,提醒用户使用电话卡涉诈的法律风险、承诺合规使用;

97220

防盗窃反欺诈,支付宝风系统0.1秒识别风险

现在,虽然用户无感,但事实上,在支付宝的每笔交易中,支付宝第五代智能风引擎AlphaRisk都会从多风险维度去判断交易风险。 一个简单的模型是付款方与收款方自身的信息与关系信息。...如受害者账户与骗子账户相关特性鲜明,例如用户年龄、性别和使用习惯等——这些特征信息支持构建了“欺诈交易识别模型”,以及“欺诈者识别模型”,并在实践中为“决策”提供支撑。...芮雄文在演讲中公布的一些数据描述了AlphaRisk巨大的技术进步:支付宝平台上每天交易上亿笔,AlphaRisk不仅能够对每个用户的每笔支付进行7*24小时的实时风险扫描; 同时,通过不断新增的风险特征挖掘和优化算法迭代的模型...,AlphaRisk能够自动贴合用户行为特征进行实时风险对抗,在数亿交易中准确识别用户被骗支付的欺诈风险交易,不足0.1秒就能完成风险预警、检测、管等复杂流程。...目前蚁盾风险大脑提供了“交易、账户、营销、内容保护等实时风能力”已经服务于金融监管、银行、互联网三大领域,惠及上千家合作伙伴。 “蚂蚁金服是一家科技公司,我们的愿景是给世界带来更多平等的机会。”

1.3K10

实时化浪潮下,Apache Flink还将在大数据领域掀起怎样的变革?

我们将在 FFA 上看到阿里巴巴、字节跳动、快手、美团、华为、Shopee、运满满、米哈游、蔚来汽车、集度汽车、菜鸟、网易等全球 40+ 各行业一线厂商,围绕 Flink 核心技术、行业实践、平台建设、实时风...AI 特征工程 + 实时风 AI 特征工程专场将由来自腾讯、字节跳动、阿里巴巴的技术专家带来基于 Flink 的实时特征工程平台建设思路与落地实践。...实时风专场将由网易互娱、字节跳动、京东、AirWallex、阿里巴巴的技术专家分享实时风平台建设的实践案例。  ...Tips: Flink Forward Asia 2022 大会最终议程以官网公布信息为准。...点击下方「阅读原文」或点击视频号预约按钮,即可报名预约大会直播,了解更多 Flink Forward Asia 2022 大会信息

48940

oushudb丨案例分析 丨湖仓一体助力保险企业数据战略转型升级

1.风险管仅以目前多数保险企业都非常关注的风环节为例,该客户仍以风险部门固定报表分析为主,而通过风险数据建模,应用在投保前风险排查、承保中风险管及理赔时风险识别和反欺诈等全业务链条还非常有限。...以互联网场景下的意外险和健康险为例,由于投保手续较为简单,很多产品免体检,只需要填写投保人基本信息即可,这些业务中,很容易出现投保人隐瞒病情、造假家庭收入的情况,逆向选择甚至欺诈的可能性非常大。...在承保运营环节,相比较传统风,大数据风让保险机构对保险用户的动态跟踪反馈,定期对承保中用户信息进行维护,更新用户风险指数。...此外,保险代理公司和代理人可以访问保险用户信息和行为偏好,通过大数据标签和智能引导,帮助代理人更好的抓住客户需求和用户体验,形成转化和复购。精准获客模式不仅降低了营销成本,还提升了营销效率。...运营层面:建立和完善了实时业务变化,实时营销效果,当日分时业务趋势分析等;用户层面:保险用户、保险代理人的推荐排序,根据实时行为等特征变量的生产,为用户推荐更精准的保险产品和定价;风层面:投保实时风险识别

30210

余军:分布式数据库在金融行业的创新实践

主要工作经历:富麦信息科技有限公司 CTO ,中国惠普 Linux 和高性能计算集群方面的资深顾问,在 Red Hat 红帽中国负责开源解决方案和高性能计算。...这些用户的应用 TiDB 的业务场景,主要聚焦在:在线交易,在线支付,移动支付,在线信贷,营销积分,实时风, 投资者服务,金融征信管理。...TiDB 分布式 SQL 引擎,提供了高性能的即席查询计算能力。...OLAP - 风:实时风 TiDB 的解决之道: 风数据通过信息中间件双写Hive/Hadoop(历史库/历史分析) TiDB的分布式存储引擎架构,非常轻松地应对海量风数据的导入,存储和查询处理...风内主要的核心表数据量规模在50亿以上。 TiDB 的分布式SQL引擎层,可以高性能的为前端各类消费端提供低延迟的精准查询

1.9K102
领券