首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

金融风控数据管理——海量金融数据离线监控方法

作者:housecheng  腾讯WXG工程师 |导语  解决金融风控数据监控“开发门槛高”“重复工作多”的痛点,实现PSI计算性能十倍速提升。...背景 在金融业务上,质量和稳定是生命线,我们需要对所有已经上线的风控要素,如策略、模型、标签、特征等构建监控。...在过去,我们部署监控的方式为: 风控要素负责同学在要素上线前,通过spark\sql完成对监控指标的运算并例行化; 将监控指标运算结果出库mysql\tbase,用于指标的展示和告警; 告警系统轮询指标是否异常...整体设计 系统交互视图 ? 与统一监控计算与检查工具交互的主要有接入方和告警系统,所有的监控由接入方发起,接入方可以是特征、标签、模型、策略的兜底检查同学,也可以是具体业务同学。...小结 针对金融风控要素监控的“开发门槛高”“重复工作多”等问题,本文提出了“统一监控计算与检查工具”这一解决方案,本文详细论述了该方案TaskMaker、 Calculator、 Checker等各个模块的设计实现

2.6K10
您找到你想要的搜索结果了吗?
是的
没有找到

数据管理之元数据管理

成功的元数据管理系统可以把整个业务的工作流、数据流和信息流有效地管理起来,使得系统不依赖特定的开发人员,从而提高系统的可扩展性。...数据仓库环境下的元数据管理系统的建设是十分困难的。...当前情况下,我们认为OMG组织的CWM标准将会成为数据仓库元数据领域事实上的标准,在元数据管理系统的建立过程中应尽量参考这个标准,这样使系统的可扩展性增强。...可是在与之相关的工具成熟之前,我们完全可以采用OIM中的元模型(因CWM对OIM是兼容的)以及支持它的元数据管理工具进行元数据管理系统的建设,而且元数据所包含的范围很广。...我们在建立元数据管理系统的时候,绝对不能盲目追求大而全,要坚持目标驱动的原则,在实施的时候要采取增量式、渐进式的建设原则。

6.1K40

物联网流量卡管理系统源码_物联网数据管理系统结构

注意系统无法兼容https协议请勿配置https协议 1.服务器系统centos7以上,linux系统,使用Xshell软件连接上服务器安装宝塔面板安装命令 yum install -y wget &...登录宝塔添加域名,将文件内tp5与dist压缩包解压至域名下 3.打开域名即可访问安装程序 域名:填写域名 数据库名:自定义 数据库账号:自定义 数据库密码:自定义 数据库地址:自定义 系统账号...:自定义后台账号 系统密码:自定义后台密码 4.完成以上即可正常使用系统 5.后台登录地址 域名 账号密码 系统账号:自定义后台账号 系统密码:自定义后台密码 6.公众号充值连接...域名/tp5/public/index/login.html 7.不会安装宝塔百度有教程百度搜索linux系统安装宝塔教程 下载地址 wwd.lanzouy.com/ipgV507ov3zg 后台演示;

1.5K10

DAMA数据管理数据管理概述

本章重点介绍数据管理的总体流程、人员和技术。undefined 核心要点 引言 数据管理是一个职能或是高层级的业务流程。...(十大职能),数据治理、数据架构管理、数据开发、数据操作管理、数据安全管理、参考数据和主数据管理、数据仓库和商务智能管理、文档和内容管理、元数据管理、数据质量管理。...考虑数据管理职能范围相关性。据不同企业不同时期、不同阶段,考虑相关职能的优先级,同时考虑投入、时间、努力等。 数据管理活动,职能范围的分解(结构:职能活动-子活动)。...另建议大家补充:PMI-PMP项目管理知识体系,加强数据管理的十个职能域的项目目标实现的理解。 使命和目标 本书中对于数据管理的使命描述,是站在企业需求的角度。...指导原则 本书中对于指导原则方面的介绍包括:数据资产、数据资产的有效利用、数据管理组织和人员、数据管理职能和职业。

3.1K01

金融交易系统设计思路

Data feed 报价系统的设计 5. 核心交易系统的设计 5.1. 协议部分 5.2. 订单处理 6. 管理员控制台的设计 6.1. Adminstrator 6.2. Manager 7....应用层防火墙 什么是七层防火墙,7层防火墙是在应用层工作的防火墙,它实时监控保护系统各个方面的行为。保护系统的安全运行,有效的保证系统的正常运行,有网络系统安全中有良好的表现. 图 3....最后是异构系统的支持与多语言支持,互联网云时代,任何一个系统不可能采用一种语言开发,通常是多个语言混合使用,取各种语言的有点。所以设计交易系统我们要考虑不同操作系统的差异与不同语言的通信。...Data feed 报价系统的设计 Data feed 是报价系统,主要的功能是为用户提供实时报价。 图 4. Data Feed ?...我们提供多种数据格式,以满足异构系统与各种编程语言。 5. 核心交易系统的设计 交易系统的核心就是处理订单,开仓,平仓,挂单等等。下图展示了订单处理的内部模型。 图 5. Trade Core ?

3.2K70

架构操练Kata:金融风险系统

Simon Brown的Software Architecture for Developers II;译者:伍斌) 背景 一家办公室设在伦敦、纽约和新加坡的全球投资银行,与其他银行(交易对手)进行金融产品交易...该银行现拥有“交易数据系统”(TDS)和“参考数据系统”(RDS),但需要一个新的“风险系统”。 交易数据系统 “交易数据系统”存储了银行所有交易数据。...“参考数据系统”也可以导出基于文件的XML参考数据,并且包括关于每个交易对手的基本信息。一个新的面向全公司的“参考数据系统”将在未来3个月内完成,目前的“参考数据系统”最终将被替代。...功能要求 新的“风险系统”的功能要求如下。 1.从“交易数据系统”导入交易数据。 2.从“参考数据系统”导入交易对手数据。 3.将两组数据结合在一起,用交易对手方的信息丰富交易数据。...故障转移 对于所有系统组件都可进行手动故障转移,前提是可以实现上述可用性目标。 安全 该系统必须遵循银行政策,该政策规定系统访问仅限于经过认证和授权的用户。 报告只能分发给授权用户。

71040

银行金融系统时钟同步系统方案设计

所以对于银行金融系统来说,更需要一套时钟同步系统来保证银行内的时间系统。本文章主要讲述银行金融系统时钟同步系统的方案。...、系统故障、意外灾祸等都应可能引起银行金融系统的工作不能正常运行,所以银行时钟同步系统的安全性,已经成为银行信息化建设与管理的首要问题。...2、银行金融系统时钟同步系统的方案要求 由于银行金融系统需要授时的设备基本都以网络设备为主,网络设备时间信息是通过网络传输,因此网设备就会产生一些高危漏洞,一旦有病毒侵入也会导致文件丢失时间不准等问题,...3、银行金融系统时钟同步系统的方案组成 银行金融系统时钟同步系统的方案组成由主从母钟、卫星天线、子钟、多路交换机、子钟组成。...5、银行金融系统时钟同步系统应用领域 时钟同步系统的授时具有精度高、稳定性好、功能强、无积累误差、不受地域气候等环境条件限制、性价比高、操作简单等特点,所以时钟同步系统的应用也越来越广泛,除本文所介绍的银行金融时钟系统

1.3K50

金融系统性能优化之道

因为这些流程都有一定的时间和人力物力成本,所以机构类的金融业务很难像互联网大规模扩张。 既然机构类的金融业务无法大规模扩张,金融机构就无法靠规模优势来彼此竞争,只能靠质量优势吸引客户。...在金融行业,时间就是金钱,所以金融机构就会想办法把速度提高,才能帮客户省钱。这决定金融行业的“快”指的就是延时低。 互联网业务和金融业务有一个重合点,那就是普惠金融,如第三方支付、小额信贷等。...那么接下来,我们就从吞吐量和延时这两个方面,分别来看看金融系统的优化要点。 2 吞吐量优化 两种常见方法: 2.1 分库分表 吞吐量最常见的解决方式。...总结 如何优化金融系统。首先我们分析了为什么金融系统会有吞吐量和延时这两个优化的方向。普惠金融和互联网业务类似,面向大众,对系统吞吐量要求非常高。机构金融专业性特别强,对延时要求非常高。...机构金融是从微观层面解决架构的纵向扩张问题,需要对用户进程、操作系统和硬件做特别的优化和控制,因此非常不适合云计算的解决方案。知道这些区别之后,你还要根据具体业务进行相应的优化和选择。

65520

数据管理

《持续交付 发布可靠软件的系统方法》读书笔记 数据库脚本化 与系统中其他变更一样,作为构建、部署、测试和发布过程的一部分,任何对数据库的修改都应该通过自动化过程来管理。...适应性测试:按如下方式进行测试设计—每次运行时先对数据环境进行检查,然后使用这些检查中得到的数据作为数据基础,对系统行为进行测试。...数据管理和部署流水线 我们通过测试来断言我们所开发的应用程序的行为符合我们期望的结果。...我们应该创建恰好够用的数据,用来验证我们对系统的期望行为。...小结 由于生命周期不同,数据管理也面临一些待解决的问题。尽管这些问题与部署流水线上下文中的问题有所不同,但管理数据所用的基本原则是一样的。关键是要把创建和迁移数据库全部变成自动化过程。

89910

谈MDM主数据管理系统设计和实现关键点

对于原有的关于主数据管理的解决方案,一个方面是建立数据中心和数据仓库,数据仓库可以极为高效地保存系统数据。...也有提出以ERP为核心系统,其他为外围系统,则ERP的基础数据管理上升为主数据管理。...主数据管理的关键就是“管理”。主数据管理不会创建新的数据或新的数据纵向结构。相反,它提供了一种方法,使企业能够有效地管理存储在分布系统中的数据。...主数据管理使用现有的系统,它从这些系统中获取最新信息,并提供了先进的技术和流程,用于自动、准确、及时地分发和分析整个企业中的数据,并对数据进行验证。...共享层 在主数据管理形成了完整的主数据视图后,更加重要的是能够快速灵活的将已有的完整的主数据开放和共享出去供其它业务系统使用。

2.7K20

泛存储系统数据管理的重大变革

泛存储(polystore)系统是一种颠覆性的数据管理方法,可以实现对各种不同类型的数据源和技术的无缝连接。...当前传统的数据管理方法正面临前所未有的挑战。这就是泛存储系统扮演重要角色的地方。 根据大数据专家和研究人员的说法,泛存储系统是一种“构建在多个异构集成存储引擎之上的数据库管理系统(DBMS)”。...它与传统的数据库联合系统有着本质区别。 简单来说,泛存储系统是一种颠覆性的数据管理方法,可以实现对各种不同类型的数据源和技术的无缝连接。...传统的数据管理方法通常很难处理不同数据源的复杂性和多样性,导致数据隔离,效率低下,错失宝贵的洞察力。 可以说,组织正在努力应对管理大量异构数据的挑战,这可能还是一个保守的描述。...关注并尽早拥抱泛存储系统是非常明智的,因为它们是构建面向未来的数据管理战略的关键,可以让组织在大数据时代持续茁壮成长。

4310

金融科技&大数据产品推荐:金鹏汽车金融大数据风控系统

金鹏汽车金融大数据风控系统主要基于大数据科技、决策树规则引擎、深度学习等多项核心技术,有效针对新车贷款、二手车贷款等业务,提高风控效率。...的产品投递 1、产品名称 金鹏汽车金融大数据风控系统 2、所属分类 消费金融 金融科技·风控、征信、反欺诈、智能定价 3、产品介绍 金鹏汽车金融大数据风控系统一站式完成车贷审批流程。...4、应用场景/人群 车贷风控场景,审批员或客户经理在“金鹏”系统中提交贷款申请,完成车贷审批流程。...6、产品优势 金鹏汽车金融大数据风控系统风控能力行业领先。秒速审批,一站式低成本。精准风控,近100%覆盖权威有效。自动定价,自动决策引擎定价,差异化匹配资质,高体验。...金鹏汽车金融风控系统一站式解决预审批风控难题,基于大数据科技、决策树规则引擎、深度学习等多项核心技术,提高车贷行业风控能力,给予更准确、更效率、更便捷的风控体验。

2K70
领券