首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

数据体系-简介

早期传统金融的主要利用了信用属性强大的金融数据,一般采用20个维度左右的数据,利用评分来识别客户的还款能力和还款意愿。...结合中国互联网发展,以及目前的征信监管要求,对可用数据及可用数据做一个全面的梳理。...2.数据来源 2.1 数据应用逻辑 常见流程中,客户准入时提供的资信材料有限,业务机构数据体量不足,仅仅根据内部风险数据进行风险评估会非常片面,无法全面的把某位客户的风险情况,所以通常需要依赖于第三方供应商提供数据作风支撑...未来百行能不能有效被使用上还有待观察,但人员可先了解其相关的资料。百行征信涉及的模块,主要包括以下方面: 报告相关数据:报告时间;查询原因;查询结果等。...4.2 明确需求 建议:回顾第二节数据应用逻辑关于业务类型、风险类型、流程、风险画像等的介绍。

3.7K64

ML | 建模的KS

我们这做模型的时候,经常是会用KS值来衡量模型的效果,这个指标也是很多领导会直接关注的指标。今天写一篇文章来全面地剖析一下这个指标,了解当中的原理以及实现,因为这些知识是必备的基本功。...不过这不影响我们去使用它,我们只需要知道在中是怎么实现的,并且在实际场景中怎么去使用它就可以了。就如上面我们说的,KS在主要是用于评估模型的好坏样本区分度高低的。什么是区分度?...可以看下图: 从业务上来说,就是越往后的箱子,客户的质量越差,rate整体上呈现单调性,从而可以把大多数的坏人,直接从箱的维度上就可以区分开来了,在后续的策略使用体验上十分友好。...02 KS的生成逻辑 KS的生成逻辑公式也是十分简单: 好样本累计占比坏样本累计占比 在领域,我们在计算KS前一般会根据我们认为的“正态分布原则”进行分箱,一般来说分成了10份,然后再进行KS的计算...03 KS的效果应用 KS的值域在0-1之间,一般来说KS是越大越有区分度的,但在领域并不是越大越好,到底KS值与模型可用性的关系如何,可看下表: 004 KS的实现 首先我们来对上面展示的例子进行

4.2K30
您找到你想要的搜索结果了吗?
是的
没有找到

中的大数据

的意义 何为?字面含义就是对于风险的控制从而使财务不受到损失。对于任何一家金融机构(包括银行,小贷,P2P等)来说,的重要性超过流量、体验、品牌这些人们熟悉的指标。...这其中除了一部分明显的自融欺诈外,大多数平台垮掉的原因还是不过关。 ◆◆◆ 2. 的核心 风险控制需要做什么?与逾期率的绝对数值相比,对风险的控制能力要重要得多。...国际上传统的方法 的核心是要准确预测每一笔借款违约概率。显而易见,这需要量化的工具,也就是模型。...◆◆◆ 4.机构在大数据领域的探索 我们所说的"大数据"并非指绝对的样本量的巨大,而是把常规的信贷征信数据以外的信息统一称为"大数据"。...大数据的挑战 伴随着机遇同样也有挑战。就像要有美味的菜肴,我们既需要好的材料,也需要好的厨师,当前大数据中运用的挑战主要还是在数据和人才这两方面。

1.4K120

ML | 建模的WOE与IV

ML」系列文章,主要是分享一下自己多年以来做金融的一些事一些情,当然也包括建模、机器学习、大数据等相关技术分享,欢迎同行交流与新同学的加入,共同学习,进步!...第一次接触这两个名词是在做模型的时候,老师教我们可以用IV去做变量筛选,IV(Information Value),中文名是信息值,简单来说这个指标的作用就是来衡量变量的预测能力强弱的,然后IV又是...04 Python实现 我们知道,针对连续型变量,是需要先转换为类别变量才可以进行IV值的计算的,现在我们把数据导入到Python中,原始变量是连续型变量,那么我们如何在Python里实现IV值的计算呢...测试数据集可以后台回复 'age' 进行获取。...,不过得注意一些细节,转换数据格式。‍

3.4K20

信贷模型搭建及核心模式分类

目前,对于信贷审核来说主要基于的模式为IPC、信贷工厂、大数据三种,每一种都有自己不同的侧重点。...3.大数据模式 大数据模式是指通过对海量的、多样化的、实时的、有价值的数据进行采集、整理、分析和挖掘,并运用大数据技术重新设计征信评价模型算法,多维度刻画信用主体的“画像”,向信息使用者呈现信用主体的违约率和信用状况...从资金的角度来看,模型是为了评估用户还款能力和还款意愿,反欺诈反作弊,防止用户薅羊毛和保证平台安全等功能;从行业的角度,互联网模型体现在消费金融/供应链金融/信用借贷/P2P/大数据征信等方面。...所以说,模型的计算策略和机制在一个公司属于绝密,规则除了核心的员工,其他人是不能知道规则的。 四、的核心 如果说金融产品的核心是,那么的核心是什么?...五、模型的设计步骤 总体来说模型的设计主要可以分为以下的几个步骤: 1.获取数据 信用评估来自于用户数据,模型规则其实就是用户数据规则,信息的纬度也比较广泛,大致可以分为基本信息/行为信息

1.8K10

机器学习与大数据

但机器学习在中的作用究竟如何,有哪些关键技术,其优势与缺点又有哪些呢?本期硬创公开课,雷锋网邀请百融金服风险总监郑宏洲,来讲讲机器学习与大数据的那些事。 嘉宾介绍: 郑宏洲,百融金服风险总监。...国内商业银行模型团队多年管理经验,专注于大数据机器学习、信贷风险策略、模型评分管理等领域。从事大数据分析和信贷风险管理近十年,在金融行业的数据分析、平台架构、模型研究和风险策略等方面有深刻的理解。...机器学习几乎在每一个有数据的场景都有应用。它主要是区别于纯粹人工经验去做决策。 雷锋网:目前来说,机器学习在大数据中是怎么样的地位?作用多大?...大数据是量化的一种新形式,出现主要的条件是,现代社会是一个信息社会,在信息和数据上极大的膨胀,这给我们有更全面衡量个体风险的机会。...区别于传统技术,大数据是在方法论上做了相应的革新。风险,即不确定性。风险管理实际上就是做量化风险。大数据是将贷款主体各个方面的属性维度做全面风险的量化。

1.8K80

支付模型

二、基于规则的 规则是最常用的,也是相对来说比较容易上手的模型。从现实情况中总结出一些经验,结合名单数据,制定规则,简单,有效。 常见的规则有: 1....操作规则 对支付、提现、充值的频率按照用户账号、IP、设备等进行限制,一旦超出阈值,则提升等级。 频率需综合考虑(五)分钟、(一)小时、(一)天、(一)周等维度的数据。...它是其它模型的基础。实践中,首先使用已知的规则来发现存在问题的交易,人工识别交易的风险等级后,把这些交易作为其它有监督学习的训练数据集。...互联网金融离不开机器学习,特别是支付。 在各种支付模型中,决策树模式是相对比较简单易用的模型。 如下的决策树模型,我们根据已有的数据,分析数据特征,构建出一颗决策树。...支付场景分析 ; 支付数据仓库建设 ; 支付模型和流程分析(本文); 支付系统架构 发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn

1.7K21

2017年大数据报告

二是通过大数据、云计算等手段,在风险防范、风险管方面实现了线上化和批量化。 其中,大数据技术解决了消费金融乃至小微金融领域的效率瓶颈。...目前,有能力推动大数据的主要为国有大行、股份制银行等大型银行,以及部分城商行等。互联网巨头、三大运营商等由于掌握了庞大的个人数据,也开始加入到这一市场中来。...从国内金融机构应用大数据的情况看,主要将大数据应用在客户画像领域,包括风险管、运营优化、业务创新、优化营销策略等。...“白名单”主动预授信 在消费金融中,银行、互联网金融等机构开始采用前置的白名单邀请制,商业银行将主动授信用于实际业务,这是对以往被动授信模式的颠覆。...就国内商业银行而言,将风险评分等技术手段引入信用贷款模型,是一些银行信用贷款业务爆发、不良下降的核心原因。

1.9K00

ML | 中的异常检测原理与应用

今天来介绍一下中的异常检测,从最基础的概念开始讲起,因为本人对这块的内容平时工作也做得不多,更多滴偏向于“纸上谈兵”,有什么说得不对的地方,也欢迎各位朋友指正~谢谢。...异常检测的概念 02 异常检测的难点 03 异常检测的分类及常见算法 01 异常检测的概念 异常检测(Anomaly Detection 或 Outlier Detection),又称为离群点检测,在我们领域很多地方都会用到...0301 基于统计检验与分布算法 说起异常点检测,最容易想到的就是这个正态分布图了,3倍方差之外的数据属于异常数据。...它是在1977年由美国统计学家John Tukey发明,分析数据需要为定量数据,通过它可以直观的探索数据特征。我们可以从箱线图中直观地看到两点:数据离散分布情况以及离群点。...而右边为解码器,它负责把压缩了的数据再进行还原,努力恢复成原本的样子。如果恢复不了,那就意味着样本不是同一类,可以归纳为异常数据。 4、混合DAD:深度学习模型提取特征+SVM进行分类。

2.2K20

ML | 建模中怎么做拒绝推断

建模中的样本偏差与拒绝推断》https://zhuanlan.zhihu.com/p/88624987 不过我也还是把他文章里的分类体系在这里重点再次分享一下。...其中,数据法中提到的3种方式都是比较好理解的。...方法一:简单说就是把模型应该拒绝的客户,按照一定规则(比如不那么坏的客户)给予审批通过的决策,后续观察其贷后表现,给未来的模型提供更丰富的数据; 方法二:指的是从其他机构或者类似产品中获得客户的贷后表现数据...06 总结一下 本文算是一个对拒绝推断的入门介绍了,让初涉模型的同学有一个相对来说比较清晰的全局认识,这里面涉及到的很多算法模型上的细节并没有展开来讲,因为我觉得这也会让阅读带来比较大的负担,公众号的文章还是要控制在几分钟内读完比较合适...Reference [1] 异常检测算法分类及经典模型概览 https://blog.csdn.net/cyan_soul/article/details/101702066 [2] 建模中的样本偏差与拒绝推断

1.5K30

ML | 建模老司机的几点思考与总结

ML」系列文章,主要是分享一下自己多年以来做金融的一些事一些情,当然也包括建模、机器学习、大数据等相关技术分享,欢迎同行交流与新同学的加入,共同学习,进步!...02 数据搜集处理(Data Curation) 当我们确定了要开发的模型之后,这个时候需要做的是搜集数据与处理数据了。...搜集数据,不需要等到所有的特征都搜集完才开始开发特征或者训练模型,有多少数据,就先搞多少数据。...在了解了以上的内容后,你就可以开始搜集所有相关的数据了,因为你的数据源会非常多,所以这里你必须做好数据的归档,不然后期会很乱,而且原始数据需要备份一份不要动,方便后续复盘使用。...具体可以参考我先前的一篇文章内容《分享8点超级有用的Python编程建议》 搞到数据后,需要做的事情大概可以分为: 1、消化所有的数据含义、逻辑; 2、对数据进行各种清洗,变成你熟悉的结构; 3、对数据进行质量控制

1.3K30

【金融数据】消费金融:大数据那点事?

数据同传统在本质上没有区别,主要区别在于模型数据输入的纬度和数据关联性分析。...大数据作为传统方式补充,主要利用行为数据来实施风险控制,用户行为数据可以作为另外的30%客户的有效补充。...相对于传统金融来讲,互联金融面对的客户风险较高,其面临的挑战更大,对数据对要求就会更高。 三、互联网金融行业的挑战 中国的互联网金融企业愿意从美国挖一些人才来提高自身水平。...大数据的优势: 1、用户行为数据成为数据 最好的数据还是金融数据,例如年龄、收入、职业、学历、资产、负债等信用数据,这些数据同信用相关度高,可以反映用户的还款能力和还款意愿,这些数据因子在模型中必不可少...大数据可以从数据纬度和分析角度提升传统水平,是一个必要的补充,可以让传统更加科学严谨,但是不是取代传统的模型和数据

3.6K51

为本创新驱动,券商如何实现智能加速?

合规始终是公司的首要核心竞争力,该券商不断推进全面风险管理体系建设,需要全方位提升主动合规控管理能力,进而提升风险管理精细化、智能化水平。...面临挑战 该券商的数据基础主要来自于业务系统的关系型数据库的数据,需要在数据基础之上实现数据的运营。而由于合规处于企业核心竞争力的高度,原数据积累10年,数据量已超30TB。...02 原合规数据数据量巨大,原有的传统的备份手段难以实现数据的实时保护。备份效率低下,备份作业被持续拉长,甚至影响高峰期间开展业务。为避免对业务的性能影响,不得已取消备份任务。...解决方案 沃趣科技以QData高性能数据库云平台作为数据库基础架构平台替换原传统“烟囱式”系统架构,承载合规核心数据库系统,助力业务处理效率大幅提升。...价值提升 1 通过QData数据库云平台大幅提升了系统的业务效率,日终调度业务从原十几个小时缩短至1.5小时,性能提升10倍以上。

1.1K10

决策引擎经验

而一些规则,需借助爬虫接口,且需待将爬取到的数据经过二次加工与汇合之后,再对汇合的总值进行判断,如手机运营商手机使用时长,则此类规则应后置运行。...而对数据的提炼与作用过程,将使用到“参数”的定义。“参数”决定了区间和上下限范围,一条规则通常作用于某一数据类型,依据此数值是否满足“参数”的定义范围,得出是否可通过的结论。...由于最终还是数据“喂出来”的结果,的本质就是数据,而非主观臆断的设限,故而,随着数据样本与内容的不断发展,必然将会涉及到一些动态的调整,后期可能会发现原本设定的“参数”过于严谨而导致审核通过较低...三、记录与统计 最终到底是“跑出来”的,所以,整个系统对所有不同规则的触发需进行有效的记录与统计,以便后期可支持数据分析与模型调整的相关工作。...3、数据源内容 举例说明:某些规则是通过二次数据解析与汇总进行的,但原始数据需要进行保存,诸如手机账单的通话明细数据,此部分数据一是可作为规则使用,二是未来可用作于催收与贷后管理。

99330

建模整体流程

确定建模目的 在信贷领域中建立模型是为了找出可能会逾期的客户,根据逾期的可能性和资金的松紧程度选择是否放贷。 在支付领域建立模型是为了找出可能存在非法经营的商户,保证商户没有违法经营。...确定好坏样本逻辑 在信贷领域中逾期大于x期(不同公司取值不同)的客户定义为坏客户(1),从未逾期的客户定义为好客户(0) 在支付领域中,有赌博、欺诈、套现、伪卡等行为的商户定义为坏商户(1)(具体根据模型要防的风险决定...特征工程 在领域一直都有这样一句话 “数据决定了机器学习的上限,而算法只是尽可能逼近这个上限”,这里的数据指的就是经过特征工程得到的数据。通俗的讲就是衍生变量去捕获风险客户。...模型上线 在支付领域如果模型验证没有问题,一般会上到线上,自动生成案例。在信贷中会模型搭配规则,判断申请贷款的人是通过放贷、拒绝放贷、还是转人工处理。...模型更迭 一般半年左右,模型需要更迭,具体看数据的偏斜程度。 本文所讲的都是大致流程,没有深入展开分析,在之后的各期中会逐步展开这里所讲的每一小点,给所有需要从事模型的同学一点建议。

1.9K20

数据模型是什么?有哪些?

摘要:在互联网金融行业,不少人可能这样觉得:认为只要数据够“大”,就能有最牛逼的体系和行业最低的坏账率。...其实,做大数据是一个挺细致的事儿,大数据,重要的不是数据本身,而是对数据的理解。...相比传统,大数据技术对零散的碎片数据具有很好的整合能力,这一点特别适用于证信业,它可以搜集更多的数据维度,实现征信信息的有效补充。...大数据模型是什么 指标体系 大数据圈流行一句话:数据决定了数据分析的上限,而模型做的是逼近这个上限。...模型 大数据更多应用与小微互金贷款,因此更多是还款意愿的控制,欺诈风险会比较高,因此构建好的反欺诈模型就非常重要,目前一般分三种: 1.

1.2K20
领券