【机器学习】互联网金融时代下机器学习与大数据风控系统

转自36kr 2015年10月4日 随着互联网的发展,互联网金融已成为当前最热门的话题,包括支付、理财、众筹、消费等功能在内的各类互联网金融产品和平台如雨后春笋般涌现。互联网金融是传统金融行业与互联网精神相结合的新兴领域,是对传统金融行业的有效补充,因此互联网金融的健康发展应遵循金融业的基本规律和内在要求,核心仍是风险控制。 传统金融的风险控制,主要是基于央行的征信数据及银行体系内的生态数据依靠人工审核完成。在国内的征信服务远远不够完善的情况下,互联网金额风险控制的真正核心在于可以依靠互联网获取的大数据,如 BAT 等公司拥有大量的用户信息,这些数据可以用来更加全面的预测小额贷款的风险。而机器学习将是大数据时代互联网金融企业构建自动化风控系统的利器。

1. 什么是机器学习?

机器学习这个词相信大家都是耳熟能详,尤其是近几年机器学习界的执牛耳者与互联网界的大鳄的联姻,更加推动了大众对机器学习的追求热情和在互联网行业中应用的探索热情。

图1:机器学习界的执牛耳者与互联网界的大鳄的联姻(左起分别是 Geoffrey Hinton,加拿大多伦多大学教授,"GoogleBrain"负责人;Yann LeCun,纽约大学教授,Facebook 人工智能实验室主任;Andrew NG,斯坦福大学副教授,百度首席科学家,"Baidu Brain"负责人。)

那么,什么是机器学习呢?机器学习这个词是英文名称 Meaching Learning 的直译,从字面意义不难知道,这门技术是让计算机具有 “自主学习” 的能力,因此她是人工智能的一个分支。我个人还是比较喜欢 Tom Mitchell 在《Machine Learning》一书中对其的定义:

"A computer program issaid to learn from experience E with respect to some task T and someperformance measure P, if its performance on T, as measured by P, improves withexperience E."

关于机器学习的具体概念及介绍,有很多这方面的资料,有兴趣的话大家可以去查看,在这里我就不赘述。简而言之,机器学习方法就是计算机利用已有的数据(经验),得出某种模型,并利用模型来预测未来的一种方法,这种方法很类似于人类的思考方式(见下图)。也就是说,机器学习的一个主要目的就是把人类思考归纳经验的过程转化为计算机对数据的处理计算得出模型的过程。

2. 机器学习算法的类型

一般来说,机器学习算法可以分为监督学习,无监督学习,半监督学习,强化学习(Reinforcement learning)以及推荐这几大类。各部分常见应用场景和算法详见图

3. 机器学习在互联网金融行业中的应用

在企业数据的应用的场景下,人们最常用的主要是监督学习和无监督学习的模型,在金融行业中一个天然而又典型的应用就是风险控制中对借款人进行信用评估。因此互联网金融企业依托互联网获取用户的网上消费行为数据、通讯数据、信用卡数据、第三方征信数据等丰富而全面的数据,可以借助机器学习的手段搭建互联网金融企业的大数据风控系统。

除了在放贷前的信用审核外,互联网金融企业还可以借助机器学习完成传统金融企业无法做到的放贷过程中对借款人还贷能力进行实时监控,以及时对后续可能无法还贷的人进行事前的干预,从而减少因坏账而带来的损失。以点融网为例,经过这两年的发展,我们积累了很多用户的借款还款信息,这为我们提供了高质量的模型训练样本,也为我们搭建点融的大数据自动化审批系统奠定了坚实的基础。除了自动化审批系统外,后续我们将在用户还款能力实时监控,标的的有效组合,资产的合理配置等方面进行发力。

目前互联网金融企业以及第三方征信公司在信用评估这方面比较常用的架构是规则引擎加信用评分卡。说到信用评分卡,最常用的算法就是 Logistic Regression,这也是被银行信用卡中心或金融工程方面奉为法宝的算法。的确,Logistic Regression 因其简单、易于解释、开发及运维成本较低而受到追捧。然而互联网中获取的用户的数据维度较多,以离散或分类属性变量居多,且缺失数据较多,在这种情况下,Logistic Regression 的适应性会较差。而且规则引擎和信用评分卡模型分开的模式,有时会因为规则引擎里面某些规则过强而拒绝掉很多优质客户。比如,某人因学生时代的助学贷款在刚毕业时未能及时偿还而发生过逾期,按现有银行审批规则是无论现在怎样,申请信用卡时一律拒绝。因此比较好的改进方法是,将规则引擎作为一系列弱的分类器,与信用卡评分分类器一块构成强的分类器模型。在这方面,GBDT 将是一个不错选择。

GBDT (Gradient BoostingDecision Tree) 又叫 MART (Multiple Additive Regression Tree),该模型不像决策树模型那样仅由一棵决策树构成,而是由多棵决策树构成,通常都是上百棵树,而且每棵树规模都较小(即树的深度会比较浅)。模型预测的时候,对于输入的一个样本实例,首先会赋予一个初值,然后会遍历每一棵决策树,每棵树都会对预测值进行调整修正,最后得到预测的结果。

F (x)+β_1 T_1 (x)+β_2 T_2(x)+⋯+β_mT_m (x)

其中,F_0 为设置的初值,T_i 是一棵棵的决策树(弱的分类器)。

GBDT 在被提出之初就和 SVM 一起被认为是泛化能力(generalization)较强的算法。近些年更因被广泛应用于搜索排序以及推荐中而引起大家的关注,如 Yahoo, Ebay 等大型互联网公司就采用过 GBDT 进行搜索排序。在国内,我在携程工作时就曾应用 GBDT 算法对客人进行酒店 noshow 和延住的预测,为公司每年带来千万的收入,该项目是携程技术驱动业务发展的典型代表。

GBDT 作为一种 boosting 算法,自然包含了 boosting 的思想,即将一系列弱分类器组合起来构成一个强分类器。它不要求每个分类器都学到太多的东西,只要求每个分类器都学一点点知识,然后将这些学到的知识累加起来构成一个强大的模型。

4. 分类模型的性能评估

分类模型应用较多的除上面讲的Logistic Regression 和 GBDT,还有Decision Tree、SVM、Random forest等。实际应用中不仅要知道会选用这些模型,更重要的是要懂得对所选用的模型的性能做评估与监控。

涉及到评估分类模型的性能指标有很多,常见的有Confusion Matrix (混淆矩阵),ROC,AUC, Recall, Performance,lift, Gini ,K-S 之类。其实这些指标之间是相关与互通的,实际应用时只需选择其中几个或者是你认为是重要的几个即可,无须全部都关注。下面就以 Logistic Regression 为例对这些常见的指标做些简单的说明,以方便大家理解与应用。

注: 以下所有说明均以信用评分中的好坏用户为例,坏客户(坏人)标识为 1(也称正例),好客户(好人)标识为 0(也称负例)。

1)Confusion Matrix

一个完美的分类模型就是,一个客户实际上属于坏的类别,模型也将其预测为坏人,实际上是好人时也预测为好人。而实际情况是模型不可能做到这一点,即常说的模型会存在误判,因此我们必须知道模型预测对的有多少,预测错的部分又占了多少,混淆矩阵就是囊括了这些所有信息。

注:

a 是正确预测到的负例的数量,TrueNegative (TN)

b 是把负例预测成正例的数量,FalsePositive (FP)

c 是把正例预测成负例的数量,FalseNegative (FN)

d 是正确预测到的正例的数量,TruePositive (TP)

a+b 是实际上为负例的数量,ActualNegative

c+d 是实价上为正例的数量,ActualPositive

a+c 是预测成负例的数量,PredictedNegative

b+d 是预测成正例的数量,PredictedPositive

2)Accuracy(准确分类率)

Accuracy=(true positive andtrue negative)/total=(a+d)/(a+b+c+d)

3)Error Rate(误分类率)

Error Rate=(false positiveand false negative)/total=(c+b)/(a+b+c+d)

4)Recall(正例覆盖率)

recall 也称为 sensitivity,在机器学习中称 recall 较多,而 sensitivity 是生物统计中的常用叫法

Recall=(true positive)/(actual positive)/(c+d)

5)Performance 也称为 Precision(正例的命中率简称命中率)

Performance=(true positive)/(predicted positive)/(b+d)

6)Specificity(负例覆盖率)

Specificity=(true negative)/(actual negative)/(a+b)

7)Negative predictedvalue (负例命中率)

Negative predictedvalue=(true negative )/(predicted negative)/(a+c)

一般在工业化应用中看重的是 recall 和 performance,以信用审批为例,我们更关注的是在一定审批通过率的情况下,尽量降低坏账率。

8)ROC

ROC 曲线就是不同的阈值下,Sensitivity和 1-Specificity 的组合,ROC 曲线是根据与 45 度线的偏离来判断模型好坏。

9)AUC 与 GINI

曲线下的面积

GINI=2AUC-1

10)K-S

用于衡量好坏两个群体分布之间的最大差异,(Sensitivity-Specificity),KS 取值处即为统计意义上的最佳 cutoff 切点

5. 结语

本文简单介绍了下什么是机器学习,机器学习的常用算法,点融网应用机器学习搭建大数据风控系统的探索以及分类模型的性能评估指标。机器学习听起来很高大上,在实际工作中也经常会遇到一味炒作概念的人,过分夸大机器学习所能起到的作用,或者盲目的追求高深复杂的算法。我个人的观点还是一方面现阶段机器学习是可以帮我们提高工作效率的科学方法,另外一个方面就是能用简单方法解决问题绝不为了高大上而去选择复杂的方法,毕竟算法是没有三六九等之分。最后,希望有更多的同学加入到统计与机器学习的研究中来。

原文发布于微信公众号 - 数据科学与人工智能(DS_AI_shujuren)

原文发表时间:2015-10-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

【陆勤笔记】《深入浅出统计学》1信息图形化:第一印象

在为手头数据无法给出事情真相和发愁吗?作为一名数据工作者,总会有这种问题浮在心头。手头的数据,大部分时候是原始数据集,准确地说,应该是基于目的驱动所采集过来的原...

2927
来自专栏数据派THU

独家 | 一文读懂复杂网络(应用、模型和研究历史)

前言 随着近几年关于复杂网络(Complex network)理论及其应用研究的不断深入,已有大量关于复杂网络的文章发表在Science,ature,RL,NA...

9115
来自专栏量子位

如何给非专业人士讲解什么是深度学习?

本文转载自王咏刚微信:半轻人,点击左下角阅读原文,可直达原文链接。 去年开始,工作中需要做许多有关 AI 科普的事情。很长时间里一直在想,该如何给一个没有 CS...

3448
来自专栏专知

最新综述文章推荐:自然语言生成、深度学习算法、多媒体大数据分析

【导读】专知内容组整理了最近人工智能领域相关期刊的5篇最新综述文章,为大家进行介绍,欢迎查看! 1 ▌自然语言生成综述:任务,应用,评价 ---- ---- ...

6307
来自专栏量子位

无人机送货充电包教包会!TensorFlow复合目标强化学习教程

王瀚宸 编译自 O’reilly 原文作者:Arthur Juliani 量子位 出品 | 公众号 QbitAI 本文用到的所有python代码都在GitHub...

3436
来自专栏新智元

荐书 | Christopher Bishop 新书:基于模型的机器学习

【新智元导读】机器学习大牛Christopher Bishop的新书《基于模型的机器学习》近日推出了抢先预览版,用浅显的生活实例介绍了机器学习中的多个经典概念,...

3647
来自专栏量子位

伯克利用120万美元设备24分钟训练ImageNet,刷新Facebook成绩

李林 编译整理 量子位 报道 | 公众号 QbitAI 最近,加州大学伯克利分校的研究人员用120万美元的设备,24分钟完成了ImageNet的训练。 ? 在最...

3234
来自专栏数据魔术师

机器学习|刘博士谈机器学习--机器的“是非观”

我开始写这篇公众号的时候已经是凌晨,希望我的头脑还能在写作过程中保持足够的清醒。在前两篇清谈型的文章后(没看过的还是要看一下),今天我终于要进入到机器学习的正题...

1004
来自专栏AI科技大本营的专栏

怼完Sophia怼深度学习!细数完大神Yann LeCun 这些年怼过的N件事,原来顶级高手是这样怼人的...

图片来源:PCmag.com 十多个小时前,深度学习大神Yann LeCun语出惊人,他宣布放弃“深度学习”这个词。因为媒体对这个词的炒作言过其实,混淆了大家真...

36516
来自专栏数据科学与人工智能

【风控】催收评分和不良贷款市场的机会

本研究的目标是在一家专门从事不良贷款组合的巴西公司254,914名客户的样本中开发一个催收评分模型,使用Logistic回归来识别那些更倾向于偿还不良贷款的客户...

2475

扫码关注云+社区

领取腾讯云代金券