PaperReading-用能力感知神经网络提高人岗匹配效果

笔者近期在做一个人岗匹配的项目研究,无意间,在网上搜到了一篇SIGIR 2018上的论文,发现正好跟我们团队所做的事情很相似,遂十分欣喜,拿来拜读,然后跟老师同学们交流。最后得出了很多有意义的思考。 该论文提出的模型结构有些复杂,为了深刻理解,我将每个步骤拆分,自己重新画图,逐步剖析模型的细节。这里分享给大家:

人岗匹配问题的背景

抛开这篇论文,我们先谈一谈人岗匹配这件事到底在做什么,做哪些难点。 一家大公司,一旦发布了某招聘需求,往往每天会有成千上万封简历飞来应聘。HR需要从这成千上万封简历中筛选符合要求的、跟岗位匹配的一批简历,进入面试环节。而这个筛选过程是十分痛苦的,一天看上百封简历可能还看得过来,一天看一千封、一万封,你就根本没法应付了。这个时候,我们就希望借助于机器帮我们筛选。所以最初,我们会设定一些规则,让电脑去判断一封简历是否满足了某些要求,比如毕业学校、学历、年龄等等这些硬性要求。但是,对简历的要求远远不止这些,还有对技能(软技能、硬技能)的要求,对工作经历项目经历的要求,这些很难通过人工设定规则来判断。另外,语言的表达形式多种多样,你定义了一个要求,简历实际上也满足这个要求,但是表达方式、用词用语不一样怎么办?而且,不光是筛选掉不合格的简历,合格的简历也不是全部都要,这个数量依然太大了,我们还需要优中选优,对所有合格的简历进行一个匹配度的排序,最终可以选出前N个最符合要求的简历来。

人岗匹配的问题,一般有两种路线去思考: (注:为了方便行文,下文中“招聘启事”用J表示,“简历”用R表示。)

  1. 从J和R中提取尽可能优质的关键词/短语,用关键词/短语来表示J和R,然后对两个表示进行匹配度计算。
  2. 采用深度学习端到端的方法,通过大量的J-R匹配样本进行训练,得到一个模型直接计算二者匹配度。

两种路线的关键,其实都是探讨:“如何表示一个长文本(如招聘启事、简历)”。前者希望用人工划定的结构,形成以关键词为基础的表示,而后者希望借助深度学习去发掘文本的内在分布式表示。两种路线不分伯仲,各有优劣,我们后面再思考二者在实际场景中的使用问题。

这篇论文,就是走的第二条路线——深度学习,端到端。为了应对J和R各自复杂的结构,以及深度学习解释性差的问题,作者精心设计了一套复杂的基于Attention+BiLSTM的模型,试图学习出J和R的较为精确的表示,从而进行匹配。

下面进入正文。 (注,我讲论文很有意思的,不会上来就贴论文各种截图,然后翻译一下就完事儿了。我不仅让我自己懂,更要让听我讲的人懂。即使讲论文,本文的百分之60以上的内容,也都是我自己思考总结的东西,以及拓展引申的东西。所以论文只是一个线索,下面请开始我的表演……)

一、作者想解决的问题

招聘启事(J)由多条要求(requirements)组成:

  • 每条要求中的各个词/短语的重要性不同;
  • 每条要求的重要性不同(体现在内容和顺序上)

求职者的简历(R)由多条经历(experiences)组成:

  • 每条经历中的各个词/短语的重要性不同;
  • 每条经历对于每条要求的重要性也不同(内容、顺序)

然而,传统的方法,直接从J和R中挖掘关键词进行匹配,忽视了不同词语、短语、句子的重要性和相互关系。

二、作者的思路和想法

基于上面提到的问题,该论文希望构建一个模型:

  1. 能够捕获一条requirement或者experience中各个词的重要性(感觉类似于关键词提取,只不过不需要把关键词真的拿出来),从而获得句子的向量表示。
  2. 能够对发掘出同一个J(或R)中,不同requirements(或experiences)的重要性。
  3. 能够衡量一条requirement与不同experiences之间的相关性。

思来想去,作者拿出了三大武器: Word Embedding,Bi-LSTM , Hierarchical Attention.

用这三种武器,作者希望能够很好地得到J和R各自的表示,涵盖了各个词的重要性,不同语句之间的权重关系以及J和R的内在相互关系。

于是,作者们使出九牛二虎之力,打造出了这款你从未玩过的船新模型

怕了怕了,这文章怕是读不下去了…这模型看起来比Bert都吓人…

诶,莫慌,这写论文,就讲究个说学逗唱(删),想法再朴素,你也得添砖加瓦上色仿佛造了个变形金刚一样。

所以,为了搞清楚这个庞然大物到底是什么,我把每个步骤分解,用亲切的笔法重新画图。

Loading… … … … 灵魂画手已上线!

三、模型解析

首先,我们用符号把我们的问题描述一下:

我们的训练样本,是一个个Person-Job对,其中y对应的是应聘结果。 J是由p个requirements(条件)组成,分别为j1,j2,……,jp; R是由q个experiences(经历)组成,分别为r1,r2,……,rq. 而每一个条件或者经历,都是由若干个词组成。

所以整体有三个层次: 段落、句子、词。

我们最终的目的,就是为了找到一个模型M,可以对J和R分别得到一个表示,然后对二者进行匹配度的计算。

整个模型分为三个大步骤: 1.Word-Level Representation 2.Hierarchical Ability-Aware Representation 3.Person-Job Fit Prediction

上面的两个图已经讲的很清楚了。我再补充一下: (Oh…上面的图片中有两个字母写反了。太明显了,所以我也不说是哪里了) 为什么我们通过word embedding得到了每个词的词向量表示之后,还要搞一个BiLSTM去得到新的表示?词向量不是已经挺好了吗? 其实不是,如果直接用词向量作为输入,那每个词都是独立的,不受上下文影响的,忽略了句子内部的序列依赖信息。因此,希望通过BiLSTM来把这种序列的信息给编码进去。

经过这样的操作,我们的J和R中的句子(这里的句子,指的是一条条要求、经历),就被表示成了一个个向量序列。

第二大步,即多层能力感知表示,其实,什么狗屁能力感知,只是名字取的酷炫一点,说白了就是使用Attention对不同的词,不同的句子进行一个权重的分配,而训练的结果就是很多跟“能力”密切相关的词,得到了高权重,所以说是“能力感知”。

这4个小步,分别是对J的句子、整个J,以及R的句子、整个R进行表示。

前两步比较容易理解,第3小步就稍微复杂一点:

注意对比这里的attention和前面的attention的不同,就是这里计算R的句子的权重,额外考虑了针对不同的requirement的影响。

经过了上面的4个小步骤,J和R分别得到了自己的一个综合表示,蕴含了不同词,不同句子之间的重要性和J和R内部的关系。 最后一步最简单:

干杯!都在图里了!!

现在,再回看之前作者给出的那个大大大图,就发现,其实很简单,很多内容都是重复的,每一步都是BiLSTM+Attention,只不过作者把每个细节都画上去了。

四、模型性能、效果展示

作者通过对一家大型科技公司的真实数据进行测试,理所当然地发现他们的模型效果最好(毕竟其他的模型都太太太基础了):

真正有意思的,不是上面的分数,而是对各层的attention进行可视化的效果: 再回顾一下,我们有4中attention score,分别是: α:J的句子中各个词的权重; β:J的不同句子的权重; γ:R的句子中各个词的权重(随着J中的要求而变化) δ:R的不同句子的权重。

作者将前三者可视化了:

可以看出,关键信息基本被highlight了,还是比较准确的(当然,毕竟是作者自己挑选出来的,肯定是比较好的例子)。

从这里可以看出,招聘公司写的各条要求实际的重要性。

而这个,则可以看出,针对一条requirement,简历中哪些词被赋予高权重了。

五、该论文的亮点

  1. 充分利用attention机制的能力,设置了4处attention,使得模型的学习能力十分强大。尤其是考虑了同样的experience对不同的requirements的效果不同,相当于“动态关键词提取”。
  2. 4处的attention score使得模型的具有一定的解释性,可视化效果好
  3. 人力成本低,端到端的模型。

六、更多的反思

模型本身很漂亮,十分简洁,尤其是多层级的表示方法,确实可以某种意义上上大幅提高对长文本的表示效果。另外作者还讨论了很多其他的问题,例如Word2vec与bag-of-words的对比,实证发现在很多模型中后者居然更好。还讨论了如何消除招聘中的歧视问题。这里暂不一一赘述。这里更想讨论的是,这种深度学习端到端的做法,到底有哪些问题?这是值得我们思考的。毕竟深度学习被吹得太厉害,仿佛什么事情就是拿来足够的数据,无脑的塞进模型,管他三七二十一,盘它就完了!这在理论上,确实是解决问题的一个不错方法,因为从效果上看确实比较好,但是在实际场景中,就会有很多问题了。

1. 模型的解释性,依然薄弱。

虽然attention可以很好地可视化,但是这更多的只是“好看”。 对于预测成功的简历,比如两个分别打分0.6和0.8,这个模型无法告诉我们0.8的那个简历为什么比0.6的好。就算知道了各自的attention score又怎么样? 对于预测失败的简历,这个模型也无法告诉我们这份简历哪里写的不好,而在实际场景中,我们不光是需要知道是否匹配,很多简历提供方,如猎头,如各种招聘平台,需要知道怎么匹配,哪里不匹配,这样他们才能在之后的业务中有所改进。

2.泛化能力差,只在训练样本的分布上有效果保证

本文的训练样本是选自4个领域的招聘实例:技术、UI设计、产品、其他。实际上是很局限的,因为真实场景中的领域还有很多很多,那实际的分布可能和训练样本的分布相差巨大。当我们需要对一个全新的岗位进行这样的人岗匹配时,我们就需要重新训练,这就需要很多时间,而是不一定会有足够的真实数据拿来训练。

3.功能单一,只能做J和R的匹配一件事

这个模型依然是一个黑匣子,加上了attention的装饰之后,是一个五彩斑斓的黑匣子,能给你输入的文字“上点儿色”,然而不管怎么上色,它输出的,只有一个分数,一个匹配分。也只有这么一个分数,是有实际意义的,是我们可以用的。这个应用场景是十分狭窄了,我们无法通过这个模型得到对一个候选人的精确表示,或者一个用户画像,因为这里模型的表示只是一串向量表示,跟词向量类似。词向量如果不用来互相比较、计算,也就失去了实际意义,这里的向量表示也是类似。我们都无法通过这个模型获取关于J和R的一个完整的关键词列表,也就失去了实际的表达能力。

上面的三点是一个实际场景中的应用问题,毕竟我们不想仅仅停留在理论上,跑个分就完了,而是希望尽可能多的发挥作用。 下面要说的几点,则是对论文本身的一些反思:

4.语言的表达形式,也许对attention有巨大影响。

经过对attention可视化的分析,发现attention机制有这样的倾向:在面试成功的简历中,越是“独特”的词attention score的分数往往越高。这到底有失偏颇还是的确是事实?这个问题值得研究。

5.上下位词的匹配问题没有被考虑

J和R中的词,往往在层次上会有很大差异。J的要求“熟悉常用的深度学习框架”,R中可能不会写“深度学习框架”这个词,而是多半会写“熟悉TensorFlow、Keras”。这就是层级的不同。这个问题,一种做法是通过知识图谱,获得一个词的上下位词,从而知道两者的关系。其他的方法还有待探究。但是不管怎样,这个问题都是一个在实际中经常出现,也是十分影响匹配效果的一个问题,所以这个问题也应该在后面的研究中得到考虑。


以上就是对这篇论文的全面的讲解了,给人的思考很多。相比一个论文、模型的亮点,我们更需要思考的是它的问题,养成自己的批判性思维,这样才能在思维上不断创新,无论是做研究还是做项目都是大有益处的。

论文原文: arXiv上搜索“Enhancing Person-Job Fit for Talent Recruitment: An Ability-aware Neural Network Approach”

本文分享自微信公众号 - SimpleAI(SimpleAI_1)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-03-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

说出你的需求,我们AI给你写代码 | MIT新研究

他们提出了一种灵活组合模式识别和推理的方法,在无监督学习的情况下, 来解决AI自动编程遇到的问题。

9720
来自专栏思谱云汇人工智能

智能语音机器人小知识(3)--什么是语音识别技术?

语音识别技术,也被称为自动语音识别Automatic Speech Recognition (ASR),其目标是将人类的语音中的词汇内容转换为计算机可读的输入,...

14640
来自专栏AI研习社

博客 | 一文看懂深度学习发展史和常见26个模型

本文首先从4个方面(张量、生成模型、序列学习、深度强化学习)追踪深度学习几十年的发展史,然后再介绍主流的26个深度学习模型。

10420
来自专栏AI研习社

作为一个深度学习新手团队,我是如何拿到 Kaggle 比赛第三名的?

The Women in Data Science组织与她们的合作伙伴共同发起了 WiDS Datathon 的活动。这个活动的挑战在于,你需要建立一个预测卫星...

29010
来自专栏ATYUN订阅号

Pinterest推出感知上下文的可视化搜索工具Complete the Look

Pinterest推出了Complete the Look,这是一款为家居装饰和时尚类别开发的视觉搜索工具,可为照片中的多件物品提供样式建议,如衬衫,连衣裙,鞋...

14330
来自专栏MixLab科技+设计实验室

魔性AI写歌神器 | 对话AI音乐创业CEO郭靖

创作文字并分享 → Twitter 创作图片并分享 → Instagram 创作视频并分享 → Snapchat、快手、抖音 创作音乐并分享 is the N...

43540
来自专栏程序员的碎碎念

查找论文文献的小技巧

无论是大学期间的小论文还是令人头秃的毕业论文, 查找文献是必不可少的环节. 而这个过程说到底就两句话:

12110
来自专栏AI算法与图像处理

干货!CVPR2019论文已全面开放下载!附下载链接及方法

CVPR(Computer Vision and Pattern Recognition)简介

1.9K30
来自专栏Ldpe2G的个人博客

移动端arm cpu优化学习笔记----一步步优化盒子滤波(Box Filter) 顶

            最近一段时间做比较多移动端开发相关的工作,感觉移动端优化相关的对我来说挺有趣的,

17930

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励