Hinton 谷歌大脑新作:通过给个体标签建模来提高分类能力

图片来源 oregon center for nursing

AI 研习社按:Geoffrey Hinton 于 2013 年加入谷歌,目前在谷歌大脑团队致力将深度学习应用于实践领域。近日,谷歌大脑团队推出了新作,一作 Melody Y. Guan 及 Varun Gulshan、Andrew M. Dai 及 Hinton 提出了一种创新的方法,通过给个体标签建模来提高分类能力。

论文链接:https://arxiv.org/pdf/1703.08774.pdf

给数据集进行标记的任务通常是由许多不同的专家分工完成的,每位专家只标记其中一小部分数据而同一个数据点又包含有多位专家所标记的标签。这样的做法不仅减轻了每位专家的个人工作量并且还有助于揭开数据中难以发现的真相。当专家们对同一个数据点的标签存在不同意见时,标准的做法是将获得更多专家支持的标签作为正确的标签,或者将正确的标签进行建模以获得分布状态。

但是,这样的做法忽视了有关于哪些专家标记了哪些标签这一潜在的有效信息。因此为了获得这些额外的信息,谷歌大脑团队提出要单独对专家进行建模,然后学习平均权重以组合这些信息,比如说可能是以样本特定(sample-specific)的方式进行组合。通过这种方法,就能给更可靠的专家分配更多的权重,并利用个别专家的独特优势来对某些特定类型的数据进行分类。

在这篇论文中,作者展示了通过采用这种标记方法我们提升了计算机辅助诊断糖尿病导致视网膜病变的准确度,并且此方法的表现也优于Welinder和Perona以及Mnih和Hinton所提出的方法。谷歌大脑团队的工作提供了一种创新的方法,以处理那些数量巨大的、需要借助专家来标记标签的现实数据。

Via Who Said What: Modeling Individual Labelers Improves Classification

原文发布于微信公众号 - AI研习社(okweiwu)

原文发表时间:2017-04-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏向治洪

[置顶] 机器学习简介及常用算法

概念 什么是机器学习? 机器学习是英文名称Machine Learning(简称ML)的直译。机器学习涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多...

2188
来自专栏机器之心

深度 | 解读R-Net:微软「超越人类」的阅读理解人工智能

3377
来自专栏AI科技大本营的专栏

老司机这样讲深度学习,新手才能看得懂学得快

作者 | 张玉宏 (一)一入侯门“深”似海,深度学习深几许 【导言】目前人工智能非常火爆,而深度学习则是引领这一火爆现场的“火箭”。于是,有关“深度学习”的...

3215
来自专栏人工智能头条

深度学习相关最新图书推荐

1584
来自专栏专知

基于信息理论的机器学习

【导读】今天,专知很荣幸邀请到中科院自动化研究所胡包钢研究员分享他最近在国际神经信息处理会议ICONIP上做的教学报告。在这篇报告中,作者相信信息学习理论将会成...

3528
来自专栏机器之心

学界 | 词嵌入2017年进展全面梳理:趋势和未来方向

36115
来自专栏机器之心

学界 | 现实版柯南「蝴蝶结变声器」:谷歌发布从声纹识别到多重声线语音合成的迁移学习

音频按顺序分别为参考音频 1、以参考音频 1 的声线为输入的生成句子 1(Take a look at these pages for crooked cree...

2282
来自专栏向治洪

机器学习

概念 什么是机器学习? 机器学习是英文名称Machine Learning(简称ML)的直译。机器学习涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学...

20910
来自专栏深度学习自然语言处理

详解机器学习之the Learning Problem

阅读大概需要10分钟 Why do we learn Machines Learning 之前虽然学过逻辑回归LR,支持向量机SVM等机器学习的零星小片段,还有...

31610
来自专栏AI科技大本营的专栏

利用3D打印构建衍射深度神经网络,可光速执行数字运算

通过识别手写数字构建的人工神经网络一直以来都是重要的研究课题,手写数字往往因书写风格差异、上下文无关及识别准确度高等要求导致识别难度大,因此针对手写数字的研究有...

952

扫码关注云+社区

领取腾讯云代金券