问答 | 谷歌 AI 发布 BERT 模型,打破十一项 NLP 记录,会开启 NLP 新时代吗?

这里是 AI 研习社,我们的问答版块已经正式推出了!欢迎大家来多多交流~

http://www.gair.link/page/question

(戳文末阅读原文直接进)

社长为你推荐来自 AI 研习社问答社区的精华问答。如有你也有问题,欢迎进社区提问。

话不多说,直接上题

@伊丽莎白 问:

谷歌 AI 发布 BERT 模型,打破十一项 NLP 记录,会开启 NLP 新时代吗?

日前,谷歌 AI 团队发布 BERT 模型,在机器阅读理解水平测试 SQuAD1.1 中表现出相当不错的成绩:在 11 项 NLP 任务中刷新当前最优性能记录。BERT 的 GLUE 基准提升至 80.4%(绝对改进:7.6%),MultiNLI 准确率达到 86.7%(绝对改进:5.6%),在 SQuAD v1.1 的问答测试中,F1 得分提升至 93.2 分(提高 1.5 分),比人类表现高出 2 分。

论文地址:https://arxiv.org/abs/1810.04805

谷歌大脑科学家 Thang Luong 甚至在 Twitter 表示:A new era of NLP has just begun.

研究 NLP 的小伙伴们,看过这篇 paper 的你,如何看待 BERT??

来自社友的回答

▼▼▼

@ShtPgsHus_

总结就是目前看来局限任务结果的还是数据量,一个超强的预训练模型可以提供非常好的文本表示,几乎不需要花里胡哨的各种机制,就可以在各种NLP上取得极好的效果。从CoVe,ELMO,GPT,再到现在的BERT,对于深度学习下的文本表示确实值得重新思考。NLP不同于CV,所有的信息都在像素里,文本的理解需要大量的语法及语义信息,对标注数据的需求很大,同时又没有像ImageNet一样的大型数据集。大规模语料pretrain的模型可以提供更加泛化的文本表示能力。

@亦熹

前有微软阿里,后有讯飞谷歌,2018当真是NLP的腾飞元年!

@丛末

不明觉厉

@酱番梨

谷歌牛逼

@Mikasa

谷歌确实实力强大,但 NLP 的发展,还远着呢~

原文发布于微信公众号 - AI研习社(okweiwu)

原文发表时间:2018-10-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

业界 | 第四范式首席科学家杨强教授:人工智能的下一个技术风口与商业风口

AI科技评论按:本文首发于公众号“第四范式”,已获授权转载。 作为华人界首个国际人工智能协会AAAI Fellow、至今为止唯一的AAAI 华人执委,以及IEE...

33216
来自专栏量子位

击败水哥还不算最强,有个人工智能已经通过人类的智商测试了

这几天百度的人工智能在《最强大脑》击败“水哥”王昱珩,再次引发了人们对于人工智能的热议。然而人工智能在人脸识别的比赛中击败水哥,还远远称不上“最强大脑”,因为模...

20410
来自专栏大数据文摘

张钹院士:深度学习优势与短板 中国AI机遇和挑战(最新演讲实录)

1859
来自专栏AI科技评论

Yann LeCun专访:我不觉得自己有天分,但是我一直往聪明人堆里钻

AI 科技评论按:纽约大学教授、Facebook 副总裁与首席 AI 科学家 Yann LeCun 由于对深度学习的突出贡献,被誉为深度学习的「三驾马车」之一,...

952
来自专栏新智元

荐书 | 《终极算法》世界正被“会学习的机器”改变 ( 附下载)

译者注:《终极算法》“The Master Algorithm”这本书于2015年9月份刚刚上架,以下是New Scientist上一位大咖写的书评: 连“美...

2998
来自专栏AI科技评论

讨论 | 你是否遇到过你完全不能理解的机器学习概念?

俗话说:隔行如隔山。但就算同一座山,有的时候因为“山”太大,未能爬到顶峰的人往往很难一窥整座山的全貌。 这不,AI科技评论在Reddit的机器学习版块就发现了一...

2756
来自专栏AI科技评论

百度IDL主任林元庆解读:人工智能技术研发的四大支柱

近日,百度深度学习实验室主任林元庆在百度年终媒体分享会上做了《看懂AI-百度技术开放日》的演讲,从客观层面阐述了人工智能技术研发的四大支柱,为我们呈现了让人工智...

37713
来自专栏企鹅号快讯

智能刷脸,打开新“视界”

不久前,在2017年美国国家标准与技术研究院组织的全球人脸识别技术测试上,一支中国人工智能技术团队超过来自俄罗斯、美国、法国的对手,成为第一个获得冠军的中国团队...

2099
来自专栏AI科技评论

深度 | 论文被拒千百遍,团队不受待见,Yann LeCun为何仍待深度学习如初恋?

AI科技评论按:Yann LeCun是人工智能神经网络方面的大牛,现在是Facebook人工智能研发团队的领军人物。可是他的研究之路并不是一帆风顺,在神经网络变...

3377
来自专栏AI科技大本营的专栏

爆款 | Medium上6900个赞的AI学习路线图,让你快速上手机器学习

翻译 | AI科技大本营(rgznai100) 参与 | thinkdeeper Part 1:为什么机器学习如此重要 AI科技大本营编者按: 这篇文章在Med...

3368

扫码关注云+社区