Google AI BERT的PyTorch实现

谷歌 AI 的一篇NLP论文引起了社区极大的关注与讨论,被认为是 NLP 领域的极大突破。它在机器阅读理解较高级水平测试SQuAD1.1中表现出惊人的成绩:全部两个衡量指标上全面超越人类!并且还在11种不同NLP测试中创出较佳成绩,包括将GLUE基准推至80.4%(改进7.6%),MultiNLI准确度达到86.7% (改进率5.6%)等。

网上已经有很多关于BERT模型的解读了,了解了BERT的原理之后,相信很多人想要自己动手试一试(但是能不能复现就另说了)!在此小编找到了一个BERT的Pytorch实现版本,供读者参考! 相信看了代码之后,会对文章有更深的理解!

Github地址:

https://github.com/codertimo/BERT-pytorch

-END-

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-10-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据挖掘DT机器学习

一文读懂BI商业智能与大数据应用的区别

之所以要区分大数据应用与BI(商业智能),是因为大数据应用与BI、数据挖掘等,并没有一个相对完整的认知。 BI(BusinessIntelligence)即商务...

43360
来自专栏互联网数据官iCDO

【个人见解】大数据分析专家?或许这样的人根本不存在!

  因为大数据这个词过于“忽悠”,乃至于大数据分析专家也让人十分景仰而不知其真身。   说实话,什么样的人可以称为大数据分析专家可能根本没有一个标准。就像笼统的...

30350
来自专栏靠谱PM

为什么要做用户调研?

在前面的文章中有写过如何快速的了解一款产品(回看请戳下面链接),但在产品初期可获取的用户反馈相对来说是有限或没有的,那么当我们接到对产品优化的工作时就要主动去了...

13220
来自专栏理论坞

1 千个从业者就有 1 个交互设计师

转自简书:https://www.jianshu.com/p/32dbf8ba4a6c

13110
来自专栏WeTest质量开放平台团队的专栏

WeTest入驻腾讯云 助游戏开发者造“精品”

2015年7月31日的ChinaJoy,WeTest质量开放平台在腾讯云展台上正式亮相。WeTest平台,旨在将腾讯内部打磨已久的质量工具对外提供服务。除了为...

14520
来自专栏镁客网

让机器人学习捕猎?歪果仁脑洞太大

16440
来自专栏程序人生 阅读快乐

程序员必读之软件架构

通常,人们对软件架构师持两种错误的看法。有人认为软件架构师是一种高高在上的职位;有人认为软件架构师完全不懂开发,只是会画条条框框的指挥家。本书将打破这些传统的认...

9910
来自专栏开源优测

大数据测试学习笔记之01

大数据特征 ? 即通常所讲的大数据4V特征: Variety:数据类型分为结构化数据、半结构化数据(例如电子邮件、办公处理文档)、非结构化数据(文本、音频、视频...

38280
来自专栏BestSDK

Google亚马逊相继开放语音API,全面争夺AI市场

Google大部分资金来自广告和搜索,并将企业产品(如云服务)视为未来收入增长的主要推动力,但这方面仍落后于亚马逊和微软。新版Google语音软件是尝试成为更有...

35050
来自专栏大数据文摘

中国移动社群生态报告(下载39PPT)

283110

扫码关注云+社区

领取腾讯云代金券