专栏首页量子位微软10亿美元投资的OpenAI如何组织员工学习新知识?这里有一份课程与书籍清单

微软10亿美元投资的OpenAI如何组织员工学习新知识?这里有一份课程与书籍清单

鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI

在人工智能领域,知识的更新速度超乎想象,去年BERT还制霸各大排行榜,转眼XLNet又来了。

对于AI公司的员工来说,若不追逐技术的浪潮,就很有可能在人工智能时代的激烈竞争中越来越力不从心。

及时迭代技术,正与公司的期待不谋而合。AI公司本身当然也不希望看到员工被技术瓶颈卡住。

那么,那些走在人工智能浪尖的大公司,都是怎么组织员工紧跟AI技术风向的呢?

OpenAI主动把星期四设成了学习日,让员工可以自由学习日常工作中学不到的东西。

每周四,不用管手头的项目,想看啥论文就看啥论文,哪怕是复习复习线性代数,那也是极好的。

妈妈再也不用担心我把线代知识全还给了老师。

难怪有网友说:好想加入OpenAI啊。

自由学习的工作日

这个学习日,到底是怎么一回事呢?

OpenAI的说法是,在这一天里,员工们可以自由地学习想学的知识,只要他们觉得这些新技能能帮助自己提升工作水平,并且在日常的工作中并没有机会学到。

拿OpenAI的机器人团队举个例子,在这一天里,他们通常会做这些事情:

  • 阅读AI论文
  • 重现AI论文
  • 学习AI教程
  • 开展自己的AI项目
  • 学习数学基础:线性代数,统计学等等
  • 学习机器学习基础:信息论,贝叶斯推理等等
  • 学习工程方面的知识:了解最新的编程语言,框架等等
  • 学习管理方面的知识:自我管理,优先排序,知名实验室都怎么运作blabla
  • 学习机械工程或开展机械工程研究项目
  • 学习任何可以帮助提高工作水平的技能,比如写作

以上也只是建议,深度学习一下《权重不可知的神经网络》当然很好,《黑暗领域:网络战争秘史》这种历史读物也一样没什么问题,甚至,公司还给你报!销!

量子位曾解读《权重不可知的神经网络》:https://mp.weixin.qq.com/s/mQ01MkRCWL0gZVtVWZmbJw

想巩固一下数学知识?买书!请老师!别犹豫,OpenAI投资你!

简直令人感动。

来自机器人团队的妙想

OpenAI周四学习日现在已经普惠到全公司,成为公司文化的重要组成部分。

不过在一开始,是机器人团队做了第一个吃螃蟹的人。

机器人团队的负责人Woj(Wojciech Zaremba)是这样想的:

我意识到我在许多领域面前止步不前,因为日常工作中有太多紧急任务。而这对我的工作是很不利的,比如说,我一直想评估我的团队是否应该更换深度学习框架,但我总是会被各种工作上的事打断。 粗浅的零碎时间阅读对此并没有什么帮助。 最好的解决方案就是每天空出一天来学习。我想如果我需要这样一天来提高我的工作效率,那么我的团队成员们也一样有此需求。 短期生产力是会受到影响,但在一到两年之内,由此产生的增长就会显现。

在实行了学习日计划之后,仅仅过去了一个月,团队中研究员和工程师之间的交流就明显顺畅了起来,每个人都开始正确地使用术语。

半年之内,研究人员会讨论用什么样的设计重组代码库了,而工程师也更多地参与到了研究项目当中。

鹅妹子嘤。

Woj提到,OpenAI一向鼓励自学,但光说鼓励,emmm,并没有什么效果。

你招了一名工程师,你希望TA更懂机器学习,一个月过去了,TA很可能还是对ML不明觉厉。

自从有了学习日之后,情况就不一样了。

在机器人团队中,有成员本来对机器学习一无所知,三个月后,能给CV(计算机视觉)项目贡献代码了。

还有一位工程师大佬,学了RL(强化学习)才半年,做出来的东西快赶上RL博士水平了。

跨领域人才在哪里都受欢迎,OpenAI也不例外。他们决心把学习日活动推广到全公司,在公司内部发展多面手们。

毕竟,不懂数学的软件工程师不是好机器学习科学家嘛。

实现细节

所以学习日等于多放一天假?

非也非也。

这不是休闲日,只是换一种努力工作的方式。

学习日,可是有很多细节的。

Q1:学习日被用来工作怎么办?

首先,要保证体育课不变成作业课,啊呸,要保证学习日不变成普通工作日。

即使领导不着急,团队成员们还是可能想要更快地完成手头的项目。

OpenAI的解决方式是,所有团队都在同一天举办学习日活动。全公司的人都没在工作,你还会选择项目而不是那篇早就想好好拜读一下的大神论文吗?

Q2:学习日变成休闲日怎么办?

又想重复周末葛优躺一整天的操作?快别想了,每个团队成员都要在Geekbot的Slack上分享自己的学习进展。

别人都五杀了你还蹲在家里喝泉水,还怎么跟小伙伴愉快地玩耍?

反正在OpenAI,程序员们都兴奋地push了起来。

真是别人家的公司啊。

One More Thing

最后,来看看OpenAI员工们都学了什么吧。

深度学习论文:

Population Based Augmentation: Efficient Learning of Augmentation Policy Schedules:

https://arxiv.org/abs/1905.05393

Learning Domain Randomization Distributions for Transfer of Locomotion Policies:

https://arxiv.org/abs/1906.00410

Neural Graph Evolution: Towards Efficient Automatic Robot Design Learning to Learn with Probabilistic Task Embeddings:

https://bair.berkeley.edu/blog/2019/06/10/pearl/

Mid-Level Visual Representations Improve Generalization and Sample Efficiency for Learning Visuomotor Policies:

http://perceptual.actor/assets/main_paper.pdf

Efficient Off-Policy Meta-Reinforcement Learning via Probabilistic Context Variables:

https://arxiv.org/abs/1903.08254

Does computer vision matter for action?

https://arxiv.org/pdf/1905.12887.pdf

WAIC, but Why? Generative Ensembles for Robust Anomaly Detection:

https://arxiv.org/abs/1810.01392

Weight Agnostic Neural Networks:

https://arxiv.org/abs/1906.04358

Challenging Common Assumptions in the Unsupervised Learning of Disentangled Representations:

https://arxiv.org/abs/1811.12359

Deep unsupervised learning:

https://arxiv.org/abs/1811.12359

Deep RL Bootcamp:

https://sites.google.com/view/deep-rl-bootcamp/lectures

深度学习代码:

Reptile and MAML

Play with code in JAX

Apply Sparse Transformers to vision tasks

Implement LSTM and transformer from scratch; train them on Penn treebank

Train a neural net to reproduce the behavior of a physical motor

数学:

Time Series Analysis

The Book of Why: The New Science of Cause and Effect

历史:

Dark Territory: The Secret History of Cyber War

The Hacked World Order: How Nations Fight, Trade, Maneuver, and Manipulate in the Digital Age

Technology Transfer to the USSR. 1928-1937 and 1966-1975: The Role of Western Technology in Soviet Economic Development

The Turing Test: Verbal Behavior as the Hallmark of Intelligence

The Information: A History, A Theory, A Flood

Radical Markets: Uprooting Capitalism and Democracy for a Just Society

参考资料:

https://openai.com/blog/learning-day/

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「好看」吧 !

本文分享自微信公众号 - 量子位(QbitAI),作者:关注前沿科技

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-08-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 深度学习论文TOP10,2019一季度研究进展大盘点

    过去的100多天里,在深度学习领域,每天都有大量的新论文产生。所以深度学习研究在2019年开了怎样一个头呢?

    量子位
  • 一文看尽谷歌AI全年重大研究突破,Jeff Dean执笔,全程干货

    从重要AI技术应用突破讲起,到展望2019结束。Jeff Dean总结了14个大方面的AI成果,并透露全年AI论文发表数达608篇。

    量子位
  • 想成为机器学习工程师?这份自学指南你值得收藏

    问耕 编译整理 量子位 出品 | 公众号 QbitAI 这篇文章的作者为Andrey Nikishaev,他既是一个软件开发者,也是一个创业者。 ? 如何成长为...

    量子位
  • 2019一季度深度学习论文TOP10分享

    过去的100多天里,在深度学习领域,每天都有大量的新论文产生。所以深度学习研究在2019年开了怎样一个头呢?

    商业新知
  • 2019,不可错过的NLP“高光时刻”

    谷歌AI 提出了 ALBERT 模型,这是 BERT 模型的简化版本,用于语境化语言表示的自监督学习。相较于 BERT,其在模型更加精练的同时更有效地分配了模型...

    AI科技大本营
  • DeepMind的小窍门,究竟如何给AI提的速?

    人工智能里一直以人类为学习榜样。而在面部识别、电子游戏、甚至围棋等领域,深度学习都已经超越了人类,以至于造成人类已经失败了的感觉。

    人工智能资讯小编
  • 一周AI最火论文 | 100%揭穿伪造人脸图像,道高一丈反Deep Fake新方法

    呜啦啦啦啦啦啦啦大家好,本周的AI Scholar Weekly栏目又和大家见面啦!

    大数据文摘
  • 一周好文推荐

    哒呵呵
  • 用机器学习搞艺术,谷歌 Megenta 项目集锦(附 Github)

    雷锋网 AI 研习社按:本文为雷锋字幕组编译的技术博客,原文 Make Music and Art Using Machine Learning,作者 mage...

    AI研习社
  • 2019年 10 大精彩论文,哪篇论文打动了你?

    AI 科技评论按:2019 年马上就要结束了,这一年里我们又一同见证了雪片般密集(越来越密集)的论文,见证了全世界研究人员在各种问题上的新探索。

    AI科技评论

扫码关注云+社区

领取腾讯云代金券