机器学习人工学weekly-12/17/2017

1. 第一当然是NIPS啦（注意看上一期NIPS在Facebook上的视频）。NIPS开完，各种资料分析就出来啦，对我们这种没有机会去现场的人来说是个福音。

test-of-time award得主Ali Rahimi演讲（说深度学习是炼金术，跟Yann LeCun怼）。我个人认为其实是讲的非常好的，他的本意并不是攻击深度学习，只是提醒大家要从理论上更深入的理解深度学习：

https://www.youtube.com/watch?v=Qi1Yry33TQE&t=1s

Jeff Dean关于机器学习和机器的演讲slides，很多关于硬件的东西，信息量非常大，强烈推荐：

http://learningsys.org/nips17/assets/slides/dean-nips17.pdf

Pieter Abbeel大神（已经开始用embody.ai了）Deep learning for robotics的slides（视频在NIPS Facebook页面上有）：

https://www.dropbox.com/s/fdw7q8mx3x4wr0c/2017_12_xx_NIPS-keynote-final.pdf?dl=0

Neil Lawrence的Gaussian Process:

http://inverseprobability.com/talks/lawrence-nips17/deep-probabilistic-modelling-with-gaussian-processes.html

DeepMind的深度学习tutorial:

https://www.youtube.com/watch?v=YJnddoa8sHk

Brown一个PhD学生David Abel非常详细的笔记：

https://cs.brown.edu/~dabel/blog/posts/misc/nips_2017.pdf

medium上的各路文章：

https://medium.com/@cody.marie.wild/nips-day-1-deep-queues-1cedd8aea60

https://medium.com/@Synced/nips-2017-day-1-2-highlights-67ab464086c

https://blog.insightdatascience.com/nips-2017-day-1-highlights-6aa124c5a2c7

https://medium.com/@ducha.aiki/nips-2017-1st-day-72beecec0439

https://deephunt.in/nips-2017-e580ebc9c7b2

https://github.com/hindupuravinash/nips2017/blob/master/README.md#nips-2017

如果这些还不够的话，下面是今年NIPS的所有文章：

https://papers.nips.cc/book/advances-in-neural-information-processing-systems-30-2017

2. Facebook(FAIR)也开始学Google Brain搞residency program了，有兴趣的同学可以去试试，相信会是非常不错的经历

链接：https://research.fb.com/programs/facebook-ai-research-residency-program/

3. Google在上海召开Google Developers Day，最重磅的消息当然就是李飞飞宣布成立China AI Center。于是招人是必然的，感兴趣的同学可以到这里搜机器学习相关的职位：http://careers.google.cn/

现场还有Google Cloud的人介绍跟整个机器学习pipeline相关的产品，比如数据预处理用的Dataflow, BigQuery，部署用的Kubernetes，CloudML等等

另外，Google开源了TFGAN，预先包装好的GAN API

链接：https://research.googleblog.com/2017/12/tfgan-lightweight-library-for.html

还有Kubeflow，使得在Kubernetes上用TF更容易

链接：https://github.com/google/kubeflow

4. AlphaGo教学工具上线了，对于懂围棋的人是个好工具，对于做AI的人嘛未必有太大用

链接：https://alphagoteach.deepmind.com/

同时David Silver大神在NIPS的演讲视频也出来了，主要谈的是AlphaGo系列，强烈推荐。其中这张幻灯片我觉得是精华

视频链接：https://www.youtube.com/watch?v=A3ekFcZ3KNw

Aja Huang宣布离开AlphaGo项目，不过个人认为Alpha*系列真正的灵魂人物是David Silver

5. PyTorch 0.3发布了，增加了对ONNX的支持。PyTorch是非常好用的框架，比难用的TF好多了 :)

release notes：https://github.com/pytorch/pytorch/releases/tag/v0.3.0

PyTorch也增加了Ignite这个high-level库，让神经网络的训练更容易

链接：https://github.com/pytorch/ignite#documentation

最近也有人发布了skorch这个项目，可以按照sklearn的方式使用PyTorch

链接：https://github.com/dnouri/skorch

5. Unity发布了ML-agents 0.2，用Unity引擎和增强学习做游戏，也可以把Unity当初训练环境

release notes：https://github.com/Unity-Technologies/ml-agents/releases/tag/0.2.0

6. Andrew Ng公布了他要干的3件事中的第二件（一件是deeplearning.ai，另一件还未公布但应该是一个AI风投）：landing.ai。看起来是一个专注于把AI应用到传统制造业的咨询公司，现在已经在跟富士康合作。看起来跟林元庆(前百度深度学习实验室主任)的AIBee有那么一点像

7. tryo labs的一篇文章总结深度学习在自然语言处理领域2017年的最新进展，从word embedding到OpenAI的sentiment neuron，再到GAN和OpenNMT，总结的很不错

链接：https://tryolabs.com/blog/2017/12/12/deep-learning-for-nlp-advancements-and-trends-in-2017/

X. 上周去携程参加了一个机器学习的线下活动，最后一个talk讲携程度假部门做的一些系统，其中提到了一个叫EasyAI的系统，就是给业务部门快速搭ML模型部署的系统。演讲的人还强调跟阿里PAI的不同。回来补习了一下阿里PAI，挺有意思的系统，跟AWS SageMaker有点像。让ML快速上线或许是个创业方向，虽然跟巨头竞争肯定是很痛苦