机器学习人工学weekly-2018/1/21

1. Google Brain发布2017年总结贴，感觉今年vision方面已经没什么进展了，AutoML还是优先级最高的

链接：https://research.googleblog.com/2018/01/the-google-brain-team-looking-back-on.html

看TF在全世界的热度，中国绝对的一塌糊涂

果然几天之后Google Cloud就宣布AutoML vision（对AutoML感兴趣的应该去读读Barret Zoph和Quoc Le的两篇论文Neural Architecture Search和Neural Optimizer Search，去年Berkeley RL课有一节就是请他们讲这个）：

链接：https://www.blog.google/topics/google-cloud/cloud-automl-making-ai-accessible-every-business/

2. 芝加哥大学David McAllester教授的深度学习课slides，UChicago一向以学术严谨著称，这个课的内容很多，质量很不错，可惜没有视频

链接：http://ttic.uchicago.edu/~dmcallester/DeepClass/class.html

3. FloydHub（YC里面为数不多的作深度学习平台的公司）这篇blog蛮有意思，就是之前pix2code工作的延伸，直接从设计图生成HTML（其实就是image captioning），虽然目前看起来离实用还有一些距离，但是这个方向应该还是有前途的，算是program synthesis的一种吧

链接：https://blog.floydhub.com/Turning-design-mockups-into-code-with-deep-learning/

貌似airbnb设计团队已经在使用这个技术作快速experiment了

链接：https://airbnb.design/sketching-interfaces/

4. Facebook开源的StarSpace，可以用来学习各种情况下的embedding，star就是*通用符，space就是embedding空间。设计的非常灵活，可以做文本分类，推荐等许多事情，是个好工具

链接：https://github.com/facebookresearch/StarSpace/

5. OpenAI发布的gradient-checkpointing，在计算的时候只保留一部分中间节点的计算结果，这样通过牺牲计算时间来减少内存消耗，典型的用时间换空间，不过只比完整保留中间计算蛮20%，效果不错。最赞的是可以当成tf.gradient的drop-in replacement，无需巨大的代码改动

链接：https://github.com/openai/gradient-checkpointing

6. Judea Pearl（图灵奖得主，贝叶斯网络发明人，这届NIPS上是有点被冷落，其实很不应该）发文，主要还是探讨model-based以及causal reasoning的重要性，相比于深度学习这种model-blind的东西，model-based显然对于推理，因果分析更有用。model-based跟Yann LeCun说到的predictive learning和RL里面的model-based好像也有一些关系

链接：https://arxiv.org/pdf/1801.04016.pdf

7. Facebook何凯明大神等提出一个新的视觉任务 - panoptic segmentation，把instance segmentation和semantic segmentation结合，让算法不仅要找出每个像素的物体类别，还要找出instance id，把视觉的难度再往前提高了一步，这个还是早期工作，目前只是简单的把instance segmentation和semantic segmentation的算法结合起来做panoptic seg，后面应该还会有跟进工作

链接：https://arxiv.org/abs/1801.00868

8. 微软写了本关于AI的小书，主要是他们高层对AI的发展，政策以及对社会影响（工作等等）的思考，可以快速扫一眼

链接：https://blogs.microsoft.com/blog/2018/01/17/future-computed-artificial-intelligence-role-society

9. 偶然发现这个项目Featuretools，通过Deep Feature Synthesis自动生成features，减少特征工程的工作量

链接：https://github.com/featuretools/featuretools

论文：http://www.jmaxkanter.com/static/papers/DSAA_DSM_2015.pdf

10. 百度发布了 VisualDL，其实就是给其他框架用的TensorBoard，不过模型结构可视化用的是ONNX