机器学习人工学weekly-2018/2/4

注意下面很多链接需要科学上网,无奈国情如此

1. Google相关的消息:

1.1 TF发布1.5正式版,跟之前提到的RC差不多,主要是增加了eager和lite,升级了CUDA和cuDNN的支持版本

链接:https://github.com/tensorflow/tensorflow/releases/tag/v1.5.0

1.2 Google和UCSF/Stanford/Chicago合作发的一篇用深度学习从EHR预测医院事件(病亡,住院等)论文。不太懂医学上应用,不过看到不光预测准确率提高了,而且在dnn里面加weight做attribution。这种工作估计也只有Google能做,首先那几个牛医院是不会把数据随便给一般公司的,其次看计算量,差不多要22年的GPU hours,没几个公司有那么多资源做这个事

Scalable and accurate deep learning for electronic health records

链接:https://arxiv.org/pdf/1801.07860.pdf

1.3 DeepMind开源Psychlab,在Lab环境里面模拟心理学和认知科学tasks,并用UNREAL做了一些测试,看起来UNREAL跟人类比起来还是有一些明显的短板

Open-sourcing Psychlab

博客链接:https://deepmind.com/blog/open-sourcing-psychlab/

1.4 Google Brain的Eric Jang(青年才俊)写了2篇blog讲normalizing flow(autoregressive模型比如wavenet用)

part 1: https://blog.evjang.com/2018/01/nf1.html

part 2: https://blog.evjang.com/2018/01/nf2.html

1.5 Sara Sabour(Capsule Network作者)公布了胶囊网络的代码

链接:https://github.com/Sarasra/models/tree/master/research/capsules

1.6 Google Colab现在可以用免费的K80 GPU了,大利好

教程:https://medium.com/deep-learning-turkey/google-colab-free-gpu-tutorial-e113627b9f5d

2. 这周EmTech China在北京开AI大会,去了很多大牛。可惜没有机会去现场,不过在头条上看到有一些视频。建议有兴趣的同学可以在头条上搜"DeepTech深科技",他们有发一些现场视频(非广告)

官网(无视频):http://www.emtechchina.cn/?lang=1

3. 这周看到一篇机器学习在金融领域(股价预测,return prediction等等)方面的应用,文章我都没看,但是看摘要基本上就是RNN跟传统方法的对抗 :) 对fintech或者投资有兴趣的同学可以看看

2017's Deep Learning Papers on Investing

链接:https://medium.com/@dmitryrastorguev/2017s-deep-learning-papers-on-investing-7489e8f59487

4. Bengio的MILA实验室发了他们参加Amazon Alexa chatbot比赛的MILABOT的短论文(这个是精简版,之前有一篇巨长的),用reinforcement learning做chatbot, 主要是用off-policy REINFORCE和Q-learning with the Abstract Discourse MDP

A Deep Reinforcement Learning Chatbot

链接:https://arxiv.org/pdf/1801.06700.pdf

其实用RL做对话也不是一个新鲜的idea,之前Stanford李纪为(牛人啊,从生物转CS在Stanford3年就PhD毕业然后去做香侬科技AI创业了)就用RL和GAN做对话生成,建议去读读他的博士论文:

Teaching Machines to Converse

链接:https://github.com/jiweil/Jiwei-Thesis

5. AlphaGo系列

5.1 这周看到2017 ICML Test of Time Award的视频,这个奖给了Google Brain Zurich的Sylvain Gelly和DeepMind的David Silver,他们的工作就是2007年用的online/offline 知识训练下围棋

在视频里面他们回顾了2007年的做法,online部分就是用MCTS,offline基本上是用手工特征的方法估算value/policy,所以不是很scalable。等到deep learning的时候他们把offline部分大大推进了(当然还有一些其他的改进),于是搞定了Go。这个过程花了10年时间啊,pretty amazing to take a retrospective view。看下面这个进展过程,最开始用的traditional search,很快就plateau了,然后用Monte Carlo有了一大步进展,但是也plateau了,最后用deep learning,几乎是直线上升,it's fabulous!

他们还在07年的时候就打赌说10年之后会完美解决Go,果然2017年彻底解决了。Sylvain Gelly早已经不做围棋了,David Silver坚持了10+才做出来,真心佩服!

强烈推荐视频:https://www.youtube.com/watch?v=Bm7zah_LrmE

5.2 David Silver在NIPS上的演讲清晰版视频出来了

链接:https://www.youtube.com/watch?v=Wujy7OzvdJk

5.3 Google的人在tensorflow repository里面发布了Minigo,相当于AlphaGo的开源版,虽然不是Google的官方项目

链接:https://github.com/tensorflow/minigo

5.4 AlphaZero我之前也写过快报,不过感觉下面这篇文章写的更清晰,是从AlphaGo一路讲,而且visualization也很漂亮,所以推荐

AlphaGo Zero - How and Why it Works

链接:http://tim.hibal.org/blog/alpha-zero-how-and-why-it-works/

5.5 另外这篇文章手把手教你怎么把AlphaZero用到另外游戏Connect4上

How to build your own AlphaZero AI using Python and Keras

链接:https://medium.com/applied-data-science/how-to-build-your-own-alphazero-ai-using-python-and-keras-7f664945c188

6. 模型解释性一向是ML被人诟病的大问题,这周看到的这个XGBoost Explainer(R)工具不错,可以解释boosting模型。GitHub上好像也有python版的

链接:https://medium.com/applied-data-science/new-r-package-the-xgboost-explainer-51dd7d1aa211

GitHub:https://github.com/AppliedDataSciencePartners/xgboostExplainer

7. tyro labs blog详解Faster R-CNN,通俗易懂,适合我这种不怎么看视觉文章的懒人

链接:https://tryolabs.com/blog/2018/01/18/faster-r-cnn-down-the-rabbit-hole-of-modern-object-detection/

8. 这个比较有趣,用YOLO做英雄联盟人物的识别,打游戏的人应该会觉得好玩

part1:https://medium.com/@farzatv/deepleague-leveraging-computer-vision-and-deep-learning-on-the-league-of-legends-mini-map-giving-d275fd17c4e0

part2:https://medium.com/@farzatv/deepleague-part-2-the-technical-details-374439e7e09a

9. NLP入门教程,涵盖了大部分的NLP基础人物,适合初学

教程:https://blog.insightdatascience.com/how-to-solve-90-of-nlp-problems-a-step-by-step-guide-fda605278e4e

10. CMU春节深度学习课程开始,视频slides皆有,初学可以去跟

链接:http://deeplearning.cs.cmu.edu/

原文发布于微信公众号 - 机器学习人工学weekly(MLandHuman)

原文发表时间:2018-02-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI研习社

Kaggle 图像识别新赛来袭,还有一家中国企业提供赞助

AI 研习社此前介绍过 CVPR 2018 workshop 上的多个比赛,详情参见看过 CVPR 2018 workshop 后,发现有一个我不认识的 Lad...

3576
来自专栏量子位

未来FPGA能击败GPU么?这是英特尔的研究成果

问耕 编译整理 量子位·QbitAI 报道 在最近的FPGA国际研讨会(ISFPGA)上,英特尔加速器架构实验室(AAL)的Eriko Nurvitadhi博士...

2695
来自专栏AI科技大本营的专栏

论机器翻译之浅薄

翻译 | shawn 编辑 | 波波、费棋 【AI科技大本营导读】尽管机器翻译明显玩不转备受期待的长篇内容,但我们得承认,在快速获知单词含义层面,它确实为人们...

2636
来自专栏企鹅号快讯

机器学习人工学2017/12/31

这周国外过节比较清净。注意下面很多链接需要开学上网,无奈国情如此 1. Facebook AML团队发文,从应用的角度披露了很多FB内部用的机器学习系统,其中S...

1907
来自专栏AI科技评论

学界 | ArXiv中最受欢迎的开源框架大起底,第一名当然是……

在深度学习研究领域最受关注的开源框架是什么?相信大家心中都有答案。 AI 科技评论了解到,近日 Keras 作者 François Chollet 近日在 Tw...

3178
来自专栏机器之心

更偏好白人男性?Science新研究证明人工智能也能学会偏见

选自Science 机器之心编译 参与:吴攀、晏奇 至少从口号上来说,我们一直在追求「人人平等」,但我们也都清楚我们离这一目标还相去甚远,部分原因是因为世界并不...

3448
来自专栏PPV课数据科学社区

【深入浅出】推荐系统那点事

推荐系统的误区 回想起来,我也算是国内接触推荐系统较早的人之一了,最近和人聊天,觉得不少人对推荐系统有所误解,以为需要多么高大上的算法才能搭建起来的,我只想说我...

3325
来自专栏PPV课数据科学社区

技术前沿 : 大数据下的用户与价值分析。

大数据下,用户分析的核心是什么? ——解决实际问题   确定用户分析目的,具体是为了降低成本?增加收入?优化用户体验?提升营销效果?用户针对性管理? 确定目的...

2683
来自专栏AI科技大本营的专栏

实战干货 | 这位成功转型机器学习的老炮,想把他多年的经验分享给你

这个年代,不怕你是大牛,就怕大牛还会写文章。 作为AI100智库专家,智亮总是能在口若悬河中,让人深入浅出地学到一堆堆干货,掏心窝子的干货。 多年的实战经验...

34910
来自专栏人工智能快报

英特尔研究员展望人工智能与高性能计算的融合

高性能计算领域专业媒体HPCwire发表文章,介绍了英特尔研究人员对人工智能与高性能计算结合的技术展望。 将针对特定问题的深度神经网络扩展到具有数千个节点的大型...

2729

扫码关注云+社区