前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >视频 | 2分钟论文:用谷歌「AI可解释性」看懂机器学习

视频 | 2分钟论文:用谷歌「AI可解释性」看懂机器学习

作者头像
AI科技评论
发布2018-03-29 17:27:20
6600
发布2018-03-29 17:27:20
举报
文章被收录于专栏:AI科技评论

AI 科技评论按:这里是,雷锋字幕组编译的 Two minutes paper 专栏,每周带大家用碎片时间阅览前沿技术,了解AI领域的最新研究成果。

原标题:Building Blocks of AI Interpretability - Two Minute Papers #234

翻译 | 陈晓璇 字幕 | 凡江 整理 | 吴璇 逯玉婧

视频内容

谁再说神经网络是黑盒,甩出这篇文章,给 TA 翻个白眼。

上周,谷歌 Jeff Dean 在推特上转发了一句话「还认为神经网络是黑盒吗?要不再想想 :) 」。

还配上了《纽约时报》一篇名为《谷歌研究人正在搞懂机器学习》的文章。

点进这篇文章发现,Jeff Dean 意指论文《The Building Blocks of Interpretability》(译名:可解释性的基石)在神经网络可视化方面的新进展。

研究由谷歌大脑研究员 Chris Olah 带队完成,创建了一套神经网络可视化方法。

左图:可以被神经网络识别,比如说,告诉我们图片里有没有花瓶或柠檬。右图:神经网络中间层的可视化呈现,能够检测到图片中的每个点。看起来,神经网络正在检测,像花瓶的模型以及像柠檬的物体。

论文将独立的神经元、分类归属与可视化结合,从而提供一种理解神经元的方法。

我们通过观察「神经元可以被哪些图像激活」,「神经元在找哪些图像」、「神经元判定这个图像属于哪一类」,可以判断出「神经元的最终决策及贡献值」。

这个过程减少了神经元的总数,并且将神经元分解成一些小的语义组,得出有意义的解释方法。在论文中被称作「因式分解」或者「神经元分组」。通过做这项工作,我们可以得到高度描述性的标签,赋予它们直观的含义。

现在我们把一张图片放到拉布拉多组,神经网络开始观察拉布拉多的耳朵、额头、嘴巴还有毛发的组合。过程可以由一个活动地图来展示,通过观察,我们可以轻松看到神经元群组兴奋点。

我们这里仅仅概括了论文的表面含义,论文中还有许多其他的成果和互动的案例供大家赏析。

论文原址: https://distill.pub/2018/building-blocks/

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2018-03-18,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 AI科技评论 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档