前段时间在网上看到一个概念叫可微编程,称其可以打开深度学习的黑盒学习过程,并将主宰“后深度学习时代”,有人能大概讲一下这个概念和后深度学习时代的概念吗?这种说法是噱头还是确有其事?
深度学习三巨头之一Yann LeCun了解一下吧,可微分编程的说法来源于他,他同时也承认了“可微分编程”只不过是重新命名了现代深度学习技术体系,和当年给神经网络里有两个以上隐藏层的变体起名叫“深度学习”差不多,所以除了概念很新以外,也没有什么是很陌生的。后深度学习时代的网络通过从单网络到多网络的协同优化完成感知、决策与认知的有效结合;是数据规模及硬件加速平台的整体全面发展,但是深度学习本身还是具有黑盒智能、可解释性差等质疑,现在绝大多数可微编程的工作都是基于优化的过程展开,发现能得到新的长短期记忆,再从可微编程角度,找到与长短期记忆网络的连接,作为衔接传统算法与深度学习之间的桥梁为深度算法提供可解释性,其实是有可能成为打开深度学习黑盒子利器的。