全球顶尖人工智能科学家回答网友提问

2016年1月20日，全球最顶尖的人工智能科学家之一、加拿大蒙特利尔大学教授Yoshua Bengio在知名问答社区Quora针对网友的提问给出了自己的一些见解，涉及人工智能的多个方面，其中重要的包括：

网友：深度学习研究的发展方向是什么？

YoshuaBengio：我只能告诉你我的一些内心直觉，包括：

（1）无监督学习是非常重要的，而我们现在做的并不好。

（2）对深度学习的研究有可能继续扩展，从传统的模式识别工作到全面的人工智能任务，包括符号的操作、记忆、规划以及推理。这对于达到完全的自然语言理解及与自然人的对话（即通过图灵测试）是非常重要的。同样地，我们看到深度学习正在渗透到强化学习领域、控制领域和机器人领域，而且这只是开始。

（3）对于人工智能，可能仍然需要我们从人的大脑获得更多更好的理解，并使用机器学习理论对大脑的某些活动给出解释。

（4）最大似然法可能需要改进。对复杂的高维领域学习来说，这不一定是最好的目标（如在无监督学习和结构化输出的场景中）。

（5）对基于深度学习的人工智能的探索（不仅是消费产品）将大大受益于计算能力的大幅增长，尽管这种增长可能意味着需要专门的硬件。这是因为人工智能需要大量关于真实世界的知识（以及与这些知识相关的推理），这需要经过非常大的数据集训练的大型模型，而这些都需要比目前更多的计算能力。

网友：你如何评价OpenAI(一个由多家公司资助的非营利性人工智能研究所)?

Yoshua Bengio：我认为在人工智能领域里有另一个玩家是很好的事情，因为他可以借助自身对研究者市场和文化的影响来进一步推动工业实验室朝着长期目标发展，从而使基础研究不仅仅发生在学术界。我坚信，在未来几十年，如果我们不是太专注于短期目标，不是那么贪婪（总是想快速赚钱）的话，我们会在迈向人工智能的征程上走地更远。

网友：对人脑的理解对于深度学习有多重要？反过来呢？

Yoshua Bengio：像那些早期的神经网络研究者一样，我相信如果我们能够充分利用已经获得的关于大脑的知识，我们会有一个非常好的机会来学习一些对构建人工智能有用的东西。而且随着神经科学家收集到越来越多关于大脑的数据，这个结论将变得越来越正确。这种信念与反向观念相关联，即为了能够真正理解大脑让我们拥有智能的原因，我们需要用“机器学习”理论给出一个关于大脑活动的解释，也就是一个基于计算理论和数学理论的解释，来说明我们的大脑如何学习如此复杂的东西，并进行如此成功的信用分配。为了证实这种解释，我们应该能够运行一个基于相同基本原则的机器学习算法，在其中通过抽象去除对理解这些基本原则不必要的生物学元素（但也许在大脑中必须实现它们，或者必须利用我们与生俱来的天生的额外知识）。据我所知，关于大脑如何完成BP算法（反向传播算法）能够胜任的一些事情，我们还没有一个令人信服的机器学习解释，即发现内部神经元突触是如何改变的，从而使大脑作为一个整体来更好地理解世界，并产生更好的行为。这是这段时间我大脑中思考最多的问题之一。

网友：你如何看待强化学习？

Yoshua Bengio：如果我们只使用强化信号来引导训练，我觉得那只能算是锦上添花。更糟糕的是，对能够利用该信号进行训练的隐藏单元（或动作维数）的数量来说，如果使用一个全局性的但并非已知陈述的可微函数（通常情况是这样的）的增强信号，就会产生一个严重的缩放问题。动作的例子、随机样本或实验都可能至少以样本单元增长速度的线性速度增长，这是为了向许多单元提供与通过BP算法获得的质量相当的信用分配额度。如果行动空间很大，就会出现问题。

网友：深度学习有哪些开放性研究领域？

Yoshua Bengio：对这个问题，每位研究者都有自己的看法，我认为有以下几个：

（1）真正了不起的无监督学习包括：能够从大范围自然图片和声音中生成清晰图像和声音的生成性算法；在有标签的数据集不干净时能够发挥作用的半监督学习；学习从数据到空间独立变量的双向变换；把（迭代）推理反过来用于深度学习，以处理潜在变量的非因子化后验数据。

（2）为我们的模型引入更多的推理能力。

（3）大范围的资源语言理解与知识表示。

（4）真正长期依赖序列数据并拥有在多个时间尺度上发现一个层次性表示的学习者的模型。

（5）更好地理解（并解决）不时出现的优化问题（例如在无监督学习或具有长期依赖性的回归网络中）。

（6）能够将计划（能够执行what-if情景，或许是通过一个生成部件随机性地实现）纳入学习过程的训练模型（并能够做实际决策）。

（7）将强化学习的规模提升到很大的行为空间。

（8）最大似然法有一些缺点（例如存在训练和测试条件错误匹配的问题），需要我们解决（甚至可能完全抛弃最大似然法）。

（9）加强深度学习与生物学之间的联系。

（10）提升我们对深度学习问题的理论理解 (优化问题是一个方面，但表达与统计方面也需要更多的理论)。

（11）制造特殊的硬件，要能够帮助我们不仅可以通过离线训练模型制造用户产品，而且从更重要的科学观点来看，要能够训练更大的、可以容纳更多信息的模型，从而为构建人类水平的人工智能铺平道路。

（12）有许多应用正在探索中。我特别想看到的是健康领域的更多工作。