自动调优数据科学:新研究流线型机器学习

AiTechYun

编辑:Yining

最近快速增长的数据科学作为一门学科和应用程序,在某种程度上具有解决问题的能力。它可以预测虚假的信用卡交易,或当一个学生即将辍学时做出预测并及时执行教育干预措施。

然而,为了获得这些数据驱动的解决方案,数据科学家必须通过一系列复杂的步骤来指导他们的原始数据,每个步骤都需要许多由人驱动的决策。流程中的最后一步 — 决定建模技术,是非常重要的。有数百种技术可供选择,从神经网络到支持向量机。如果企业选择最好的一种技术,那么可能意味着数百万美元的额外收入。

在上周的IEEE国际大数据会议上,麻省理工学院和密歇根州立大学的研究人员发表了一篇题为“自动机器学习的分布式、协作、可扩展系统”的论文,展示了一种自动化模型选择步骤的新系统,甚至提高了人类的性能。这个系统称为自动调优模型(ATM),它利用基于云计算的计算方法,在建模选项中执行高吞吐量搜索,并为特定问题找到最佳的建模技术。它还调整了模型的超参数:一种优化算法的方法,这对性能有很大的影响。ATM现在可以作为一个开源平台使用。

为了将ATM与人类执行者进行比较,研究人员测试了该系统与合作的众包平台openml.org的用户。在这个平台上,数据科学家们共同努力解决问题,通过建立彼此的工作来找到最佳的解决方案。ATM分析了平台上的47个数据集,并且能够在30%的时间里比人类提供一个更好的解决方案。而且至关重要的是,它比人类的工作速度快得多。虽然open-ml的用户平均需要100天的时间来提供一个近乎最优的解决方案,但ATM在不到一天的时间内就可以得到答案。

授权数据科学家

这种速度和准确性为数据科学家提供了帮助,他们常常被“假设分析”所困扰。“如果一个数据科学家选择支持向量机作为一种建模技术,那么一个神经网络或另一种模型是否会带来更好的准确性?”,密歇根州立大学计算机科学和工程部门的教授,也是该论文的资深作者阿伦·罗斯说道。

在过去的几年里,模型选择/调优的问题已经成为机器学习的一个新领域的焦点,也就是所谓的Auto-ML。Auto-ML解决方案旨在为给定的机器学习任务提供数据科学家的最佳模型。只有一个问题:竞争的Auto-ML方法会产生不同的结果,而且它们的方法通常是不透明的。换句话说,在寻求解决一个选择问题时,社区创建了另一个更复杂的问题。“假设的问题仍然存在。”Kalyan Veeramachaneni说道,他是麻省理工学院信息和决策系统实验室的主要研究科学家,也是该论文的另一名资深作者。“如果我们使用的是一种不同的Auto-ML方法,将会怎么样呢?”他再次问道。

ATM系统的工作原理是不同的,使用按需(on-demand)云计算来生成和比较几百个(甚至上千个)的模型。为了搜索技术,研究人员使用了一种智能选择机制。系统测试数千个模型,并对每个模型进行评估,并为那些展示承诺的技术分配更多的计算资源。糟糕的解决方案会被搁置一边,而最好的方案则会上升到顶端。

相对于盲目地选择“最佳”方案,并将其提供给用户,ATM会将结果作为一个分布来显示,从而可以并行地比较不同的方法。罗斯说,通过这种方式,ATM加速了测试和比较不同建模方法的过程,而不需要将人类的想法自动化,这仍然是数据科学过程中至关重要的一部分。

开源,社区驱动的方法

通过流线型化模型选择的过程,Veeramachaneni和他的团队的目标是让数据科学家们在管道(pipeline)中更有影响力的部分工作。Veeramachaneni说:“我们希望我们的系统能让专家们腾出更多的时间来理解数据、问题的制定和功能工程。”为了实现这一目标,研究人员正在使用开源的ATM,让那些想要使用它的企业可以使用它。他们还提供了一些条款,允许研究人员整合新的模型选择技术,从而在平台上不断地改进。ATM可以在一台机器上,本地计算集群或者云中的按需集群上运行,并且可以同时处理多个数据集和多个用户。

“一个小型的中等规模的数据科学团队可以建立并开始生产模型,这只需几个步骤。”Veeramachaneni说道。并且这些都没有一个是“假设分析”。

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20171221B0G7XN00?refer=cp_1026

扫码关注云+社区