Oracle开源Graphpipe：简化机器学习模型在框架中的部署

编译：chux

出品：ATYUN订阅号

Oracle今天开源了Graphpipe，可以方便地在云计算中为机器学习模型提供服务，比如TensorFlow、MXNet、Caffe2和PyTorch等流行的框架。Graphpipe旨在简化机器学习的部署，以便在移动应用和物联网设备上使用，以及为最终用户提供Web服务或为公司内部使用AI提供便利。

Oracle云架构师Vish Abrams表示，“Graphpipe是一种标准化协议的尝试，通过该协议，你可以与远程部署的机器学习模型进行对话，它包含一些参考服务器，允许你以高效的方式轻松地从现有框架部署机器学习模型，”在加入Oracle之前，Abrams曾在NASA领导开源OpenStack云计算平台。

使用该工具可能意味着开发人员不必构建自定义API来部署AI模型，也不必担心用于创建模型的流行框架。

该工具在Github上免费提供，并加入了近年来为希望使用AI的开发人员推出的一系列开源工具，包括TensorFlow等流行框架。在开放式神经网络交换（ONNX）创建大约一年前被Facebook和微软提出的标准格式的机器学习模型允许框架之间的互操作性。

Abrams表示，当今开发人员在创建AI模型的框架方面有很多选择，但是如何服务或部署AI模型选择则更少。

“看起来人们并没有真正考虑过这个问题，我怀疑这是机器学习在过去几年中发展如此剧烈以至于每个人都处于实验研发阶段并建立模型的情况。他们并没有真正考虑’好吧，我该如何把它投入生产？’所以围绕部署方面的工具只是刚刚起步，但在未来几年它会变得更加强大，所以希望这个协议就像是围绕模型部署创建一些非常强大的工具的第一步。”

Oracle创建并开源的Graphpipe为更广泛的AI生态系统提供服务，并且有机会“开发和改进真正的现代技术。

用于在深度学习架构中传输组件的Graphpipe网络协议包括服务AI模型的指南，服务模型的示例，以及用于查询Graphpipe模型的客户端库。

工具：github.com/oracle