PyTorch 1.5发布：Python与C++可转换，不再支持Python2

磐创AI分享

来源 | 图灵TOPIA

作者 | KHARIJOHNSON

【导读】在新版本中，Facebook 与 AWS 还合作共同推出了大规模生产级工具库 TorchServe。

4月21日，Facebook 正式发布了 PyTorch 1.5，这是自 2020 年 1 月发布 Pytorch 1.4 之后，时隔三月迎来的另一次版本升级。

需要注意的是，PyTorch 1.5只支持Python 3，不再支持Python 2版本。

此次发布PyTorch 1.5此版本主要包括对几个新的API 的添加和改进，包括对c++前端API的支持（稳定版）和库升级，比如Facebook与Amazon 合作开发的模型服务库TorchServe。

TorchServe库同时支持Python和TorchScript模型；它可以同时运行一个模型的多个版本，甚至可以在模型存档中回滚到过去的版本。亚马逊工程师在一篇博文中表示，超过80%的使用PyTorch的云机器学习项目是在AWS上进行的。

PyTorch 1.5还包括Torch Elastic，可根据开发者的需求或出现的问题状况来扩大或缩小云训练资源。

AWS与Kubernetes的TorchElastic集成支持容器编排，并且具有较高的容错能力。Kubernetes在AWS上集成TorchElastic，意味着Kubernetes用户不需要通过手动管理模型训练的服务来使用TorchElastic。

TorchElastic用于大型分布式机器学习项目。PyTorch产品经理Joe Spisak表示，TorchElastic被用于Facebook的大规模NLP和计算机视觉项目，现在正将其构建到公有云环境中。

“TorchElastic能让你在多个节点上改变训练，同时不会出现训练失败的情况; 它会继续运行，一旦这些节点重新联机，它可以重新开始训练并在这些节点出现时计算这些变量。”Spisak说。“我们把弹性容错视为与亚马逊再次合作的机会，同时我们也有来自微软的一些合并请求。因此，我们希望三个主要的云供应商能为本地用户提供支持，以便在其云上的Kubernetes中进行弹性容错。”

Spisak表示，此次发布的PyTorch 1.5还增加了一个新特性：PyTorch c++前端API的稳定版本现在可以将模型从Python API转换为c++ API。“最重要的是，随着PyTorch 1.5的发布，在升级到C++后，我们现在与Python完全对等。”

因此，用户基本上可以在Python中使用的所有软件包、所有模块、optim等，现在这些也都可在C ++中使用。

Spisak说：“基本上，PyTorch 1.5能让每个人在Python和C ++之间进行基本转换。”

PyTorch 1.5还引入了自定义C++类的实验版本，PyTorch的C++实现对于强化学习模型的构建者尤为重要。

此外，PyTorch 1.5还升级了主要的torchvision、torchtext和torchaudio库，以及与AWS共同构建的TorchElastic和TorchServe模型服务库。

它还更新了torch_xla软件包，可以将PyTorch与Google Cloud TPU或TPU Pod一起使用。

此前，Facebook在1月发布了支持分布式模型并行、Java程序、移动端等多项新功能的PyTorch 1.4。在2019年10月举行的年度PyTorch开发者大会上，Facebook首次介绍了Google Cloud TPU支持和量化以及PyTorch Mobile。

原文链接：

https://venturebeat.com/2020/04/21/facebook-partners-with-aws-on-pytorch-1-5-upgrades-like-torchserve-for-model-serving/