如何在没有GPU的情况下为深度学习模型服务
如何在没有GPU的情况下为深度学习模型服务
提问于 2020-08-12 14:14:12
由于节省了成本，我使用常规CPU运行深度学习模型。完成一个请求需要10秒，并且它是用python编写的。
我正在考虑通过使用java、C++或rust来提高性能。是否有任何现有的rust框架来选择深度学习模型。
回答 2
Stack Overflow用户
发布于 2020-08-12 14:20:06
是否有任何现有的rust框架来挑选深度学习模型。
虽然我对rust框架并不熟悉。由于它使用的是英特尔MKLDNN和英特尔MKL库，因此它应该能为您提供最高的性能。你可以使用C++/Python。
使用MKLDNN安装mxnet
Stack Overflow用户
发布于 2020-08-12 14:19:11
Tensorflow的性能关键部分是用C++编写的。使用其他语言不会造成巨大的性能差异。您可以量化您的网络或进行网络修剪以提高性能。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/63370812
复制相关文章
相似问题
腾讯云开发者
