开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

社区首页 >问答首页 >如何通过API快速实现自定义AI模型预测？

问如何通过API快速实现自定义AI模型预测？
EN

Stack Overflow用户

提问于 2022-03-21 12:24:49

回答 1查看 31关注 0票数 0

我使用Django为AI模型开发API，但是它的预测速度慢，我有很多请求需要时间通过AI API来执行，我需要帮助同时处理多个请求

EN

回答 1

Stack Overflow用户

发布于 2022-03-21 15:42:00

如果您的AI模型是无状态的，这意味着可以独立于以前的请求来处理新请求，那么您可以运行AI模型的多个实例。您可以使用带有多个副本的部署。然后，使用服务来实现实例之间的负载平衡。

票数 2

EN

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/71557592

复制

相似问题