首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

【人工智能】人工智能、机器学习和数据工程 InfoQ 趋势报告 - 2021 年 8 月

关键要点 我们看到越来越多的公司使用深度学习算法。因此,我们将深度学习从创新者转移到了早期采用者类别。与此相关的是,深度学习存在新的挑战,例如在边缘设备上部署算法和训练非常大的模型。 尽管采用率正在缓慢增长,但现在有更多的商业机器人平台可用。我们在学术界之外看到了一些用途,但相信未来会有更多未被发现的用例。 GPU 编程仍然是一项很有前途的技术,但目前尚未得到充分利用。除了深度学习,我们相信还有更多有趣的应用。 借助 Kubernetes 等技术,在典型的计算堆栈中部署机器学习变得越来越容易。我们看到越来越

02

《Scikit-Learn、Keras与TensorFlow机器学习实用指南(第二版)》第19章 规模化训练和部署TensorFlow模型

有了能做出惊人预测的模型之后,要做什么呢?当然是部署生产了。这只要用模型运行一批数据就成,可能需要写一个脚本让模型每夜都跑着。但是,现实通常会更复杂。系统基础组件都可能需要这个模型用于实时数据,这种情况需要将模型包装成网络服务:这样的话,任何组件都可以通过REST API询问模型。随着时间的推移,你需要用新数据重新训练模型,更新生产版本。必须处理好模型版本,平稳地过渡到新版本,碰到问题的话需要回滚,也许要并行运行多个版本做AB测试。如果产品很成功,你的服务可能每秒会有大量查询,系统必须提升负载能力。提升负载能力的方法之一,是使用TF Serving,通过自己的硬件或通过云服务,比如Google Cloud API平台。TF Serving能高效服务化模型,优雅处理模型过渡,等等。如果使用云平台,还能获得其它功能,比如强大的监督工具。

02
领券