首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

《Scikit-Learn、Keras与TensorFlow机器学习实用指南(第二版)》第19章 规模化训练和部署TensorFlow模型

有了能做出惊人预测的模型之后,要做什么呢?当然是部署生产了。这只要用模型运行一批数据就成,可能需要写一个脚本让模型每夜都跑着。但是,现实通常会更复杂。系统基础组件都可能需要这个模型用于实时数据,这种情况需要将模型包装成网络服务:这样的话,任何组件都可以通过REST API询问模型。随着时间的推移,你需要用新数据重新训练模型,更新生产版本。必须处理好模型版本,平稳地过渡到新版本,碰到问题的话需要回滚,也许要并行运行多个版本做AB测试。如果产品很成功,你的服务可能每秒会有大量查询,系统必须提升负载能力。提升负载能力的方法之一,是使用TF Serving,通过自己的硬件或通过云服务,比如Google Cloud API平台。TF Serving能高效服务化模型,优雅处理模型过渡,等等。如果使用云平台,还能获得其它功能,比如强大的监督工具。

02

开源公告|TGFX-跨平台 2D 绘图引擎

TGFX(Tencent Graphics) 是一个跨平台的纯 GPU 绘图引擎,提供了完备的图片,矢量和文本的 2D 绘制能力,目前已支持:iOS, Android, macOS, Windows, Linux, 以及 Web 等平台。它最初是从 PAG 动效开源项目中孵化而来,作为谷歌 Skia 绘图引擎的轻量化替代方案,以仅 400K 左右的包体大小实现了 Skia 近2M 包体的绝大部分功能,并为 PAG 4.0 版本带来了约 65% 的包体降低以及 60% 的矢量渲染性能提升。截止 2023 年 10月,借助 PAG 项目,TGFX 已经实际运行在了1500+ 的头部业务场景中,如微信,手Q,王者荣耀,小红书,知乎,Bilibili等,稳定性也经过了 10 亿+ 用户设备的持续验证。除了 PAG 外,TGFX 目前也独立在部分音视频编辑框架,Hippy动态化框架以及腾讯文档中作为底层的绘图引擎使用。

02

MLSys提前看 | 机器学习的分布式优化方法

随着机器学习算法和模型的不断发展,传统的软硬件平台、部署环境等无法支撑机器学习的应用,这也成为了目前机器学习方法落地及大规模推广应用的主要困难之一。目前,有关于 MLSys 的研究方向包括硬件领域、软件领域和对机器学习算法的改进三个方面,以 MLSys 2020 为例,本届大会的议题包括:Distributed and parallel learning algorithms(5 篇论文)、Efficient model training(8 篇论文)、Efficient inference and model serving(8 篇论文)、Model/Data Quality and Privacy(4 篇论文)、ML programming models and abstractions & ML applied to systems(5 篇论文)以及 Quantization of deep neural networks(4 篇论文)。整个会议一共录用 34 篇论文。

04
领券