有奖捉虫:办公协同&微信生态&物联网文档专题 HOT
TI-ACC 加速工具(TI Acceleration Service,TI-ACC)为企业提供 AI 模型训练、推理加速服务,支持多种框架和场景,显著提高模型训练推理效率,降低用户成本。

产品功能

TI-ACC 训练加速

TI-ACC 训练加速基于腾讯云帆 Light 常年内外部项目打磨验证,在推荐、CV、NLP 等模型训练场景中,实现数据 IO 优化、计算加速、通信加速、并行训练、显存优化等能力,能力在 腾讯云 TI 平台-训练工坊 通过统一的加速库以及简单易用的函数/类的形式提供,并很好的兼容原生 PyTorch、TensorFlow 框架和 DDP、PS 工具,可帮助客户以较低的使用门槛在进行模型训练时,显著节省训练时间和计算成本。

TI-ACC 推理加速

TI-ACC 推理加速基于腾讯云帆 TNN 常年内外部项目打磨验证,在推荐、CV、NLP 等模型推理场景中,实现计算优化、低精度加速、内存优化等能力,能力通过统一的加速库和优化函数的形式提供,用户可通过 腾讯云 TI 平台-模型优化 通过创建简单的一个优化任务即可进行推理加速优化,支持多种模型输入格式、多种优化级别、固定&动态输入维度、输出测试报告以及对模型进行保存输出,并很好的兼容原生 PyTorch等框架,无需进行模型转换,可帮助客户以较低的使用门槛在进行模型推理时,显著节省推理时间和计算成本。