英特尔近期开源了深度学习框架编译器 nGraph。nGraph 是一款开源 C++ 库,编译器和运行器,它能够让数据科学家能够专注于数据科学研发,不需要担心如何将 DNN 模型部署到各种不同设备做高效训练和运行。
Github 地址:
https://github.com/NervanaSystems/ngraph
当深度学习框架首次成为运行培训和推理模型的工具时,它是围绕特定设备优化的内核而设计的。所以,在模型定义时会暴露出许多问题,使 DL 模型对其他或更高级设备的适应性和可移植性变得复杂。
使用传统的方法意味着算法开发人员将模型带入升级后的设备时,会遇到繁琐的工作。使模型在不同的框架上运行也是有问题的,因为开发人员必须将模型的本质与为设备进行的性能调整分开,转换为新框架中类似的操作,并最终在新框架上为优选的设备配置做必要的改变。
nGraph 大大减少了这些工程复杂性。虽然通过项目和用于深度神经网络的库(Intel®MKL-DNN))提供了用于 DL 基元的优化内核,但还有一些编译器启发式的方法可以进一步优化性能。
对于这个早期版本,官方提供了用于编译基于 MXNet 和 TensorFlow 的项目的框架集成指南。 如果你已经有了一个训练好的模型,官方已经为如何导入深度学习模型并使用 nGraph API 提供了入门指南。
详细信息请查阅安装文档:
http://ngraph.nervanasys.com/docs/latest/install.html