如何在tensorflow的分布中运用Tensorflow XLA AOT支持?

内容来源于 Stack Overflow,并遵循CC BY-SA 3.0许可协议进行翻译与使用

  • 回答 (2)
  • 关注 (0)
  • 查看 (149)

Tensorflow 1.0引入了XLA支持,包括JIT编译和AOT编译。对于JIT编译,我找到了一个python测试脚本,可以对其进行单元测试。但是,我没有找到任何AOT编译的python测试。但是有一些bazel测试,可以在源代码树上运行。Tensorflow的链接https://www.tensorflow.org/performance/xla/tfcompile提供了有关如何测试的信息。但是tfcompile并没有成为tensorflow的分发内容。我可能在这里错了。但我无法在TF安装它的分发目录中的任何地方看到tfcompile。谁能帮助我了解如何在现有的发行内容上测试AOT编译,或者我需要在代码中调整一些内容以允许AOT内容进入发行版?

提问于
用户回答回答于

我知道你是专门询问AOT,但我建议你先阅读这个页面:https//www.tensorflow.org/performance/xla/

然后阅读本文:https//www.tensorflow.org/performance/xla/jit

特别注意XLA不包含在我们的二进制分布中; 你必须从源头构建。请注意,在运行时必须选择“启用XLA” ./configure才能启用XLA支持。

一旦你这样做,Yaroslav Bulatov的建议是正确的; 你可以自己构建二进制文件,或者通过bazel运行测试。

扫码关注云+社区

领取腾讯云代金券