在EDge TPU USB上运行分类推理，每次不需要重新加载模型
在EDge TPU USB上运行分类推理，每次不需要重新加载模型
提问于 2020-03-02 21:37:23
我对张量流/边缘TPU的使用非常陌生。虽然我使用classify_image.py脚本运行图像分类，但它在Edge TPU USB模块上的性能非常差，因为它总是加载模型并重新启动设备(您可以看到Win10设备管理器在每次运行脚本时都会重新安装它)。有没有办法运行python脚本，将图像与USB加密狗中最后加载的模型进行分类，从而避免3-5秒的设备配置时间？
回答 1
Stack Overflow用户
发布于 2020-09-14 11:47:40
通常，您应该首先加载模型并存储它。然后，当您使用它进行调用时，您只需要分配张量，然后将输入传递给它。你可以让你的脚本在while循环中等待你的输入(即通过websocket发送，...或加载目录)。但是根据我所看到的，你将不得不自己加载图像到模型中，所以真的很难将TPU的固定部分分配给你的模型。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/60490009
复制相关文章
相似问题
腾讯云开发者
