当我使用设备多: CPU运行推理时(在Python或wih benchmark_app上),我得到的推理时间与仅使用CPU的时间相同。对于两个Myriad设备,我也遇到了同样的问题:MULTI: Myriad 1,MYRIAD2 --我得到的结果与一个MYRIAD :MYRIAD相同。
你知道怎么解决这个问题吗?(谢谢你的帮助:)
发布于 2022-05-03 01:59:12
使用OpenVINO Hello查询设备示例枚举可用设备,以确保它们确实存在并且是可用的。
请注意,某些设备组合将导致性能警告,因为这些设备共享电源、带宽和其他资源。例如,在组合CPU和GPU时,建议启用GPU节流(这将为CPU推断保存另一个CPU线程)。
你有同样的推断时间的原因可能是因为程序落在了可用的设备上,最终结果是相同的。例如:对于CPU + using,程序可能无法检测到存在无数(或者它实际上是不可用的),因此它使用CPU执行。
这可能会有帮助。
https://stackoverflow.com/questions/72087447
复制相似问题