这是我第一次部署模型。我使用tensorflow,keras,Xception创建了一个cnn模型,保存的模型大约是80MB。当我从一个函数中加载它并进行预测时,大约需要4-5秒。有没有办法减少这段时间?是否必须为每个预测加载模型?
发布于 2021-03-01 16:36:31
模型在您的程序中只加载一次。对于每个预测,您都使用加载的模型。这可能需要时间来预测。TensorFlow不会在预测时加载模型。更好的方法是在训练后只保存权重,并为推理创建模型体系结构,然后加载保存的权重。
https://stackoverflow.com/questions/66418351
复制相似问题