服务于TorchScript模型的Triton推理服务器
服务于TorchScript模型的Triton推理服务器
提问于 2020-11-26 02:35:41
我正在尝试使用triton (tensorRT)推理服务器为TorchScript模型提供服务。但每次启动服务器时，它都会抛出以下错误：
PytorchStreamReader failed reading zip archive: failed finding central directory我的文件夹结构是：
<model_repository>
<model_name>
config.pbtxt
<1>
<model.pt>我的config.pbtxt文件是：
name: "model"
platform: "pytorch_libtorch"
max_batch_size: 1
input[
{
name: "INPUT__0"
data_type: TYPE_FP32
dims: [-1,3,-1,-1]
}
]
output:[
{
name: "OUTPUT__0"
data_type: TYPE_FP32
dims: [-1,1,-1,-1]
}
]回答 1
Stack Overflow用户
发布于 2020-11-27 20:21:22
我找到了解决方案。这是我犯的一个愚蠢的错误。.pt torchscript文件未正确加载。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/65010792
复制相关文章
相似问题
腾讯云开发者
