有奖捉虫:办公协同&微信生态&物联网文档专题 HOT

模型包目录结构

原始模型包目录结构:
cos://bucket/train_models/mv-2302330437837096
├── model
│ ├── model.pth
└── requirements.txt
优化模型包目录结构(优化后的模型保存到模型仓库时,会在优化模型存储路径下生成 m-xxx/mv-xxx 文件夹,并在该文件夹下将原始模型包拷贝并生成新的优化模型文件 model/tiacc.pt):
cos://bucket/optimized_models_save/m-230233043/mv-2302330437837096
├── model
│ ├── model.pth
│ ├── tiacc.pt(TI平台模型优化自动生成的优化后的模型)
└── requirements.txt

model:存放模型的文件夹目录,该目录可以客户自己指定,但需要确保 model_service.py 可以正确加载;
model.pth:原始模型文件,名称可以客户自己指定,但需要确保 model_service.py 可以正确加载;
tiacc.pt:优化模型文件,使用 模型优化 功能 后会自动生成,如需要使用优化后的模型进行推理和服务部署,需要在 model_service.py 推理脚本里增加对该模型读取 load 的逻辑,可参考 推理脚本代码示例
requirements.txt:第三方依赖包,如推理脚本有第三方依赖可以放在 requirements.txt 文件内,如没有可直接忽略,容器服务启动前,会利用 pip 安装 requirements.txt 里面的第三方依赖。
其他:其他相关依赖文件,可以自由放置并打包上传。