我已经在VertexAI中部署了一个自定义容器,它运行良好,但是现在我想更新我的模型和端点。我已经将我的Docker映像的新版本推到了Artifact,我原以为这个最新版本会自动连接到VertexAI,但是很明显,VertexAI仍然在使用我的旧版本。
如何在VertexAI中自动更新模型,而无需每次发布新版本并更改Docker映像时创建新的模型和端点?
发布于 2022-01-28 19:44:53
可以有多个模型运行到一个端点,如将多个模型部署到同一个端点的原因中所述。
关于模型独特的名字,它是顶点ai的本质。您只能拥有唯一的模型ID,如有关数据模型和资源的文档所示。
关于Docker映像事件,我认为没有这样的内置功能,但作为解决办法,您可以使用笔记本实现类似的功能,因为您可以在代码块开始时使用!在笔记本上运行命令,例如:
! gcloud version关于管道和自定义作业,可以找到最新的示例这里。
发布于 2022-02-21 18:31:49
我的处境和最初的发问者很相似。我有一个使用docker_image:latest进行培训的定制容器模型。当将docker_image:latest重新部署到GCR时,在更改图像的预测API之后,然后将模型重新部署到顶点端点,这些更改不会反映在预测API响应中。
这使我感到有一个内部的VertexAI容器注册中心,它在模型训练和创建之后存储模型的映像。然后,在部署或与模型对象交互时,您要从内部注册中心(而不是在代码更改后推送到的GCR注册中心)中提取。
很长一段时间以来,我不相信在不重建VertexAI模型对象的情况下,对模型的对接者形象的任何方面都没有任何改变的方法,这需要再培训。这似乎是一个相当大的限制,我希望我错了,或者发布了一些东西来对独立于VertexAI模型对象的预测容器进行更改。
https://stackoverflow.com/questions/70833206
复制相似问题