Docker在DockerCon上推出GenAI Stack和AI Assistant

译自 Docker Launches GenAI Stack and AI Assistant at DockerCon 。

Docker 为开发者提供了两种利用 AI 的方式：一个是可以用来构建的生成式 AI 模块堆栈，另一个是可以帮助 Docker 部署的 AI 机器人助手。

Docker 在上周的 DockerCon大会上发布了两款新的人工智能解决方案：一个是生成式AI模块组件堆栈，可以帮助开发者开始创建自己的AI应用程序；另一个是Docker AI，旨在帮助开发者部署和优化Docker本身。

Docker CEO Scott Johnston表示，这是第一个为像Docker这样的产品本身提供AI能力的解决方案，而Docker平台本身经常被用来构建流行的AI工具，比如Hugging Face和Replicate等。许多项目通过Docker容器公开接口给社区，并要求社区成员以Docker容器镜像的形式向服务提交模型。

Johnston对The New Stack表示："容器镜像是所谓的不可变的，这意味着结果是可复制的。当你进行建模、科学分析时，你希望能重复获得结果，不管是哪个同事在操作，也不管是什么情况。所以容器镜像的不变性对此真的很有帮助。"

他补充说，Docker多年来一直与上游社区合作，为AI/ML活动和应用提供可信任的镜像。

他说："随着对这类技术的兴趣增加，近几年我们看到相关镜像的下载量飙升。我们看到社区下载这些镜像，进行调整和优化，然后再打包成Docker容器共享给其他人，主要通过Docker Hub。"

Docker Hub是Docker的公共镜像注册表服务。目前该平台上已经有500多种AI相关镜像被共享，他补充说。

回答社区的问题

Johnston表示，Docker社区经常询问如何开始使用AI/ML技术。

Johnston说:"我们经常听开发者社区问:'我该如何开始?可以用哪些技术?这些技术安全吗?'"

在本周三的DockerCon大会主题演讲时，Docker通过发布GenAI Stack来回答这个问题。GenAI Stack结合了来自Docker及合作伙伴Neo4j、LangChain和Llama的技术和工具。这是一个预配置的解决方案，其中Llama提供大语言模型，Neo4j提供向量和图数据库，LangChain提供框架。

他说:"我们定义了一个GenAI Stack，它解决生成式AI中最常见的用例，将这些技术打包成Docker容器，然后在外面加上Docker Compose的编排。开发者不必到处搜罗代码和资源，也不需要自己拼装和配置。一切准备就绪，可以直接使用。"

开发者可以在5分钟内开始，看到工作的效果并进行迭代，他表示。

另一个增长型产品

周三发布的第二个产品是Docker AI，这是一个生成式对话机器人，旨在帮助用户使用Docker。它通过训练Docker的Compose文件和Docker产品与工具中的错误代码库，Johnston说。没有涉及任何客户数据，他补充说。

虽然GitHub Copilot等代码补全型AI解决了应用程序的10%到15%需求，但应用程序通常还需要数据库、Web服务器、前端和基础镜像等其他组件。

Johnston表示，Docker已经通过提供容器镜像和Docker Compose文件来定义应用程序源代码周围的这些其它组件，约占应用的剩余85-90%。因此，Docker AI可以视为补充代码补全型AI，通过解决剩余85-90%的需求实现互补。

他说："Docker已经提供容器镜像、Docker文件和Compose文件来定义应用源代码周围的其他组件。这为我们提供了一个绝佳的机会，用一个覆盖剩余85%需求的AI助手来增强像Copilot和Ghostwriter等代码补全型AI。"

该AI助手旨在融入开发者的工作流程，帮助他们解决可能打断工作流的问题或错误，他进一步表示。它可以集成到Visual Studio Code和JetBrains的IDE中。

他形容该助手“不应被视为替代人类，而更像是增强人类能力的机甲”。它可以帮助开发者保持流畅的工作状态，不断迭代和构建，而不必跳出去查找第三方资源。

该AI助手目前通过Docker早期访问计划开放申请。