> 系列：AI 网关从 0 到 1 · 第 1 篇  
> 环境：Docker 24+ / 任意 Linux 或 Windows 本机 / 浏览器  
> 结果：一个 Base URL、一个 key，调用多个国产模型

## 这篇适合谁

-   电脑上装了 Docker，但没搭过 AI 网关
-   手里有两三个模型的 key，每次换模型都要改代码
-   想把 key 收在一处，不想让业务代码里到处是 sk-

## 做完你会得到什么

```bash
一个地址：http://你的IP:3000
一个 key：sk-xxxxxxxx
多个模型：qwen / deepseek / kimi 随便切
```

**不装数据库、不写代码、不改配置文件。** 全程 6 步，每步都有验收标准。

## 先看这张验收表

| 步骤 | 做完的标志 |
| --- | --- |
| 1 起容器 | 浏览器能打开后台登录页 |
| 2 改密码 | 用新密码登录成功 |
| 3 加渠道 | 渠道列表显示「已启用」 |
| 4 建令牌 | 复制到一串 sk- 开头的 key |
| 5 发请求 | 返回一段正常的模型回复 |
| 6 加第二个模型 | 同一个 key 能调两个模型 |

任何一步没过，先别往下走。后面的步骤都依赖前一步。

---

## 第 1 步：起容器

在服务器或本机执行：

```bash
docker run --name new-api -d --restart always \
  -p 3000:3000 \
  -e TZ=Asia/Shanghai \
  -v ./data:/data \
  calciumion/new-api:latest
```

三个参数的含义：

-   `-p 3000:3000`：把容器端口映射出来，浏览器访问 3000
-   `-v ./data:/data`：数据存在当前目录的 `data` 文件夹。**这个目录就是你的全部数据，备份就拷它**
-   `-e TZ=Asia/Shanghai`：时区，不然日志时间是 UTC

### 验收

```bash
curl -s http://localhost:3000/api/status
```

返回里能看到 `"success":true` 就算起来了。

浏览器打开 `http://你的IP:3000`，能看到登录页即可。

### 这一步最常见的两个失败

**端口被占用。** 报 `port is already allocated`，把 `-p 3000:3000` 改成 `-p 3001:3000`，后面地址也跟着改成 3001。

**打不开页面。** 先在服务器上 `curl localhost:3000`。本机能通、外面不通，是防火墙或安全组没放行 3000，不是程序的问题。

---

## 第 2 步：登录，第一件事改密码

首次启动时，程序会自动创建一个管理员账号：

```bash
用户名：root
密码：123456
```

登录后立刻改掉。默认密码 + 公网 IP 是最常见的被扫入口。

### 验收

退出，用新密码重新登录一次。登不进去说明密码没保存成功，别继续。

> 如果这台机器要放到公网，改完密码还不够。后面第 7 步会说反向代理和 HTTPS，先别急着暴露。

---

## 第 3 步：加一个渠道

**渠道 = 一个上游供应商的地址 + 一把 key + 一组模型。**

进后台的「渠道」页面，新增一个：

| 字段 | 填什么 |
| --- | --- |
| 类型 | 选你上游对应的类型，或 OpenAI 兼容 |
| 名称 | 自己看得懂就行，比如 `qwen-主力` |
| Base URL | 上游控制台给的地址，**注意要不要带 `/v1`** |
| 密钥 | 上游的 API Key |
| 模型 | 上游文档里的真实模型 ID，多个用换行分隔 |
| 分组 | 先填 `default` |

两个容易填错的地方：

**Base URL 的 `/v1`。** 有的上游要求填到 `/v1`，有的不要求，填错就是 404。以供应商文档为准，不要凭感觉补。

**模型列表填真实 ID。** 这一步不要自创名字。先用上游文档里的原始 ID，比如 `qwen3-max`、\`deepseek-chat\`、\`kimi-k3\`。自定义名字是下一步之后的事。

### 验收

渠道列表里状态是「已启用」，点测试按钮能通过。

如果测试失败，先看报错里的 HTTP 状态码：401 是 key 错，404 是地址或模型 ID 错，429 是额度或限流。

---

## 第 4 步：建一枚令牌

进「令牌」页面，新建：

| 字段 | 填什么 |
| --- | --- |
| 名称 | `本地测试` |
| 分组 | `default`，**必须和渠道分组一致** |
| 额度 | 先给一个够测试的数 |
| 模型限制 | 第一次先留空，跑通再收紧 |

### 验收

创建后复制出完整的 key，形如 `sk-xxxxxxxxxxxxxxxx`。这串东西只显示一次，先存到记事本。

> 分组这里是最容易卡住的地方：**令牌分组和渠道分组必须对上**。令牌是 `default`、渠道只在 `vip`，请求会直接被判「无可用渠道」，跟模型名一点关系都没有。

---

## 第 5 步：发第一条请求

```bash
curl -i http://localhost:3000/v1/chat/completions \
  -H "Authorization: Bearer sk-xxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-max",
    "messages": [{"role": "user", "content": "用一句话介绍你自己"}],
    "stream": false
  }'
```

注意路径是 `/v1/chat/completions`，Base URL 只填到 `http://localhost:3000`。**两边都带 `/v1` 就会变成 `/v1/v1/...`，直接 404。**

### 验收

返回 JSON 里有 `choices[0].message.content`，内容是正常的中文回复。

到这一步，网关已经通了。后面都是锦上添花。

---

## 第 6 步：加第二个模型，验证「一个 key 调多个模型」

重复第 3 步，再加一个渠道（或者在同一渠道的模型列表里加一个模型），然后换 `model` 再请求一次：

```bash
curl -s http://localhost:3000/v1/chat/completions \
  -H "Authorization: Bearer sk-xxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{"model":"deepseek-chat","messages":[{"role":"user","content":"hi"}]}'
```

### 验收

同一个 key、同一个地址，只改 `model` 字段就能切换模型。

这就是网关的全部价值：**业务代码只认一个地址，模型在后面随便换。**

到这一步再考虑「自定义模型名」。比如对外统一叫 `my-qwen`，在渠道里配一条映射指到真实 ID。映射涉及三个模型名的对齐，是下一篇的主题，第一篇先不碰。

---

## 第 7 步（可选但建议）：别把 3000 裸奔在公网

最小可用不等于可以上线。三件事按顺序做：

1.  改掉默认密码（第 2 步已做）
2.  用 Nginx 或 Caddy 反代，套上 HTTPS
3.  安全组只放行 80/443，3000 只对本机开放

反代时记住一条：**转发路径不要重复加 `/v1`**，否则又回到第 5 步那个 404。

---

## 今天先别做的三件事

-   **别急着配模型映射。** 先用真实 ID 跑通，再引入自定义名，能把问题范围缩小一半。
-   **别急着接十个模型。** 两个跑通，再批量加。一次加十个，出错时你不知道是哪个。
-   **别把 key 贴在截图里。** 后台截图发之前，把 key、域名、IP 全部打码。

---

## 这一篇的 6 个验收点，回顾一下

六个都过了，你已经有了一套能用的多模型网关。

---

## 下一篇

《模型映射总是 404？先分清这三层，再改配置》

讲三件事：

-   为什么「配了映射还是 404」
-   请求名 / 渠道模型名 / 上游模型名，三个名字怎么对齐
-   8 步定位流程，照着走就能找到是哪一层

项目地址：[OpenStarry — 注册即赠200次免费调用 | 国产大模型 API 聚合中转 · GLM · DeepSeek · Kimi](https://api.openstarry.com/ "OpenStarry — 注册即赠200次免费调用 | 国产大模型 API 聚合中转 · GLM · DeepSeek · Kimi")

搭建过程中卡在哪一步，可以把「报错状态码 + 完整响应体 + 当前填的模型名」贴在评论区，我按这篇的 6 个验收点帮你对。

系列：AI 网关从 0 到 1 · 第 1 篇 环境：Docker 24+ / 任意 Linux 或 Windows 本机 / 浏览器 结果：一个 Base URL、一个 key，调用多个国产模型 这篇适合谁 电脑上装了 Docker，但没搭过 AI 网关 手里有两三个模型的 key，每次换模型都要改代码 想把 key 收在一处，不想让业务代码里到处是 sk- 做完你会得到什么 一个地址：http

AI 网关从 0 到 1（一）：20 分钟搭好，把 Qwen / DeepSeek / Kimi 收进一个接口

开发工具

人工智能

云计算

从零搭建AI网关：6步实现一个Key调用多模型。基于Docker快速部署，无需数据库和代码，支持Qwen、DeepSeek、Kimi等国产模型。包含容器启动、密码修改、渠道配置、令牌创建及API请求验证全流程，附可操作的验收标准和故障排查方法，助你统一管理API密钥，实现模型灵活切换。

数据库

服务器

防火墙

DeepSeek

Windows

容器

Docker

Linux

Nginx

JSON

热销域名限时优惠，新客首年免费！


domain

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

AI 网关从 0 到 1（一）：20 分钟搭好，把 Qwen / DeepSeek / Kimi 收进一个接口-腾讯云开发者社区-腾讯云

AI 网关从 0 到 1（一）：20 分钟搭好，把 Qwen / DeepSeek / Kimi 收进一个接口

AI 网关从 0 到 1（一）：20 分钟搭好，把 Qwen / DeepSeek / Kimi 收进一个接口

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐