
> 一篇写给非技术管理者的智能体即服务（AaaS）说明
> 梅西爱骑车 · 2026 年 11 月

---

## 一、先讲清楚一件事：过去二十年，我们买的东西变了三次

大概率都听过 IaaS、PaaS、SaaS 这三个词。它们听起来很术，其实说的是一件特别朴素的事：**同样是用计算机干活，你到底要自己操心多少。**

我们用"吃饭"来打比方。

### 第一次变化：IaaS —— 租一块地和一间毛坯房

以前企业要上信息系统，得自己买服务器、租机房、拉专线、配空调和 UPS 电源，还要养一支运维队伍日夜看着。

云出现以后，这些不用买了，改成租。阿里云、华为云把机房建好，你按小时租几台"虚拟服务器"，水电网络都通好了。

**这就是 IaaS（基础设施即服务）——租毛坯房。** 房子不漏雨、不断电，但里面是空的。灶台、桌椅、锅碗瓢盆，你还得自己置办；饭怎么做，更是你自己的事。

它解决的是"**不用盖房子**"，没解决"**不用做饭**"。

### 第二次变化：PaaS —— 租一间精装的共享厨房

后来发现，每家企业租了毛坯房，都在重复干同样的事：装数据库、装运行环境、配负载均衡、搭发布流程。这些活儿又累又不产生业务价值。

于是云厂商把厨房也装修好了：灶台通着气、排烟开着、水电到位、洗碗机备着。你只需要带上自己的菜谱和厨师，进来就能炒。

**这就是 PaaS（平台即服务）——租精装共享厨房。** 你不用管灶具怎么维护，只管把菜做出来。

它解决的是"**不用装修厨房**"，但"**菜谱和厨师还得你自己有**"。

### 第三次变化：SaaS —— 直接下馆子

再后来，连菜都不用自己做了。你要报销，买一套现成的报销系统；你要管客户，买一套现成的 CRM。打开浏览器登录就能用，按人头按年付钱。

**这就是 SaaS（软件即服务）——下馆子点菜。** 菜单是固定的，做法是标准的，你只管点。

它解决的是"**不用做饭**"，代价是"**只能吃菜单上有的**"。你们公司那套独特的审批流程、那套用了二十年的老系统，馆子里没有这道菜。

### 一张表看懂

| | 你租到的是 | 比喻 | 你还得自己干什么 | 谁最省心 |
|---|---|---|---|---|
| **IaaS** | 虚拟服务器、存储、网络 | 毛坯房 | 装系统、装软件、写应用、运维 | 最累 |
| **PaaS** | 现成的运行环境和中间件 | 精装共享厨房 | 写应用、定流程 | 中等 |
| **SaaS** | 开箱即用的成品软件 | 下馆子 | 适应它的标准流程 | 最省心，但最不灵活 |

**这三次变化有一条共同的主线：把"重复的、不产生业务价值的脏活累活"从企业身上剥离出去，交给专业的人干。**

现在，这条主线走到了第四步。

---

## 二、为什么 AI 时代需要第四层：因为我们要交付的东西变了

### 大模型 API 不是"饭"，是"面粉"

2023 年以来，很多企业接了大模型 API。但接完发现一个尴尬的事实：**它很聪明，但它不干完活。**

你问它"帮我出昨天的生产日报"，它会给你一段文字，告诉你日报应该怎么写。它不会自己去数据库取数、不会自己算同比环比、不会自己生成一份 Word 文档、更不会自己发到董事长的钉钉上。

这就像你买了一批顶级面粉，但厨房里没有人。**面粉再好，也变不成饭。**

行业里把卖面粉这叫 MaaS（模型即服务）。它是必要的原料供应，但离"能干活"还差一整间厨房和一个厨师团队。

### 智能体是什么：一个能被交代任务的员工

智能体（Agent）补上的正是这一段。它和传统软件的根本区别，一句话就能说清：

> **传统软件是"你点一下，它动一下"；智能体是"你交代一句，它自己跑完"。**

一个合格的智能体员工，得具备五样东西。我们还是用人来类比：

| 要素 | 对应到人 | 少了会怎样 |
|---|---|---|
| **会思考的脑子** | 判断力、专业能力 | 答非所问，胡编乱造 |
| **会干活的手** | 能操作工具、能查系统 | 只会说不会做，纸上谈兵 |
| **记得事的记忆** | 记得住上下文和历史经验 | 每次都要从头交代，越用越累 |
| **干活的流程** | 知道先做什么后做什么 | 复杂任务半途而废 |
| **守得住的规矩** | 知道什么能碰什么不能碰 | 捅娄子，删库、泄密、乱花钱 |

**这五样凑齐，才叫"能雇"。凑不齐，就只是个聊天窗口。**

### 于是交付物变了，商业模式也跟着变

这是本节最重要的一句话，请领导们记住：

> **云计算前三层交付的是"能力"，AaaS 交付的是"劳动力"。**

交付物变了，计价方式必然跟着变：

- 卖软件的时代，按**席位**收钱（多少人用）
- 卖云资源的时代，按**用量**收钱（多少核多少 G）
- 卖智能体的时代，按**任务**收钱（干了多少活、干成了多少）

这不是文字游戏。它意味着我们和客户的合同标的，从"一套系统"变成"一支随时待命、可考核、可追责的数字员工队伍"。

---

## 三、AaaS 的五层货架

讲完概念，落到我们自己 AaaS 平台，本质上就是**把上面那五样东西做成了可交付、可托管、可管住的服务**。
![image.png](https://developer.qcloudimg.com/http-save/yehe-6962301/345ec72243a4b4a50b552d5c96a33f0d.png)
我按"从地基到门面"的顺序讲，每一层都对应前面那个比喻。

### 第 1 层：地基 —— 我们自己造的"毛坯房"（对应 IaaS）

智能体要跑起来，得有算力、有运行环境、有部署方式。这一层我们做了三件事：

- **容器化交付**：标准 Docker 镜像，多架构构建，一条命令拉起整套平台
- **桌面化交付**：Windows / macOS 安装包，业务人员双击就能用，不需要 IT 部门介入
- **本地模型运行时**：内置 Flash 系列小模型（2B / 4B / 9B），**不需要 API Key、不依赖外网**就能跑

第三条对政企客户尤其关键。它意味着：**在完全物理隔离的内网里，这套东西照样能干活。** 数据不出厂，不是承诺，是架构决定的。

### 第 2 层：厨房 —— 现成的能力车间（对应 PaaS）

这一层是"不用重复造轮子"的部分：

 - **大模型训推平台**：提供大模型与多模态大模型微调部署框架，现已支持600+大模型与200+多模态大模型的训练（预训练、微调、人类对齐）、推理、评测、量化与部署。其中大模型包括：Qwen3、Qwen3-MoE、Qwen2.5、InternLM3、GLM4.5、Mistral、DeepSeek-R1、Yi1.5、TeleChat2、Baichuan2、Gemma2等模型，多模态大模型包括：Qwen2.5-VL、Qwen2-Audio、Llama4、Llava、InternVL3、MiniCPM-V-4、Ovis2.5、GLM4v、Xcomposer2.5、Yi-VL、DeepSeek-VL2、Phi3.5-Vision、GOT-OCR2等模型。
除此之外，训推平台汇集了最新的训练技术，包括LoRA、QLoRA、Llama-Pro、LongLoRA、GaLore、Q-GaLore、LoRA+、LISA、DoRA、FourierFt、ReFT、UnSloth、和Liger等轻量化训练技术，以及DPO、GRPO、RM、PPO、GKD、KTO、CPO、SimPO、ORPO等人类对齐训练方法。
- **统一模型路由**：接了 14 家以上云端模型供应商，同时支持 Ollama、LM Studio 等本地推理。上层应用不用关心底下用的是哪家模型，换模型不改代码
- **三层记忆系统**：实时对话上下文 + 完整逐字历史 + 由 ReMe 驱动的自进化知识库。对话和资料会自动沉淀成**可读、可编辑、可检索、相互链接的 Markdown 记忆**——这一点很重要，记忆不是黑盒，业务人员能打开看、能动手改
- **工具接入三条路**：平台内置工具、MCP 协议接外部系统、标准 HTTP 接口接企业老系统。**用了二十年的老 ERP，只要有接口，就能变成智能体手里的一件工具**
- **插件市场 + App 小程序平台**：一个插件同时带前端界面和后端服务，装上用，不用改主程序
- **多智能体隔离**：每个 Agent 有独立工作区，互不串数据，支持热重载

### 第 3 层：菜谱 —— 可视化编排车间（这是 AaaS 的核心）

前面两层业界都有。**真正拉开差距的是这一层：让不懂代码的业务人员，自己把流程画出来。**

 使用AFD（Agent Flow Designer，智能体流程设计器）。它是一块拖拽画布，六种积木：

| 积木 | 干什么 | 大白话 |
|---|---|---|
| **开始** | 接收任务和参数 | 活儿从这儿进来 |
| **智能体** | 调用大模型思考、生成 | 让"脑子"干活 |
| **工具** | 调平台能力 / MCP / 企业 HTTP 接口 | 让"手"干活 |
| **路由** | 按条件走不同分支 | 遇到岔路口怎么选 |
| **询问** | 暂停下来等人回答 | **拿不准的事，先问人** |
| **结束** | 输出结果 | 活儿交出去 |

但画出来只是第一步。**一套流程要能当成"服务"卖出去，必须管得住它的生老病死。** 这块我们做了完整的生命周期：

```
编辑态  ──发布──▶  发布态（版本快照）  ──部署──▶  部署态（对外服务）
  ▲                      │
  └──────  回滚 ◀────────┘
```

- **编辑态**：草稿随便改，改坏了不影响线上
- **发布门禁**：发布前静态校验。引用了不存在的变量、输出类型对不上、重试配置非法——**直接拦下，不许发布**
- **版本快照**：发布即冻结一份完整快照，线上跑的永远是这份快照，不是草稿
- **一键回滚**：新版本出问题，退回上一个已发布版本
- **流式执行**：结果一个字一个字往外吐，用户不用干等
- **人工介入（HITL）**：走到"询问"节点自动暂停，人回答后从原地继续，**不用重跑**
- **节点级超时 + 重试 + 指数退避**：某个环节卡住或抖动，自动重试，等待时间逐次拉长，不会把下游打爆
- **执行历史**：每一次运行的轨迹、输入输出、状态全部留痕，可查可取消

**这一层的意义在于：它把"AI 能不能干活"这个技术问题，变成了"流程能不能管住"这个管理问题。** 而后者，是领导们熟悉的领域。

### 第 4 层：食堂 —— 多租户托管（对应 SaaS 的运营方式）

一套平台要服务多个客户、多个部门，就得解决"各吃各的、互不影响"。这是个**可自托管的多用户控制平面**：

- **租户台账**：数据库里有独立的租户表、用户表（区分管理员和普通用户）、运行时表（记录每个运行时归哪个租户、哪个用户）
- **一租户一运行时**：每个租户分到独立的运行实例，可选 Docker 容器隔离或进程级隔离。**不是共享一个进程里分分权限，是物理上就分开**
- **凭证隔离**：租户密钥单独存放
- **访问防护**：IP 黑白名单、按动作限流、只信任显式配置的反向代理

翻译成大白话：**我们能把这套东西开成一家"食堂"，每个单位有自己的包间、自己的厨房、自己的钥匙，共用一栋楼但互不打扰。**

### 第 5 层：门面 —— 全渠道可达

智能体藏在服务器里没人用得起来。我们把它接到了员工每天都在的地方：

**钉钉、飞书、微信、企业微信、QQ、Telegram、Discord、Slack、Matrix、Mattermost** 等十余个渠道，外加 Web 控制台、命令行终端、桌面应用。

**一个实例，全渠道连接。** 在钉钉上发一句话，和在网页上点一个按钮，触发的是同一套已部署的流程。

### 贯穿五层的一根钢筋：管得住

这一条不属于任何一层，但每一层都有它：

- **工具守卫策略**：每次工具调用前做判定，四种结果——放行 / 拒绝 / **问人** / 落进沙箱。系统内置的保护规则，**智能体自己改不了**
- **内核级沙箱**：Windows AppContainer、Linux bubblewrap、macOS 沙箱分别落地。危险命令在执行前就被拦下，不是执行后再补救
- **全量审计**：每次判定写入独立审计库，可按工作区、Agent、工具、决策结果、时间段查询
- **凭证不落盘**：编排里的工具节点**只存环境变量的名字，不存密钥本身**，且强制命名空间前缀。流程图被人导出去，也拿不到一把钥匙
- **用量计量**：Token 消耗按轮次统计入库，为按量结算打下数据基础

---

## 四、走一遍真实场景：一份生产日报是怎么自己出来的

抽象讲完了，我们跟着一份日报走一遍。假设客户是一家能源集团。

**早上 7:55，调度中心主任在钉钉里发了一句：**"出一下昨天的生产日报。"

接下来发生的事：

1. **门面接单**：钉钉渠道适配器收到消息，识别出这是要触发一条已部署的流程
2. **调取快照**：系统加载的是**上个月发布并通过校验的那个版本**，不是谁昨天改了一半的草稿
3. **取数**：工具节点调用集团生产系统的 HTTP 接口，拉昨日产量、能耗、设备停机记录。凭证从环境变量取，流程图里看不到密钥
4. **算账**：智能体节点做同比环比、标出异常项。这一步某个接口超时了——**节点自动重试，等待时间翻倍，第三次成功**，整条流程没有中断
5. **问人**：走到"询问"节点，流程暂停。系统把"3 号机组能耗异常偏高 12%，是否计入考核口径？"推给主任。**主任回一句"计入"，流程从原地继续**，前面四步不用重跑
6. **成文**：生成 Word 日报，含图表和异常说明
7. **交付**：推回钉钉，同时归档到知识库
8. **留痕**：整条执行轨迹入库。三天后审计问"这个数怎么来的"，能一键调出当时的输入、输出和每一次工具调用的判定记录

**请注意第 2、4、5、8 步。** 这四步不是"AI 很聪明"，而是"**这套服务可承诺、可追责**"。

这正是 AaaS 和"接个大模型 API"的本质区别：**前者能对结果负责，后者只能对生成负责。**

---

## 五、这对我们的生意意味着什么

技术讲完，讲领导们最关心的部分。

### 1. 从"卖项目"到"卖能力"

过去做一个客户一套定制，人力堆上去，毛利被交付吃掉。现在：**编排能力、工具接入、记忆、治理这些通用件建一次，所有客户复用**；每个客户不同的只是画布上那张流程图。

这就是 PaaS 当年对软件行业的改造，正在智能体行业重演。

### 2. 从"卖软件"到"卖服务"

软件卖出去就是一锤子买卖。服务是持续的：托管要收钱、运行要收钱、维护要收钱。我们已有租户体系和用量计量，**具备了按运行时长、按任务量结算的数据地基**。

### 3. 从"交付即结束"到"持续运营"

版本快照、发布门禁、一键回滚、全量审计——这四样东西合起来，让我们**第一次有底气对客户承诺 SLA**（服务等级协议）。因为线上跑的是冻结的版本，出问题能退回去，每一步能查清楚。

没有这四样，所谓"智能体服务"只是演示。

### 4. 私有化 + 信创，是我们对政企客户最硬的一张牌

公有云上的智能体服务再好用，也进不了很多单位的内网。我们的架构从地基那层就支持完全离线：**本地模型运行时 + 容器化私有部署 + 数据不出厂**。

这不是加分项，这是**准入资格**。

---

## 六、诚实的边界：哪些我们还没做到

一份只讲好处的材料是不可信的。以下是现状的真实短板，写在这里是为了让决策建立在准确信息上。

| 事项 | 现状 | 影响 |
|---|---|---|
| **单进程内的细粒度多租户** | 主应用鉴权是单用户设计；多租户"一租户一运行时"实现 | 隔离强度够，但资源密度低，小规模租户成本偏高 |
| **计费闭环** | Token 用量已统计入库，**尚无账单、配额扣费、超额熔断** | 能算清用了多少，还不能自动收钱 |
| **可观测性** | 已接 Langfuse 做链路追踪，**缺完整的指标看板与 SLA 报表** | 能查单次问题，难做整体健康度运营 |


**结论是清醒的：我们已经建成了 AaaS 的"生产车间"和"托管底座"，但"收银台"还没建完。**

前者决定能不能干活，后者决定能不能规模化收钱。这是下一阶段投入的重点。

---

## 七、一句话总结

> **IaaS 让我们不用盖房子，PaaS 让我们不用装修厨房，SaaS 让我们不用做饭。**
> **AaaS 让我们不用雇人——你交代的是一件事，收回来的是一份做完的活。**



**地基（私有化部署）、厨房（模型路由 + 记忆 + 工具接入）、菜谱（可视化编排 + 版本治理）、食堂（多租户托管）、门面（全渠道可达）——五层货架已经摆满，钢筋（安全治理）已经贯穿。**

**下一步，是把营业厅和收银台建起来，让这支数字员工队伍，真正变成一门可以规模化的生意。**

---

*本文所有能力描述均可在 AI中台 v2.2.x 代码中逐条溯源。*

一篇写给非技术管理者的智能体即服务（AaaS）说明 梅西爱骑车 · 2026 年 11 月

AI中台和Agent as a Service：从"买机器"到"雇员工"

AI中台是企业级人工智能能力的中心或基础设施平台。AI中台可被视为基于IaaS的人工智能PaaS平台，其核心目标是打通算法开发、训练、发布各环节，形成自动化流程与AI的DevOps闭环，通常包含IaaS层、PaaS层、SaaS层和我们今天阐述的AaaS层。

人工智能

云计算

架构设计

AaaS（智能体即服务）将云计算从交付“能力”升级为交付“劳动力”，让企业以按任务计费方式获得可考核、可追责的数字员工队伍。本文详解其五层架构：私有化部署地基、模型路由与记忆系统、可视化编排流程、多租户托管及全渠道接入，并通过真实日报生成场景展示其可承诺的服务闭环，助力非技术管理者快速理解并抓住AI落地商机。

虚拟服务器

负载均衡

中间件

数据库

服务器

公有云

Windows

Docker

容器

路由

Linux

IaaS

PaaS

SaaS

腾讯云双十一大促

timatrix

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

AI中台和Agent as a Service：从"买机器"到"雇员工"-腾讯云开发者社区-腾讯云

AI中台和Agent as a Service：从"买机器"到"雇员工"

AI中台和Agent as a Service：从"买机器"到"雇员工"

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐