【专家说】刘俊强：AI新时代-云原生PaaS如何成为智能应用发展的核心引擎

作者：刘俊强

腾讯专有云产品总监、云原生领域产品专家

在云原生AI、FinOps、应用现代化等领域具备深厚的产品设计经验与行业前瞻视野，现负责腾讯专有云PaaS平台（Tencent Cloud-native Suite, 简称 TCS ）的产品设计与演进，致力于推动企业级客户的云原生转型与AI创新实践。

导读： 人工智能技术正从单点工具迈向以大语言模型为“大脑”、智能体为“手脚”、模型上下文协议为“连接网络”的系统化协同新阶段。面对AI应用复杂度的激增，云原生 PaaS 平台凭借弹性伸缩、微服务架构等核心能力，成为支撑智能应用发展的核心引擎。它通过提升资源效率、简化开发运维、增强系统可靠性、保障安全合规及加速技术集成，为金融机构实现AI应用的高效落地与创新突破。

在刚刚闭幕的 2025 金融街论坛年会金融科技大会上，基于腾讯专有云 PaaS 平台的 AI 异构算力管理平台凭借卓越的技术创新性和场景落地能力，荣获金融科技应用场景大赛 “十佳应用奖” 。

当前，人工智能技术正以前所未有的速度发展，其应用范式已从单点工具的使用，迈向以大语言模型（LLM）为“大脑” 、智能体（Agent）为“手脚” 、并通过模型上下文协议（MCP）这一“标准网络”连接万千工具与数据源的系统化协同新阶段，深刻重塑着各行各业的运作模式。下面这个表格清晰地勾勒出这一技术融合的核心架构与价值：

面对AI应用复杂度的指数级增长，传统的应用开发和部署模式已难以满足需求。以AI智能体（Agent）开发从实验到生产的关键路径来说，主要面临四大核心挑战：状态管理难题、弹性伸缩需求、安全与授权复杂性、运维可观测性不足。

图1：典型智能体Agent工作流程

云原生PaaS平台凭借其弹性伸缩、持续交付、微服务架构等核心特性，正成为金融行业AI应用创新的理想引擎。它如同为AI应用量身定制的“智能车库”，不仅提供所需的工具和空间，更创造了协同创新的完整生态环境。

云原生PaaS：智能时代的创新引擎

云原生PaaS平台在AI应用中的优势主要体现在它通过一系列云原生技术，将AI开发从依赖单一GPU硬件的模式，转变为一种更高效、更灵活、成本更可控的系统工程方法。主要体现在以下方面：

提升资源利用与成本效率

AI工作负载（尤其是训练任务）对计算资源的需求波动大，传统静态分配GPU的方式易导致资源闲置。云原生PaaS平台通过以下方式精准应对：

• 动态资源调度与弹性伸缩：平台利用容器化技术（如Kubernetes），能够根据AI训练或推理任务的实时负载，自动分配和释放CPU、GPU等计算资源。这意味着在任务高峰时能快速扩展资源，空闲时则立即回收，避免了昂贵的GPU资源长期闲置，从而显著降低基础设施成本。同时结合离在线混部技术，可以更进一步将算力资源有效利用。
• 细粒度资源管理：支持GPU共享和动态资源分配（DRA）等先进技术，允许将一块物理GPU虚拟化，供多个AI任务同时使用。这极大地提升了昂贵硬件资源的利用率，尤其适合中小规模的模型微调和推理场景。

图 2：云原生 AI 整体架构

简化AI应用开发与运维

AI模型的开发、训练、部署和监控流程复杂，智能体Agent开发依赖相关服务，例如模型服务、运行时、记忆能力，云原生PaaS提供了一站式解决方案，大幅降低技术门槛和运维负担：

• 开箱即用的PaaS平台：平台提供从数据准备、模型训练、评估、优化到部署的全生命周期管理工具，以及智能体Agent等AI应用开发所需要的PaaS服务，例如容器运行时、向量数据库等。
• 自动化运维与可观测性：集成CI/CD流水线，实现AI应用的自动化测试和部署。同时，通过Prometheus、OpenTelemetry等云原生可观测工具，提供对AI应用性能、资源消耗和模型效果的全方位监控能力，确保系统稳定运行。
• 系统化管理模型：通过模型注册中心来系统化管理模型版本助力MLOps理念落地，实现模型资产化、云原生AI运维、保障生产环境稳定性。

增强应用弹性与可靠性

AI应用需要应对突发流量并保证高可用性，云原生架构天然具备这些特性：

• 微服务与容器化：将AI应用拆分为多个微服务（如数据预处理、模型推理、API服务、单个智能体）并分别容器化。这样，单个组件的故障不会影响整个应用，且每个服务可以独立扩展，提升了系统的容错能力和可靠性。
• 高可用设计：云原生PaaS平台通常内置负载均衡、PaaS服务高可用能力、自动故障恢复等机制，能够确保AI应用在部分节点失效时仍能持续提供服务，满足企业级应用对稳定性的高要求。

管好 AI 应用的安全大门

随着AI应用的井喷式发展，AI模型和智能体（Agent）数量呈指数级增长。当这些AI应用进入生产环境，安全就成为至关重要的话题：

• 身份管理与安全隔离：为AI应用建立严格的身份管理与最小权限机制，杜绝其在系统内部“自由漫游”。通过Kubernetes NetworkPolicy等工具实施网络边界控制，确保Agent仅可访问经授权的工具API，防止越权操作。
• 多代理协作与协议标准化：依托AI网关与服务注册中心，支持MCP、A2A等标准协议，实现对智能体南北向、东西向通信的集中治理。平台需原生支持长任务、流式响应、Token限流、Prompt防注入、敏感信息检测等关键安全场景。

加速技术集成与生态融合

云原生PaaS平台作为一个集成层，有效连接了底层的异构算力与上层的AI应用生态：

• 兼容多元算力和模型：平台能够纳管多种国产GPU、NPU等算力平台，并兼容适配主流开源大模型。这种“多云多模型”的兼容性避免了厂商锁定，赋予金融机构更大的灵活性和选择空间。例如，腾讯专有云PaaS平台就提供异构算力的统一纳管，帮助金融机构降低算力管理成本。
• 构建AI智能体（Agent）生态：通过AI网关、MCP注册中心，帮助各类不同AI智能体（Agent）能够以生产级别提供AI应用服务。

图 3：具有多个工具的智能体Agent示例

如上所述，云原生PaaS平台为AI应用带来的核心价值是工程效率的质变。它使得金融机构能够像管理普通软件应用一样，去高效、经济、可靠地管理复杂的AI工作负载，从而真正将AI技术转化为业务生产力。

未来展望：云原生PaaS的智能化演进

随着人工智能与云计算技术的深度融合，云原生PaaS平台正朝着更加智能、自适应和一体化的方向演进。未来的PaaS平台将不再仅仅是资源管理和应用部署的支撑工具，而逐渐成长为能够主动参与业务创新的合作伙伴。这种演进将主要体现在以下几个维度：

AI原生设计将成为云原生PaaS的核心特征

未来的PaaS平台将从架构层面深度集成AI能力，使其成为平台的内在属性而非外部扩展。这意味着平台将提供内建的智能服务，如自动代码生成、智能故障诊断、弹性资源调整等。这些能力将使得平台能够“理解”应用需求，“预测”运行问题，并“主动”优化性能。这种原生智能将大幅提升开发效率和系统可靠性。

智能资源调度将实现从“被动分配”到“主动优化”的转变

通过融合机器学习算法，PaaS平台能够根据工作负载特征、资源利用模式和业务优先级，动态调整资源分配策略。例如，平台可以学习到特定AI模型在一天中不同时间段的调用规律，并提前准备相应计算资源，实现“预测性伸缩”。此外，平台还可以通过强化学习技术，不断优化多工作负载下的资源分配效率，最大化整体资源利用率。这些能力对于成本敏感的企业环境尤为重要。

MCP协议标准化将推动工具生态的繁荣发展

模型上下文协议作为AI系统的“连接器”，其标准化将催生丰富的工具市场。未来的云原生PaaS平台可能会内置MCP服务器功能，提供统一的工具接入和管理能力。金融机构可以像在应用商店下载App一样，轻松发现、安装和配置各种专业工具，并将其无缝集成到AI Agent的能力集中。这种生态化发展模式将极大丰富平台的功能覆盖面，满足金融行业的特定需求。

边缘-云协同计算将成为支持广泛AI场景的关键架构

随着AI应用场景的多样化，许多场景需要在靠近数据源的边缘位置进行实时处理。未来的云原生PaaS平台将提供统一的边缘-云协同框架，实现工作负载在边缘设备和云端之间的无缝迁移和协同。例如，在智能网点与客服场景中，可以在网点边缘设备上进行实时处理，同时在云端进行模型更新和数据分析。这种分布式架构既保证了实时性，又利用云端强大的计算能力支持复杂分析任务。

智能体集群协作将开启复杂问题解决的新范式

未来的云原生PaaS平台将提供专门的支持多智能体系统的编排和管理能力。这些平台能够管理智能体之间的通信、协调和合作，实现“群体智能”。这种群体智能范式将使得AI系统能够应对更加复杂和动态的环境挑战，实现更高层次的业务目标。

从更广阔的视角看，云原生PaaS平台的智能化演进将推动整个社会数字化转型进入新阶段。当AI能力变得像电力一样随处可得、随需所用时，创新门槛将大幅降低，各行各业都将能够利用这些能力解决自身特定问题。这种普惠化的AI赋能，将催生新一轮创新浪潮，为经济发展注入新动能。

迈向智能化的未来

我们正站在一个技术变革的历史交汇点。人工智能技术范式的转变与云原生技术的成熟，共同为各行业数字化转型开辟了新路径。云原生PaaS平台作为连接技术创新与业务应用的关键枢纽，正日益展现出其作为AI时代“创新引擎”的价值。

未来属于那些能够巧妙利用云原生PaaS平台，将AI能力与业务场景深度结合的组织。他们不仅能够提升运营效率，更可能重塑业务模式，开创全新市场。正如我们在金融、制造业、医疗等领域看到的成功案例，AI与云原生的结合正在释放前所未有的创新潜力。

随着技术的不断演进，我们有理由相信，云原生PaaS平台将更加智能、开放和普惠，为更广泛的组织和个体提供创造未来的工具和能力。在这个过程中，持续学习、积极尝试和开放合作将是把握时代机遇的关键。智能化未来的大门已经开启，而云原生PaaS正成为通往这片新天地的重要桥梁。

END

关注腾讯专有云公众号，了解更多云与 AI 应用的最佳实践！