蓝耘元生代MaaS平台API升级：单用户TPM与RPM性能跃迁

蓝耘元生代MaaS平台现已完成对DeepSeek等系列大语言及多模态模型API的新一轮升级，依托硬件架构革新与软件算法深度优化，各模型在TPM、RPM、响应时间等核心指标上均实现性能突破，同时支持128K上下文长度，进一步满足开发者对长上下文场景及参数配置灵活性的需求，为开发者与企业用户带来更流畅的交互速度与更全面的性能提升，打造体验升级的AI模型服务。

1

.

推理性能跃升

单用户TPM突破1500万参数规模，模型响应更敏捷高效，可轻松应对海量文本的实时生成与处理需求，即使在高并发场景下仍能保持流畅交互体验。以Qwen2.5-72B-Instruct推理模型为例，其单用户TPM指标高达1500万，较行业主流MaaS平台性能提升超2倍。在大规模文档生成、实时数据标注、多轮对话系统等场景中，可实现高密度Token流处理，突破传统模型在海量文本处理中的性能瓶颈。

实际生产环境TPM监测图

2

.

多用户高并发实时处理性能优化

单用户RPM表现提升至1000次，大幅增强模型服务稳定性，显著优化交互流畅度，可轻松应对多用户同时调用的高并发场景，保障大规模业务需求下的实时响应与高效处理，精准适配在线服务平台、实时数据交互系统、多用户协同平台等高并发业务场景下的实际应用需求。

实际生产环境RPM监测图

3

.

秒级响应，流畅交互

平台模型以突出的低延迟响应能力，打造极致交互体验。面对128K超长Token的复杂推理场景，平均响应时间低至5秒，即便在语音对话、实时翻译等对延迟敏感的场景中，也能实现人机交互的无缝衔接，解决用户体验中的“卡顿”困扰。

4

.

超长上下文处理，赋能深度推理

支持处理高达128K的超大上下文规模，基于此可实现更深度的逻辑推演与更详实的内容生成。其中，Qwen2.5-72B-Instruct推理模型支持128K最大上下文，DeepSeek系列模型支持64K最大上下文，能够充分适配代码工程开发、智能体系统搭建等高强度推理场景的实际应用需求。

术语解释：

TPM（Tokens Per Minute）：即大模型在每分钟内能够处理的Token数量，是衡量模型推理速度（Inference Throughput）的关键指标,TPM越高模型生成文本的速度越快。例如，TPM30万表示每分钟可处理30万个Token（约合50万个汉字）。

RPM（Requests Per Minute）：指大模型服务在每分钟内能够响应的用户请求数量，是衡量系统的并发处理能力（Concurrency）的指标。例如，API RPM值为100表示每分钟可处理100次单用户调用。

最大上下文长度（Context Length）：包括用户输入长度+思维链长度+输出长度的最大内容长度。

蓝耘元生代MaaS平台面向企业开发者、创业者及非技术用户，提供开箱即用的热门AI模型服务，覆盖DeepSeek、通义千问、MiniMax等多种大语言模型与多模态模型，支持零代码体验、API快速集成与灵活计费，协同海量算力资源与强大的系统支撑，致力于推动AI大模型技术的普及与应用。

扫码体验