什么是 TC-AICC 可信计算(AICC)?
TC-AICC 可信计算(Artificial Intelligence Confidential Computing,AICC)是腾讯云提供的大模型机密推理服务。它基于可信执行环境(TEE),让您的业务数据和模型在计算过程中也保持加密状态,权限范围外都无法读取,实现“数据可用不可见”。
已完成传输加密和存储加密,为什么还需要 AICC?
数据加密通常覆盖两个状态:存储态,即数据写入磁盘时加密;传输态,即数据在网络传输过程中加密。数据进入内存与显存参与计算时,需要还原为明文,这一环节缺少对应的保护手段,通常称为使用态。
大模型推理将提示词、业务数据、检索命中的文档、多轮会话上下文以及模型权重等内容放在使用态参与计算。AICC 覆盖的正是这一环节,在经验证的可信处理边界内解密和使用。
AICC 与自建私有化 GPU 集群有什么区别?
私有化部署需要自行建设机房或采购整套图形处理器(Graphics Processing Unit,GPU)集群,承担硬件折旧,自行完成运维与安全加固,并跟进模型迭代节奏。
AICC 在公有云的弹性、成本与模型迭代能力之上提供机密推理能力,适用于既需要使用新上线的模型、又需要对计算过程的数据加以保护的业务。
AICC 支持哪些大模型?
AICC 已覆盖主流开源与商业模型的多个版本,并支持上传自有模型部署。
由于模型迭代较快,完整的支持清单请以实际开通展示为准。AICC 作为可信推理底座能力,与模型本身解耦,新模型的适配随平台模型的上线节奏同步推进。如您有特定模型的适配需求,可通过商务渠道提出。
AICC 支持多卡异构算力吗?
支持。AICC 可覆盖国产算力与主流 GPU,业务侧无需关注底层卡型差异。具体可用的卡型与规格,以实际开通展示为准。
AICC 的算力集群是专有集群吗?
是。AICC 所使用的算力集群为专有集群,与公共云集群物理隔离,用户之间为租户级隔离。承载您推理任务的物理机不与普通公有云业务负载共用。