高效验证,安全可证明
AICC 提供技术验证平台与配套测试工具,支持您对安全推理全链路进行验证并输出审计日志报告,可用于内部合规审查,并为外部机构调查沟通提供技术材料。
全链路验证:验证范围覆盖数据传输、密态推理与结果返回各环节,验证过程与结果以报告形式留存,便于按需调取。
远程证明:每次推理前返回芯片级远程证明报告,用于核验推理环境的硬件、固件与代码完整性;运行期间持续采集环境度量信息并与基线比对。
密钥与凭据可核对:支持自带密钥(Bring Your Own Key,BYOK)与密钥管理系统(Key Management System,KMS)托管,会话密钥在推理任务结束后自动销毁,密钥的生成、使用与销毁时机均可核对。
审计日志记录留存:提供调用日志与操作记录查询能力,为合规审查提供过程性材料。
适配信创,支持国产化算力
AICC 的安全能力基于可信执行环境(Trusted Execution Environment,TEE)与可信平台模块(Trusted Platform Module,TPM)构建,与具体加速卡型解耦。国产加速卡与 NVIDIA 生态的加速卡均可纳入统一的可信集群,为有国产化要求的场景提供算力选择空间。
卡型解耦:安全能力不绑定特定卡型,无需关注底层卡型差异;算力资源可在统一算力池中调度。
国产化算力:支持以国产加速卡承载机密推理服务,适用于国产化场景要求。
供应链风险控制:算力来源不依赖单一供应商,可降低因未知供应链风险带来的业务连续性隐患。
统一运维口径:不同卡型的可信集群在创建、变更与删除流程上保持一致,不因卡型差异引入额外的运维流程。
便捷接入,低性能损耗
AICC 提供安全代理接入模式,您可在业务侧部署 AICC Proxy,并将模型调用地址(BaseURL)指向该代理,无需修改业务代码即可接入机密计算环境,远程证明与端到端加密均由代理自动完成。已覆盖多种模型即服务(Model as a Service,MaaS),并原生集成于高性能应用服务 HAI、Tokenhub、TI-ONE、WorkBuddy 等产品。通过硬件加速及异步验证策略,将对业务延时的影响控制在较低水平,兼顾推理吞吐与并发能力。
双模接入:同时提供安全代理与 SDK 两种接入方式。安全代理适用于不便修改业务代码的存量应用;SDK 适用于需要在客户端集成端到端加密能力的新建应用。
已集成场景:覆盖 MaaS 模型调用与智能体应用等场景,相关产品可在既有调用链路中直接启用机密推理能力。
性能开销控制:通过硬件加速与异步验证策略,将安全能力引入的额外开销控制在较低水平,在启用机密计算的同时兼顾推理延时与并发能力。
协议兼容:兼容 OpenAI 与 Anthropic 协议,现有应用可使用标准接口发起调用,降低改造过程中的适配工作量。
成本优化,减少重资产投入
AICC 采用全托管形态,安全更新、密钥轮转与远程证明由云端自动完成,您无需进行高额硬件和运维投入。
减少硬件投入:无需采购专用服务器、建设机房及配套制冷供电,即可使用具备机密计算能力的推理算力。
减少运维投入:安全更新、密钥轮转、远程证明等运维工作由平台承担,减少针对可信计算场景的运维投入。
模型更新不受本地环境限制:使用云端模型能力,减少因本地环境资源受限导致的模型更新滞后。