幻方量化旗下大模型厂商DeepSeek采用硬盘缓存技术
经济观察网讯 据幻方量化微信公众号8月2日消息，其探索AGI（通用人工智能）的新组织“深度求索（DeepSeek）”启用上下文硬盘缓存技术，把预计未来会重复使用的内容，缓存在分布式的硬盘阵列中。在大模型API的使用场景中，如果输入存在重复，则重复的部分只需要从缓存读取，无需计算。缓存命中的部分，DeepSeek费用为0.1元每百万tokens。(实习记者 张丽莹 编辑 李仕静)
- 发表于:
- 原文链接：https://page.om.qq.com/page/O9tmSo6znC8WdSD74GgaQlsA0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
