首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
首页标签大模型部署

#大模型部署

在服务器上用ollama部署我的模型之后,效果差距很大是为什么?

腾讯云的哪些产品都应用了什么大模型?

腾讯云知识引擎:混元大模型、DeepSeek-R1 ——企业知识问答、客服系统优化 腾讯元宝 :混元T1、DeepSeek-R1 —— 智能办公、代码生成 腾讯会议AI小助手:混元大模型 ——会议记录、实时问答 腾讯广告妙思平台:混元大模型——AI广告创意生成 腾讯健康:混元、DeepSeek-R1——医疗报告生成、用药建议... 展开详请

通过腾讯云私有化部署deepseek大模型,java调用方式?

腾讯云开发者社区

腾讯云 | 产品运营 (已认证)

腾讯云开发者社区官方账号
腾讯云部署DeepSeek大模型及Java调用方案 1. 部署DeepSeek大模型 腾讯云提供以下方式部署DeepSeek模型: 云应用快速部署:支持DeepSeek-R1推理模型,部署后依赖云资源(如云服务器、HAI算力)按实际消耗计费,参考文档:https://cloud.tencent.com/document/product/1689/115961。 大模型知识引擎:新建DeepSeek应用目前免费,后续可能收费,参考文档:https://cloud.tencent.com/document/product/1759/106152。 TI-ONE训练平台:可部署DeepSeek系列模型(如DeepSeek-V3、DeepSeek-R1),支持API调用。参考文档:https://cloud.tencent.com/document/product/851/115962 2. Java调用方案 通过 腾讯云大模型知识引擎 提供的API调用DeepSeek模型: 获取API地址(如[DeepSeekAPI](https://cloud.tencent.com/document/product/1772/115963)[3]),使用Java HTTP客户端(如OkHttp、Apache HttpClient)发送请求。 示例代码(伪代码): // 使用HTTP POST请求调用API String apiUrl = "YOUR_DEEPSEEK_API_ENDPOINT"; String requestBody = "{\"prompt\":\"你的输入文本\"}"; // 发送请求并处理响应 3. 计费说明 云应用/云服务器:按小时计费,关机后仅收磁盘费用。 大模型知识引擎:当前免费,后续可能收费。 TI-ONE平台:未明确提及,建议查看。 4. 本地模型部署到腾讯云 TI-ONE训练平台支持自定义模型部署,可将本地训练的模型上传至平台并部署。 需参考TI平台文档完成模型格式转换和部署流程。... 展开详请
腾讯云部署DeepSeek大模型及Java调用方案 1. 部署DeepSeek大模型 腾讯云提供以下方式部署DeepSeek模型: 云应用快速部署:支持DeepSeek-R1推理模型,部署后依赖云资源(如云服务器、HAI算力)按实际消耗计费,参考文档:https://cloud.tencent.com/document/product/1689/115961。 大模型知识引擎:新建DeepSeek应用目前免费,后续可能收费,参考文档:https://cloud.tencent.com/document/product/1759/106152。 TI-ONE训练平台:可部署DeepSeek系列模型(如DeepSeek-V3、DeepSeek-R1),支持API调用。参考文档:https://cloud.tencent.com/document/product/851/115962 2. Java调用方案 通过 腾讯云大模型知识引擎 提供的API调用DeepSeek模型: 获取API地址(如[DeepSeekAPI](https://cloud.tencent.com/document/product/1772/115963)[3]),使用Java HTTP客户端(如OkHttp、Apache HttpClient)发送请求。 示例代码(伪代码): // 使用HTTP POST请求调用API String apiUrl = "YOUR_DEEPSEEK_API_ENDPOINT"; String requestBody = "{\"prompt\":\"你的输入文本\"}"; // 发送请求并处理响应 3. 计费说明 云应用/云服务器:按小时计费,关机后仅收磁盘费用。 大模型知识引擎:当前免费,后续可能收费。 TI-ONE平台:未明确提及,建议查看。 4. 本地模型部署到腾讯云 TI-ONE训练平台支持自定义模型部署,可将本地训练的模型上传至平台并部署。 需参考TI平台文档完成模型格式转换和部署流程。

TIONE部署deepseekAPI上传文件接口调用?

目前腾讯云有哪些产品支持部署ds?怎么选择决策?

LucianaiB

腾讯云TDP | 宣传大使 (已认证)

总有人间一两风,填我十万八千梦。
您可以根据需求选择不同的部署方案,如Cloud Studio适合快速体验,TI平台适合企业级服务,具体请参考腾讯云官方文档以获取详细部署教程:[腾讯云大模型部署指南](https://cloud.tencent.com/document/product/1759/116005)。回答不易,如果对您有帮助的话,可以帮忙采纳一下。谢谢。... 展开详请
领券