首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >在服务器上用ollama部署我的模型之后,效果差距很大是为什么?

在服务器上用ollama部署我的模型之后,效果差距很大是为什么?

提问于 2025-05-30 13:00:05
回答 0关注 0查看 45

我在服务器上用ollama部署了我自己训的模型,但效果差距很大。原本训好的模型回答应该会有<think>和<answer>两部分,但我把模型转成gguf格式部署之后,模型回答根本没有这种思考+回答的格式了

原模型回答样式
原模型回答样式
ollama部署的gguf格式模型回答样式
ollama部署的gguf格式模型回答样式

想问问有没有大佬知道是什么原因。

而且ollama部署到模型老是在回答开头要扣一个问号,是template的原因吗

回答

和开发者交流更多问题细节吧,去 写回答
相关文章

相似问题

相关问答用户
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档