我在服务器上用ollama部署了我自己训的模型,但效果差距很大。原本训好的模型回答应该会有<think>和<answer>两部分,但我把模型转成gguf格式部署之后,模型回答根本没有这种思考+回答的格式了
想问问有没有大佬知道是什么原因。
而且ollama部署到模型老是在回答开头要扣一个问号,是template的原因吗
相似问题