大模型
dev.to ·
@The Homelab Postmortem
Ollama会丢弃不在tools列表中的工具调用并返回空回复
作者在Ollama 0.40.8、CPU、qwen3:0.6b环境中复现:当模型调用不在请求tools列表中的函数(如lookup_order)时,Ollama会丢弃该调用,回复既无content也无tool_calls,但eval_count为25,说明token已生成后被丢弃;8次全部复现。直接生成同一提示可得到该函数调用JSON,把lookup_order加入tools后8次均正常返回。问题出在Ollama对无专用解析器模型(含qwen3库)使用的通用模板工具解析器,上游issue为ollama/ollama#19187。客户端规避方法是把模型可能调用的所有工具都列入tools。
AI推荐理由 文章给出可复现的Ollama缺陷:模型调用不在tools列表中的函数名时,Ollama丢弃该调用并返回空内容,但eval_count大于0;在Ollama 0.40.8与qwen3:0.6b上8次全部复现,并定位到通用模板工具解析器,附上游issue编号和客户端规避方法,对使用Ollama工具调用的开发者有直接价值。
78
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。