智谱GLM-5.1修复工具调用Bug,更新对话模板
智谱AI官方近日发布技术公告,提醒使用vLLM或SGLang框架部署GLM-5.1系列模型的开发者注意一个关键问题。当进行工具调用时,这些框架会自动将纯文本格式的工具消息内容转换为数组格式(`[{"type": "text", "text": "..."}]`),而原版对话模板仅支持字符串格式的工具内容,导致数组格式的工具输出无法正确渲染,模型接收不到工具返回结果,从而陷入重复调用同一工具的循环。
该问题影响所有通过vLLM或SGLang部署的GLM-5.1系列变体模型。智谱AI已提供简易修复方案:开发者只需将现有的`chat_template.jinja`文件替换为官方仓库中的更新版本即可解决此问题。此次更新确保了工具调用功能的正常运作,避免了因格式不匹配导致的无响应循环,提升了GLM-5.1在复杂任务中的稳定性和可靠性。