本文主要是介绍Ollama Qwen2 支持 Function Calling，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
默认 Ollama 中的 Qwen2 模型不支持 Function Calling，使用默认 Qwen2，Ollama 会报错。本文将根据官方模板对 ChatTemplate 进行改进，使得Qwen2 支持 Tools，支持函数调用。
Ollama 会检查对话模板中是否存在 Tools，如果不存在就会报错，下面的代码是 Ollama 解析模板的代码。
Ollama 3.1 是支持 Tools 的，可以看到模板中定义了 Tools。
修改 Qwen2 配置并创建新的模型，首先我们定义一个 Ollama 模型文件，创建文件 qwen_tools。
FROM qwen2:7b# set the temperature to 0.7 [higher is more creative, lower is more coherent]
PARAMETER temperature 0.7
PARAMETER top_p 0.8
PARAMETER repeat_penalty 1.05
TEMPLATE """{{ if .Messages }}
{{- if or .System .Tools }}<|im_start|>system
{{ .System }}
{{- if .Tools }}# ToolsYou are provided with function signatures within <tools></tools> XML tags. You may call one or more functions to assist with the user query. Don't make assumptions about what values to plug into functions. Here are the available tools:
<tools>{{- range .Tools }}{{ .Function }}{{- end }}</tools>For each function call, return a JSON object with function name and arguments within <tool_call></tool_call> XML tags as follows:
<tool_call>
{"name": <function-name>, "arguments": <args-json-object>}
</tool_call>{{- end }}<|im_end|>{{- end }}
{{- range .Messages }}
{{- if eq .Role "user" }}
<|im_start|>{{ .Role }}
{{ .Content }}<|im_end|>
{{- else if eq .Role "assistant" }}
<|im_start|>{{ .Role }}
{{- if .Content }}
{{ .Content }}
{{- end }}
{{- if .ToolCalls }}
<tool_call>
{{ range .ToolCalls }}{"name": "{{ .Function.Name }}", "arguments": {{ .Function.Arguments }}}
{{ end }}</tool_call>
{{- end }}<|im_end|>
{{- else if eq .Role "tool" }}
<|im_start|>user
<tool_response>
{{ .Content }}
</tool_response><|im_end|>
{{- end }}
{{- end }}
<|im_start|>assistant
{{ else }}{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ end }}
"""构建模型
ollama create qwen2tools --file ./qwen_tools
测试模型
总结
现在的模型都是支持 Tools，在 Ollama 中使用我们需要对 Template 配置，配置好 Tools 后，就可以通过 Ollama 直接进行函数调用了。
这篇关于Ollama Qwen2 支持 Function Calling的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
