本文主要是介绍Ollama(docker)+ Open Webui(docker)+Comfyui,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
Windows 系统可以安装docker desktop 相对比较好用一点,其他的应该也可以
比如rancher desktop podman desktop 安装需要windows WSL
安装ollama docker
docker run -d --gpus=all -v D:\ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
这里需要注意一下
下载模型
docker exec -it ollama ollama run gemma:7b 可以下载相应的模型
docker exec -it ollama ollama run llama3 类似的命令下载不同的模型
验证ollama运行的情况
安装Open WebUI docker
本机上上安装了Ollama,可以使用以下命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
接着就是打开Open WebUI
关联ollama 以及大模型
设置和ComfyUI 关联
http://host.docker.internal:8188
上面的地址别搞错了
回到大模型
可以聊天,可以画画
画画可以选择如下
这篇关于Ollama(docker)+ Open Webui(docker)+Comfyui的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!