本文主要是介绍Win11 本地部署大模型 WebUI + ComfyUI，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 Web 用户界面（WebUI），它被设计用于完全离线操作。该项目最初被称为 Ollama WebUI，后来更名为 Open WebUI。Open WebUI 的主要目的是为本地的大语言模型（LLMs）提供一个图形化的交互界面，使得用户能够更加方便地调试和调用本地模型，它不仅支持本地模型，还兼容 Ollama 和 OpenAI 的 API，同时也支持远程服务器上的模型
win11 本地源码安装 Open WebUI
git clone https://github.com/open-webui/open-webui.git
cd open-webuicopy .env.example .env# 编译前端
npm install
npm run build# 进入服务端文件夹
cd .\backend# 可选: 通过 Conda 虚拟环境安装
conda create --name open-webui-env
conda activate open-webui-envpip install -r requirements.txt -U# 执行启动脚本 cd .\backend
start_windows.bat
修改运行参数(.env)：
OLLAMA_BASE_URL='http://localhost:11434'
OPENAI_API_BASE_URL='https://domain.com/v1' # 可从接口查询可用模型
OPENAI_API_KEY='sk-0lkurGuwZAg4T61oB00cD944Ec'
支持的大模型
https://ollama.com/library
通过 WebUI 下载模型
直接搜索并下载
在这里插入图片描述
或打开管理员面板搜索安装：
通过 ollama 下载模型
- 下载安装 Ollama：win11 安装包下载地址：https://ollama.com/download
- 运行大模型
ollama run llama3.1：8b
- 刷新 webui 页面可以在列表中找到该模型
集成 SD 图像生成
需已安装
stable-diffusion-webui
# 设置 sd 以 api 服务方式运行
set COMMANDLINE_ARGS=--xformers --enable-insecure-extension-access --nowebui --api --api-auth admin:1212 --listen --port 7860
- 首先，编写图像生成提示词，让文本生成模型原样回复
- 完成后，您可以单击回复下方的图标来生成图像
- 在图像完成生成后，可在聊天中查看
推荐 sd 插件
git clone https://github.com/AlUlkesh/stable-diffusion-webui-images-browser extensions/stable-diffusion-webui-images-browser
git clone https://github.com/butaixianran/Stable-Diffusion-Webui-Civitai-Helper extensions/Stable-Diffusion-Webui-Civitai-Helper
https://github.com/Mikubill/sd-webui-controlnet
ComfyUI 安装
- 下载源码安装依赖
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI.git
/path-to-python10 -m venv venv
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu121
pip install -r requirements.txt
- 修改运行参数参数，设置复用 stable-diffusion-webui 目录中的模型：
# 在 ComfyUI 根目录中
copy extra_model_paths.yaml.example extra_model_paths.yaml
指定 sd 文件夹路径：
base_path: path/to/stable-diffusion-webui/
- 安装 ComfyUI-Manager
cd custom_nodes
git clone --depth=1 https://github.com/ltdrdata/ComfyUI-Manager.git
- 启动：
python ./main.py
问题：NumPy 2 报错，版本降级：
pip uninstall numpy
pip install numpy<2
参考
https://github.com/open-webui/open-webui
https://github.com/comfyanonymous/ComfyUI
欢迎合作
如果这篇文章对您有所帮助，欢迎点赞、分享和留言，让更多的人受益。感谢您的细心阅读，如果发现了任何错误或需要补充的地方，请随时告诉我，我会尽快处理
^_^
这篇关于Win11 本地部署大模型 WebUI + ComfyUI的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
