本文主要是介绍【书生3.6】MindSearch 快速部署,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
MindSearch 快速部署
- 1 环境准备
- 2 获取apikey
- 3 启动MindSearch
- 3.1 启动后端
- 3.2 启动前端
- 3.3 测试使用
- 4 部署到HuggingFace Space
- 4.1 创建space
- 4.2 配置secret
- 4.3 创建写权限的token
- 4.4 创建本地仓库
- 4.5 提交-推送
- 5 测试验证
- codespace主页:一个线上服务器。
- 硅基流动:类似百川、通义这种线上文生文、文生图
- HuggingFace Space: 提供了一个易于使用的GUI,用于构建和部署Web 托管的ML 演示及应用。 该服务使得用户可以快速构建ML 演示、上传要托管的自有应用,甚至即时部署多个预配置的ML 应用。
需要有github、hugging、 硅基流动账号
1 环境准备
打开codespace主页;需要有github账号
创建conda虚拟环境
# 创建环境
conda create -n mindsearch python=3.10 -y# 这里需要先
conda init
# 然后关闭终端,重启才可以使用# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt
注意conda init;然后关闭终端,重启才可以使用
2 获取apikey
注册硅基流动
3 启动MindSearch
3.1 启动后端
#export SILICON_API_KEY=sk-srirwcbmyttigyacoabutufvdkkgl
export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch
3.2 启动前端
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py
3.3 测试使用
4 部署到HuggingFace Space
4.1 创建space
4.2 配置secret
4.3 创建写权限的token
4.4 创建本地仓库
- 回到codespace
- 把要提交的文件先整理出来
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ mkdir -p /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ cd /workspaces/mindsearch
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ touch /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ vi /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cd /workspaces/mindsearch/mindsearch_deploy
- 把huggingface上创建的库克隆下来(其实不用,直接对mindsearch_deploy设置git remote;本文仍按教程)
(base) @QiuZiXian ➜ /workspaces/mindsearch/mindsearch_deploy $ cd /workspaces/
(base) @QiuZiXian ➜ /workspaces $ ls
codespaces-blank mindsearch
(base) @QiuZiXian ➜ /workspaces $ git clone https://huggingface.co/spaces/akufire/shusheng
# 把token挂到仓库上,让自己有写权限
git remote set-url space https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>
# 先cd到本地库
cd shusheng
# 注意这里是origin;不是space
git remote set-url origin https://akufire:hf_kcIiPgowyUbfXOAfttBZmWbb@huggingface.co/spaces/akufire/shusheng
# 注意-r
cp -r /workspaces/mindsearch/mindsearch_deploy/* .
4.5 提交-推送
git add .
git commit -m "update"
git push
5 测试验证
回到huggingface space:https://huggingface.co/spaces/akufire/shusheng
这篇关于【书生3.6】MindSearch 快速部署的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!