【书生3.6】MindSearch 快速部署

2024-08-30 19:04

本文主要是介绍【书生3.6】MindSearch 快速部署,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

MindSearch 快速部署

    • 1 环境准备
    • 2 获取apikey
    • 3 启动MindSearch
      • 3.1 启动后端
      • 3.2 启动前端
      • 3.3 测试使用
    • 4 部署到HuggingFace Space
      • 4.1 创建space
      • 4.2 配置secret
      • 4.3 创建写权限的token
      • 4.4 创建本地仓库
      • 4.5 提交-推送
    • 5 测试验证

  • codespace主页:一个线上服务器。
  • 硅基流动:类似百川、通义这种线上文生文、文生图
  • HuggingFace Space: 提供了一个易于使用的GUI,用于构建和部署Web 托管的ML 演示及应用。 该服务使得用户可以快速构建ML 演示、上传要托管的自有应用,甚至即时部署多个预配置的ML 应用。

需要有github、hugging、 硅基流动账号

1 环境准备

打开codespace主页;需要有github账号

在这里插入图片描述

创建conda虚拟环境

# 创建环境
conda create -n mindsearch python=3.10 -y# 这里需要先
conda init
# 然后关闭终端,重启才可以使用# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

注意conda init;然后关闭终端,重启才可以使用

在这里插入图片描述

2 获取apikey

注册硅基流动

在这里插入图片描述

3 启动MindSearch

3.1 启动后端

#export SILICON_API_KEY=sk-srirwcbmyttigyacoabutufvdkkgl
export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

3.2 启动前端

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

在这里插入图片描述

3.3 测试使用

在这里插入图片描述

4 部署到HuggingFace Space

4.1 创建space

在这里插入图片描述

在这里插入图片描述

4.2 配置secret

在这里插入图片描述

4.3 创建写权限的token

在这里插入图片描述

4.4 创建本地仓库

  • 回到codespace
  • 把要提交的文件先整理出来
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ mkdir -p /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ cd /workspaces/mindsearch
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ touch /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ vi /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cd /workspaces/mindsearch/mindsearch_deploy
  • 把huggingface上创建的库克隆下来(其实不用,直接对mindsearch_deploy设置git remote;本文仍按教程)
(base) @QiuZiXian ➜ /workspaces/mindsearch/mindsearch_deploy $ cd /workspaces/
(base) @QiuZiXian ➜ /workspaces $ ls
codespaces-blank  mindsearch
(base) @QiuZiXian ➜ /workspaces $ git clone https://huggingface.co/spaces/akufire/shusheng
# 把token挂到仓库上,让自己有写权限
git remote set-url space https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>
# 先cd到本地库
cd shusheng
# 注意这里是origin;不是space
git remote set-url origin https://akufire:hf_kcIiPgowyUbfXOAfttBZmWbb@huggingface.co/spaces/akufire/shusheng
# 注意-r
cp -r /workspaces/mindsearch/mindsearch_deploy/* .

4.5 提交-推送

git add .
git commit -m "update"
git push

在这里插入图片描述

5 测试验证

回到huggingface space:https://huggingface.co/spaces/akufire/shusheng

在这里插入图片描述

这篇关于【书生3.6】MindSearch 快速部署的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1121673

相关文章

python管理工具之conda安装部署及使用详解

《python管理工具之conda安装部署及使用详解》这篇文章详细介绍了如何安装和使用conda来管理Python环境,它涵盖了从安装部署、镜像源配置到具体的conda使用方法,包括创建、激活、安装包... 目录pytpshheraerUhon管理工具:conda部署+使用一、安装部署1、 下载2、 安装3

k8s部署MongDB全过程

《k8s部署MongDB全过程》文章介绍了如何在Kubernetes集群中部署MongoDB,包括环境准备、创建Secret、创建服务和Deployment,并通过Robo3T工具测试连接... 目录一、环境准备1.1 环境说明1.2 创建 namespace1.3 创建mongdb账号/密码二、创建Sec

Java中的Opencv简介与开发环境部署方法

《Java中的Opencv简介与开发环境部署方法》OpenCV是一个开源的计算机视觉和图像处理库,提供了丰富的图像处理算法和工具,它支持多种图像处理和计算机视觉算法,可以用于物体识别与跟踪、图像分割与... 目录1.Opencv简介Opencv的应用2.Java使用OpenCV进行图像操作opencv安装j

将Python应用部署到生产环境的小技巧分享

《将Python应用部署到生产环境的小技巧分享》文章主要讲述了在将Python应用程序部署到生产环境之前,需要进行的准备工作和最佳实践,包括心态调整、代码审查、测试覆盖率提升、配置文件优化、日志记录完... 目录部署前夜:从开发到生产的心理准备与检查清单环境搭建:打造稳固的应用运行平台自动化流水线:让部署像

Python项目打包部署到服务器的实现

《Python项目打包部署到服务器的实现》本文主要介绍了PyCharm和Ubuntu服务器部署Python项目,包括打包、上传、安装和设置自启动服务的步骤,具有一定的参考价值,感兴趣的可以了解一下... 目录一、准备工作二、项目打包三、部署到服务器四、设置服务自启动一、准备工作开发环境:本文以PyChar

shell脚本快速检查192.168.1网段ip是否在用的方法

《shell脚本快速检查192.168.1网段ip是否在用的方法》该Shell脚本通过并发ping命令检查192.168.1网段中哪些IP地址正在使用,脚本定义了网络段、超时时间和并行扫描数量,并使用... 目录脚本:检查 192.168.1 网段 IP 是否在用脚本说明使用方法示例输出优化建议总结检查 1

centos7基于keepalived+nginx部署k8s1.26.0高可用集群

《centos7基于keepalived+nginx部署k8s1.26.0高可用集群》Kubernetes是一个开源的容器编排平台,用于自动化地部署、扩展和管理容器化应用程序,在生产环境中,为了确保集... 目录一、初始化(所有节点都执行)二、安装containerd(所有节点都执行)三、安装docker-

在Ubuntu上部署SpringBoot应用的操作步骤

《在Ubuntu上部署SpringBoot应用的操作步骤》随着云计算和容器化技术的普及,Linux服务器已成为部署Web应用程序的主流平台之一,Java作为一种跨平台的编程语言,具有广泛的应用场景,本... 目录一、部署准备二、安装 Java 环境1. 安装 JDK2. 验证 Java 安装三、安装 mys

Rust中的Option枚举快速入门教程

《Rust中的Option枚举快速入门教程》Rust中的Option枚举用于表示可能不存在的值,提供了多种方法来处理这些值,避免了空指针异常,文章介绍了Option的定义、常见方法、使用场景以及注意事... 目录引言Option介绍Option的常见方法Option使用场景场景一:函数返回可能不存在的值场景

Jenkins中自动化部署Spring Boot项目的全过程

《Jenkins中自动化部署SpringBoot项目的全过程》:本文主要介绍如何使用Jenkins从Git仓库拉取SpringBoot项目并进行自动化部署,通过配置Jenkins任务,实现项目的... 目录准备工作启动 Jenkins配置 Jenkins创建及配置任务源码管理构建触发器构建构建后操作构建任务