【书生3.6】MindSearch 快速部署

2024-08-30 19:04

本文主要是介绍【书生3.6】MindSearch 快速部署,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

MindSearch 快速部署

    • 1 环境准备
    • 2 获取apikey
    • 3 启动MindSearch
      • 3.1 启动后端
      • 3.2 启动前端
      • 3.3 测试使用
    • 4 部署到HuggingFace Space
      • 4.1 创建space
      • 4.2 配置secret
      • 4.3 创建写权限的token
      • 4.4 创建本地仓库
      • 4.5 提交-推送
    • 5 测试验证

  • codespace主页:一个线上服务器。
  • 硅基流动:类似百川、通义这种线上文生文、文生图
  • HuggingFace Space: 提供了一个易于使用的GUI,用于构建和部署Web 托管的ML 演示及应用。 该服务使得用户可以快速构建ML 演示、上传要托管的自有应用,甚至即时部署多个预配置的ML 应用。

需要有github、hugging、 硅基流动账号

1 环境准备

打开codespace主页;需要有github账号

在这里插入图片描述

创建conda虚拟环境

# 创建环境
conda create -n mindsearch python=3.10 -y# 这里需要先
conda init
# 然后关闭终端,重启才可以使用# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

注意conda init;然后关闭终端,重启才可以使用

在这里插入图片描述

2 获取apikey

注册硅基流动

在这里插入图片描述

3 启动MindSearch

3.1 启动后端

#export SILICON_API_KEY=sk-srirwcbmyttigyacoabutufvdkkgl
export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

3.2 启动前端

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

在这里插入图片描述

3.3 测试使用

在这里插入图片描述

4 部署到HuggingFace Space

4.1 创建space

在这里插入图片描述

在这里插入图片描述

4.2 配置secret

在这里插入图片描述

4.3 创建写权限的token

在这里插入图片描述

4.4 创建本地仓库

  • 回到codespace
  • 把要提交的文件先整理出来
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ mkdir -p /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ cd /workspaces/mindsearch
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ touch /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ vi /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cd /workspaces/mindsearch/mindsearch_deploy
  • 把huggingface上创建的库克隆下来(其实不用,直接对mindsearch_deploy设置git remote;本文仍按教程)
(base) @QiuZiXian ➜ /workspaces/mindsearch/mindsearch_deploy $ cd /workspaces/
(base) @QiuZiXian ➜ /workspaces $ ls
codespaces-blank  mindsearch
(base) @QiuZiXian ➜ /workspaces $ git clone https://huggingface.co/spaces/akufire/shusheng
# 把token挂到仓库上,让自己有写权限
git remote set-url space https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>
# 先cd到本地库
cd shusheng
# 注意这里是origin;不是space
git remote set-url origin https://akufire:hf_kcIiPgowyUbfXOAfttBZmWbb@huggingface.co/spaces/akufire/shusheng
# 注意-r
cp -r /workspaces/mindsearch/mindsearch_deploy/* .

4.5 提交-推送

git add .
git commit -m "update"
git push

在这里插入图片描述

5 测试验证

回到huggingface space:https://huggingface.co/spaces/akufire/shusheng

在这里插入图片描述

这篇关于【书生3.6】MindSearch 快速部署的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1121673

相关文章

闲置电脑也能活出第二春?鲁大师AiNAS让你动动手指就能轻松部署

对于大多数人而言,在这个“数据爆炸”的时代或多或少都遇到过存储告急的情况,这使得“存储焦虑”不再是个别现象,而将会是随着软件的不断臃肿而越来越普遍的情况。从不少手机厂商都开始将存储上限提升至1TB可以见得,我们似乎正处在互联网信息飞速增长的阶段,对于存储的需求也将会不断扩大。对于苹果用户而言,这一问题愈发严峻,毕竟512GB和1TB版本的iPhone可不是人人都消费得起的,因此成熟的外置存储方案开

电脑桌面文件删除了怎么找回来?别急,快速恢复攻略在此

在日常使用电脑的过程中,我们经常会遇到这样的情况:一不小心,桌面上的某个重要文件被删除了。这时,大多数人可能会感到惊慌失措,不知所措。 其实,不必过于担心,因为有很多方法可以帮助我们找回被删除的桌面文件。下面,就让我们一起来了解一下这些恢复桌面文件的方法吧。 一、使用撤销操作 如果我们刚刚删除了桌面上的文件,并且还没有进行其他操作,那么可以尝试使用撤销操作来恢复文件。在键盘上同时按下“C

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

hdu 4565 推倒公式+矩阵快速幂

题意 求下式的值: Sn=⌈ (a+b√)n⌉%m S_n = \lceil\ (a + \sqrt{b}) ^ n \rceil\% m 其中: 0<a,m<215 0< a, m < 2^{15} 0<b,n<231 0 < b, n < 2^{31} (a−1)2<b<a2 (a-1)^2< b < a^2 解析 令: An=(a+b√)n A_n = (a +

v0.dev快速开发

探索v0.dev:次世代开发者之利器 今之技艺日新月异,开发者之工具亦随之进步不辍。v0.dev者,新兴之开发者利器也,迅速引起众多开发者之瞩目。本文将引汝探究v0.dev之基本功能与优势,助汝速速上手,提升开发之效率。 何谓v0.dev? v0.dev者,现代化之开发者工具也,旨在简化并加速软件开发之过程。其集多种功能于一体,助开发者高效编写、测试及部署代码。无论汝为前端开发者、后端开发者

在 Windows 上部署 gitblit

在 Windows 上部署 gitblit 在 Windows 上部署 gitblit 缘起gitblit 是什么安装JDK部署 gitblit 下载 gitblit 并解压配置登录注册为 windows 服务 修改 installService.cmd 文件运行 installService.cmd运行 gitblitw.exe查看 services.msc 缘起

Solr部署如何启动

Solr部署如何启动 Posted on 一月 10, 2013 in:  Solr入门 | 评论关闭 我刚接触solr,我要怎么启动,这是群里的朋友问得比较多的问题, solr最新版本下载地址: http://www.apache.org/dyn/closer.cgi/lucene/solr/ 1、准备环境 建立一个solr目录,把solr压缩包example目录下的内容复制

利用Django框架快速构建Web应用:从零到上线

随着互联网的发展,Web应用的需求日益增长,而Django作为一个高级的Python Web框架,以其强大的功能和灵活的架构,成为了众多开发者的选择。本文将指导你如何从零开始使用Django框架构建一个简单的Web应用,并将其部署到线上,让世界看到你的作品。 Django简介 Django是由Adrian Holovaty和Simon Willison于2005年开发的一个开源框架,旨在简

Spring Roo 实站( 一 )部署安装 第一个示例程序

转自:http://blog.csdn.net/jun55xiu/article/details/9380213 一:安装 注:可以参与官网spring-roo: static.springsource.org/spring-roo/reference/html/intro.html#intro-exploring-sampleROO_OPTS http://stati

CentOs7上Mysql快速迁移脚本

因公司业务需要,对原来在/usr/local/mysql/data目录下的数据迁移到/data/local/mysql/mysqlData。 原因是系统盘太小,只有20G,几下就快满了。 参考过几篇文章,基于大神们的思路,我封装成了.sh脚本。 步骤如下: 1) 先修改好/etc/my.cnf,        ##[mysqld]       ##datadir=/data/loc