[AI]部署安装有道QanyThing

2024-02-22 20:36

本文主要是介绍[AI]部署安装有道QanyThing,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前提条件:

1、win10系统更新到最新的版本,系统版本最好为专业版本

winver

查看系统版本,内部版本要大于19045

2、CPU开启虚拟化

3、开启虚拟化功能,1、2、3每步完成后均需要重启电脑;

注:windows 虚拟机监控程序平台不开启的话可能导致后面docker desktop启动不起来

开始:

1、在CMD/POWERSHELL中敲击命令wsl --version,查看WSL版本,如果版本为1.0则执行update命令,然后切换至2的版本

#查看版本
wsl --version#更新
wsl --update#设置为wsl2
wsl --set-default-version 2#列出可用的linux发行版本
wsl --list --online#列出已安装的 Linux 发行版
wsl --list --verbose#推荐安装ubuntu2204,后面为安装路径
wsl --install Ubuntu22.04 E:\Ubuntu2204#检查 WSL 状态
wsl --status#关闭
wsl --shutdown#导入和导出发行版
wsl --export <Distribution Name> <FileName>
wsl --import <Distribution Name> <InstallLocation> <FileName>#导入已经存在的文件
#将指定的 .vhdx 文件导入为新的发行版。 虚拟硬盘必须采用 ext4 文件系统类型格式
wsl --import-in-place <Distribution Name> <FileName>#注销或卸载 Linux 发行版
wsl --unregister <DistributionName>

2、安装docker desktop,win10建议下载4.26.1,按照要求进行安装即可,安装完成后进行如下设置:

wsl安装好ubtuntu之后我们是可以在dokcer desktop里面看到已经装好的linux系统

修改配置地址

3、拉取代码及下载模型

#下载qanything的基础代码
git clone https://github.com/netease-youdao/QAnything.git#下载基础LLM,文件较大,提前下载好之后,解压放到qanything代码的根目录里,文件夹为models
git clone https://www.modelscope.cn/netease-youdao/QAnything.git#千问模型可以不用下载,系统会自动拉取

更改shell脚本的回车(在windows下创建编辑的shell脚本是dos格式的,而linux却是只能执行格式为uni格式的脚本),否则执行时会报错,将回车符替换为空字符串

sed -i "s/\r//" scripts/run_for_local_option.sh
sed -i "s/^M//" scripts/run_for_local_option.sh
sed -i "s/\r//" scripts/run_for_cloud_option.sh
sed -i "s/^M//" scripts/run_for_cloud_option.sh
sed -i "s/\r//" run.sh
sed -i "s/^M//" run.sh
sed -i "s/\r//" close.sh
sed -i "s/^M//" close.sh

执行启动命令

bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything

若发现npm run install报错failed to install npm dependencies,请参考将npm换成yarn
\scripts\run_for_local_option.sh,找到npm install那里,修改一下代码

npm config set registry https://registry.npmmirror.com
npm install -g yarn
yarn config set registry https://registry.npmmirror.com

timeout 180 yarn install

4、迁移docker-desktop-data,防止C盘文件过大

wsl --shutdownwsl --export docker-desktop-data E:\docker-desktop\docker-desktop-data.tarwsl --unregister docker-desktop-datawsl --import docker-desktop-data E:\docker-desktop\data E:\docker-desktop\docker-desktop-data.tar --version 2

参考地址:网易有道QAnything 安装部署实践(RAG)-CSDN博客

这篇关于[AI]部署安装有道QanyThing的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/736427

相关文章

在Ubuntu上部署SpringBoot应用的操作步骤

《在Ubuntu上部署SpringBoot应用的操作步骤》随着云计算和容器化技术的普及,Linux服务器已成为部署Web应用程序的主流平台之一,Java作为一种跨平台的编程语言,具有广泛的应用场景,本... 目录一、部署准备二、安装 Java 环境1. 安装 JDK2. 验证 Java 安装三、安装 mys

Jsoncpp的安装与使用方式

《Jsoncpp的安装与使用方式》JsonCpp是一个用于解析和生成JSON数据的C++库,它支持解析JSON文件或字符串到C++对象,以及将C++对象序列化回JSON格式,安装JsonCpp可以通过... 目录安装jsoncppJsoncpp的使用Value类构造函数检测保存的数据类型提取数据对json数

mac安装redis全过程

《mac安装redis全过程》文章内容主要介绍了如何从官网下载指定版本的Redis,以及如何在自定义目录下安装和启动Redis,还提到了如何修改Redis的密码和配置文件,以及使用RedisInsig... 目录MAC安装Redis安装启动redis 配置redis 常用命令总结mac安装redis官网下

Jenkins中自动化部署Spring Boot项目的全过程

《Jenkins中自动化部署SpringBoot项目的全过程》:本文主要介绍如何使用Jenkins从Git仓库拉取SpringBoot项目并进行自动化部署,通过配置Jenkins任务,实现项目的... 目录准备工作启动 Jenkins配置 Jenkins创建及配置任务源码管理构建触发器构建构建后操作构建任务

如何安装 Ubuntu 24.04 LTS 桌面版或服务器? Ubuntu安装指南

《如何安装Ubuntu24.04LTS桌面版或服务器?Ubuntu安装指南》对于我们程序员来说,有一个好用的操作系统、好的编程环境也是很重要,如何安装Ubuntu24.04LTS桌面... Ubuntu 24.04 LTS,代号 Noble NumBAT,于 2024 年 4 月 25 日正式发布,引入了众

如何安装HWE内核? Ubuntu安装hwe内核解决硬件太新的问题

《如何安装HWE内核?Ubuntu安装hwe内核解决硬件太新的问题》今天的主角就是hwe内核(hardwareenablementkernel),一般安装的Ubuntu都是初始内核,不能很好地支... 对于追求系统稳定性,又想充分利用最新硬件特性的 Ubuntu 用户来说,HWEXBQgUbdlna(Har

python中poetry安装依赖

《python中poetry安装依赖》本文主要介绍了Poetry工具及其在Python项目中的安装和使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随... 目录前言1. 为什么pip install poetry 会造成依赖冲突1.1 全局环境依赖混淆:1

windows端python版本管理工具pyenv-win安装使用

《windows端python版本管理工具pyenv-win安装使用》:本文主要介绍如何通过git方式下载和配置pyenv-win,包括下载、克隆仓库、配置环境变量等步骤,同时还详细介绍了如何使用... 目录pyenv-win 下载配置环境变量使用 pyenv-win 管理 python 版本一、安装 和

Linux下MySQL8.0.26安装教程

《Linux下MySQL8.0.26安装教程》文章详细介绍了如何在Linux系统上安装和配置MySQL,包括下载、解压、安装依赖、启动服务、获取默认密码、设置密码、支持远程登录以及创建表,感兴趣的朋友... 目录1.找到官网下载位置1.访问mysql存档2.下载社区版3.百度网盘中2.linux安装配置1.

Kibana的安装和配置全过程

《Kibana的安装和配置全过程》Kibana是一个开源的数据分析和可视化平台,它与Elasticsearch紧密集成,提供了一个直观的Web界面,使您可以快速地搜索、分析和可视化数据,在本文中,我们... 目录Kibana的安装和配置1.安装Java运行环境2.下载Kibana3.解压缩Kibana4.配