不!GPTs无法取代知识库?0基础搭建本地私有知识库!本地fastgpt部署!16/45

本文主要是介绍不!GPTs无法取代知识库?0基础搭建本地私有知识库!本地fastgpt部署!16/45,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

hi~

是的!在这个系列我们做了大模型的微调,如何构建数据集、如何去做数据处理、做微调策略、算微调参数!新来的朋友去检索!

群里朋友聊,GPTs出来后,还有必要做私有知识库吗?

有!

雄哥在群里也说了,只要国家/某流行认可的第三方机构没能确保这些闭源LLM+知识库应用是100%安全的,它就有价值!

雄哥认为!

本地化+安全,是无法被取代的企业需求!

搭建知识库这个系列收到好多私信催更!那,还记得我们项目吗?

今天我们要动手搭建!

图片

医疗领域大模型项目启动会-MedLLM起航啦!

我们组队做了一个医疗项目,在实践中积累经验!

上周!开完医疗启动会,在几个群都做了调研!雄哥发现还是希望做知识库的朋友多啊!齐刷刷都是 ① !

另外两个系列在后面排队吧!

图片

今天跟着雄哥做【知识库搭建】板块,我们将在纯本地的环境搭建,涉及垂类大模型+嵌入模型的部署、docker部署,都搞掂后!使用知识库应用去搭建本地私有的知识库!

现在市场上已有大量的知识库/文档对话产品了,学会了这个部署,你基本了解到整个企业知识库部署的过程!内容如下:

day16:动手本地部署fastgpt知识库应用【本篇】

day17:动手本地部署ONE-API管理工具,与知识库打通!

day18:与知识库对话!部署Qwen-7B/14B,用API接入知识库!

dat19:与知识库对话!部署ChatGLM3-6B,用API接入知识库!

day20:本地部署M3e嵌入模型!接入知识库,完全体!大功告成!

day21:快速上手!3分钟动手搭建私有的知识库!

day22:进阶!三种数据处理办法,提高知识库性能!

day23:进阶!知识库可视化高级编排!

day24:进阶!自定义内容,不该说的一句不说,只聊指定内容!

day25:按部门/学科,建立知识库并分发给对应部门使用

一边做一边看大家反馈,有不清楚的,雄哥再补充!

ok!人的专注力只有10分钟!那,话不多说!

本篇在win11系统完成,需要docker+WSL子系统(非wsl不稳定)!

星球的伙伴学完【7天精通docker】,可以直接上手!

还没来得及学的,可以回星球先学!

点击申请加入星球icon-default.png?t=N7T8https://t.zsxq.com/15XR5BKhd

整个过程非常的简单!

① 下载配置文件

② 拉取镜像

③ 启动fastgpt容器

④ 打开知识库应用

⑤ 日后更新的方法

第一部分:下载配置文件


配置文件同步上传了知识星球会员盘以下路径:

知识星球会员盘>08.知识库搭建>FASTGPT>day16

图片

下载之后,你新建一个fastgpt文件夹,把它放到非中文无空格的本地文件中!建议根目录!

这里,雄哥用的是WSL系统,我把他放到了root>fastgpt中!

图片

第二部分:拉取镜像


ok!接下来,我们要使用docker,拉取镜像安装!

打开wsl!cd到上面我们配置文件的文件夹中,否则无法安装!

cd fastgpt

如果你不会cd,也可以直接在窗口文件夹路径输入'cmd',回车!这时,会启动一个cmd窗口!默认就进路径了!

图片

现在我们,输入这个指令,拉取镜像!

docker-compose pull

图片

第三部分:启动fastgpt容器


输入下面这个指令!启动docker镜像!

docker-compose up -d

这时,你看到在系统安装的docker,镜像已经成功部署到本地了!

图片

我们回到刚刚放配置文件的位置,检查一下有无安装成功,项目使用了MongoDB以及PG!

图片

第四部分:打开知识库应用


他默认的端口是‘3000’!你只需要点击docker上圈圈,端口的按钮,他会自动跳转到浏览器!

如果你没改过配置文件!默认的账号密码如下:

账号:root

密码:1234

图片

第五部分:日后更新方法


日后你的更新,必须要先备份文件,后面会教,然后按照雄哥的方法更新!

docker-compose pulldocker-compose up -d

至此!成功部署到本地了!

当然,现在知识库还不能工作,因为现在还没有接入大模型到知识库中,下一篇,我们部署one-api,接入本地的大模型到知识库中!

星球的伙伴,一定要打卡啦!

这篇关于不!GPTs无法取代知识库?0基础搭建本地私有知识库!本地fastgpt部署!16/45的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/675796

相关文章

闲置电脑也能活出第二春?鲁大师AiNAS让你动动手指就能轻松部署

对于大多数人而言,在这个“数据爆炸”的时代或多或少都遇到过存储告急的情况,这使得“存储焦虑”不再是个别现象,而将会是随着软件的不断臃肿而越来越普遍的情况。从不少手机厂商都开始将存储上限提升至1TB可以见得,我们似乎正处在互联网信息飞速增长的阶段,对于存储的需求也将会不断扩大。对于苹果用户而言,这一问题愈发严峻,毕竟512GB和1TB版本的iPhone可不是人人都消费得起的,因此成熟的外置存储方案开

三国地理揭秘:为何北伐之路如此艰难,为何诸葛亮无法攻克陇右小城?

俗话说:天时不如地利,不是随便说说,诸葛亮六出祁山,连关中陇右的几座小城都攻不下来,行军山高路险,无法携带和建造攻城器械,是最难的,所以在汉中,无论从哪一方进攻,防守方都是一夫当关,万夫莫开;再加上千里运粮,根本不需要打,司马懿只需要坚守城池拼消耗就能不战而屈人之兵。 另一边,洛阳的虎牢关,一旦突破,洛阳就无险可守,这样的进军路线,才是顺势而为的用兵之道。 读历史的时候我们常常看到某一方势

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

搭建Kafka+zookeeper集群调度

前言 硬件环境 172.18.0.5        kafkazk1        Kafka+zookeeper                Kafka Broker集群 172.18.0.6        kafkazk2        Kafka+zookeeper                Kafka Broker集群 172.18.0.7        kafkazk3

【IPV6从入门到起飞】5-1 IPV6+Home Assistant(搭建基本环境)

【IPV6从入门到起飞】5-1 IPV6+Home Assistant #搭建基本环境 1 背景2 docker下载 hass3 创建容器4 浏览器访问 hass5 手机APP远程访问hass6 更多玩法 1 背景 既然电脑可以IPV6入站,手机流量可以访问IPV6网络的服务,为什么不在电脑搭建Home Assistant(hass),来控制你的设备呢?@智能家居 @万物互联

【Linux 从基础到进阶】Ansible自动化运维工具使用

Ansible自动化运维工具使用 Ansible 是一款开源的自动化运维工具,采用无代理架构(agentless),基于 SSH 连接进行管理,具有简单易用、灵活强大、可扩展性高等特点。它广泛用于服务器管理、应用部署、配置管理等任务。本文将介绍 Ansible 的安装、基本使用方法及一些实际运维场景中的应用,旨在帮助运维人员快速上手并熟练运用 Ansible。 1. Ansible的核心概念

pico2 开发环境搭建-基于ubuntu

pico2 开发环境搭建-基于ubuntu 安装编译工具链下载sdk 和example编译example 安装编译工具链 sudo apt install cmake gcc-arm-none-eabi libnewlib-arm-none-eabi libstdc++-arm-none-eabi-newlib 注意cmake的版本,需要在3.17 以上 下载sdk 和ex

AI基础 L9 Local Search II 局部搜索

Local Beam search 对于当前的所有k个状态,生成它们的所有可能后继状态。 检查生成的后继状态中是否有任何状态是解决方案。 如果所有后继状态都不是解决方案,则从所有后继状态中选择k个最佳状态。 当达到预设的迭代次数或满足某个终止条件时,算法停止。 — Choose k successors randomly, biased towards good ones — Close

在 Windows 上部署 gitblit

在 Windows 上部署 gitblit 在 Windows 上部署 gitblit 缘起gitblit 是什么安装JDK部署 gitblit 下载 gitblit 并解压配置登录注册为 windows 服务 修改 installService.cmd 文件运行 installService.cmd运行 gitblitw.exe查看 services.msc 缘起