操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统

本文主要是介绍操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

2024年4月12日,1Panel开源项目组正式对外介绍了其官方出品的开源子项目——MaxKB(github.com/1Panel-dev/MaxKB)。MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

2024年4月16日,MaxKB成功登顶GitHub Trending主榜单,自项目发布后快速收获超过1,800个Star和超过5,000次下载。有社区用户反馈,已经成功将MaxKB部署到其产品官网,以低成本的方式打造出一个贴身的官方AI客服。
在这里插入图片描述

除了基于OpenAI、百度千帆大模型等在线大模型快速搭建知识库问答系统外,MaxKB还支持与以Ollama为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。

本文为您详细介绍通过1Panel应用商店(apps.fit2cloud.com/1panel)快速部署MaxKB和Ollama,在MaxKB中接入Ollama的LLM模型,以及快速上线企业知识库小助手的具体方法。

1.MaxKB安装部署

部署方式一:通过1Panel应用商店,快速安装MaxKB应用。
在这里插入图片描述

部署方式二:命令行安装。

docker run -d --name=maxkb -p 8080:8080 -v
~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

用户名: admin

密码: MaxKB@123…

2.Ollama安装部署

Ollama(github.com/ollama)是一个开源框架,它支持用户通过本地部署的方式构建大语言模型服务。目前,Ollama支持的大语言模型包括LIama 2、Mistral、Gemma等。

通过1Panel应用商店,您可以快速安装Ollama。
在这里插入图片描述

3.在MaxKB中接入Ollama的大语言模型

第一步:登录至MaxKB系统

在1Panel应用商店的“已安装”选项卡中,找到MaxKB应用面板,点击应用名下方的“服务端口”选项打开MaxKB应用页面,即可使用默认的账户名和密码登录至MaxKB。
在这里插入图片描述

第二步:接入Ollama LLM模型

进入MaxKB的“系统设置”菜单,在“模型设置”页面中选择添加“Ollama”模型,并且填写模型的具体信息。点击“添加”按钮后,系统会自动下载部署Ollama模型。
在这里插入图片描述

除Ollama外,MaxKB还支持对接百度千帆大模型、Azure OpenAI和OpenAI模型,详细步骤可以参考MaxKB官方文档。

4.制作企业知识库小助手

我们以制作DataEase小助手为例,为您演示通过MaxKB和Ollama构建知识库问答系统的过程。

第一步:在MaxKB中创建DataEase在线知识库

DataEase在线文档地址为:https://dataease.io/docs/。

在MaxKB应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web站点”类型。知识库创建界面如下:
在这里插入图片描述

MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照URL地址生成文档,并自动拆分和进行向量化处理。
在这里插入图片描述

第二步:在MaxKB中创建DataEase小助手应用

在MaxKB的“应用”菜单中,选择创建应用,并填写相关的应用信息,操作界面如下:
在这里插入图片描述
在这里插入图片描述

DataEase小助手创建完成后,可以在MaxKB“应用”菜单中的“应用”列表中点击对应应用的演示图标进行调试和预览。
在这里插入图片描述

DataEase小助手对话演示页面如下:
在这里插入图片描述

5.将企业小助手嵌入到第三方业务系统中

接下来,我们将DataEase小助手嵌入到DataEase在线文档中。

回到MaxKB“应用”菜单中,点击DataEase小助手应用面板,进入该应用的“概览”页面。在概览页面打开“嵌入第三方”选项。
在这里插入图片描述

复制“浮窗模式”下方的脚本,加入到DataEase在线文档的文件中,即可将DataEase小助手嵌入至对应的页面中。
在这里插入图片描述

DataEase小助手嵌入在线文档后的效果如下:
在这里插入图片描述

这篇关于操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/915667

相关文章

Python调用Orator ORM进行数据库操作

《Python调用OratorORM进行数据库操作》OratorORM是一个功能丰富且灵活的PythonORM库,旨在简化数据库操作,它支持多种数据库并提供了简洁且直观的API,下面我们就... 目录Orator ORM 主要特点安装使用示例总结Orator ORM 是一个功能丰富且灵活的 python O

python使用fastapi实现多语言国际化的操作指南

《python使用fastapi实现多语言国际化的操作指南》本文介绍了使用Python和FastAPI实现多语言国际化的操作指南,包括多语言架构技术栈、翻译管理、前端本地化、语言切换机制以及常见陷阱和... 目录多语言国际化实现指南项目多语言架构技术栈目录结构翻译工作流1. 翻译数据存储2. 翻译生成脚本

使用Python快速实现链接转word文档

《使用Python快速实现链接转word文档》这篇文章主要为大家详细介绍了如何使用Python快速实现链接转word文档功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 演示代码展示from newspaper import Articlefrom docx import

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

Ubuntu固定虚拟机ip地址的方法教程

《Ubuntu固定虚拟机ip地址的方法教程》本文详细介绍了如何在Ubuntu虚拟机中固定IP地址,包括检查和编辑`/etc/apt/sources.list`文件、更新网络配置文件以及使用Networ... 1、由于虚拟机网络是桥接,所以ip地址会不停地变化,接下来我们就讲述ip如何固定 2、如果apt安

PyCharm 接入 DeepSeek最新完整教程

《PyCharm接入DeepSeek最新完整教程》文章介绍了DeepSeek-V3模型的性能提升以及如何在PyCharm中接入和使用DeepSeek进行代码开发,本文通过图文并茂的形式给大家介绍的... 目录DeepSeek-V3效果演示创建API Key在PyCharm中下载Continue插件配置Con

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

在不同系统间迁移Python程序的方法与教程

《在不同系统间迁移Python程序的方法与教程》本文介绍了几种将Windows上编写的Python程序迁移到Linux服务器上的方法,包括使用虚拟环境和依赖冻结、容器化技术(如Docker)、使用An... 目录使用虚拟环境和依赖冻结1. 创建虚拟环境2. 冻结依赖使用容器化技术(如 docker)1. 创

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

Go语言中三种容器类型的数据结构详解

《Go语言中三种容器类型的数据结构详解》在Go语言中,有三种主要的容器类型用于存储和操作集合数据:本文主要介绍三者的使用与区别,感兴趣的小伙伴可以跟随小编一起学习一下... 目录基本概念1. 数组(Array)2. 切片(Slice)3. 映射(Map)对比总结注意事项基本概念在 Go 语言中,有三种主要