本文主要是介绍Maxkb玩转大语言模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
Maxkb玩转大语言模型
随着国外大语言模型llama3的发布,搭建本地个人免费“人工智能”变得越来越简单,今天博主分享使用Max搭建本地的个人聊天式对话及个人本地知识域的搭建。
docker快速安装
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
默认的用户名:admin密码:MaxKB@123.. 想要数据持久化就需要将docker的文件挂在到本地的电脑上
-v /maxdb/data:/var/lib/postgresql/data 1panel/maxkb
创建模型步骤如下
选择自己的模型并安装,我这边使用ollama安装
API域名不能是localhost和127.0.0.1
安装成功后如下图:
安装过程会出现API域名无效的弹窗提示 有以下原因: 1.没有正确填写域名 2.按装的ollama模型没有开启远程链接
解决方法
填写的API域名只能是服务器: ip:11434 windows下在cmd中执行
set OLLAMA_HOST=0.0.0.0
ollama serve
再次安装大模型就成功了
2.创建自己的本地应用
3.编辑应用的信息
4.测试我们的模型
完成之后,也可以将对话的窗口植入到我们自己的网站
本文由 mdnice 多平台发布
这篇关于Maxkb玩转大语言模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!