unbantu安装ollama,maxkb

2024-05-28 17:44
文章标签 安装 ollama unbantu maxkb

本文主要是介绍unbantu安装ollama,maxkb,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

  • 背景
  • 一、Ollama安装
    • 1.安装
    • 2.安装后检验
    • 3.运行模型
    • 4.常用命令
  • 二、安装maxkb
    • 1.说明
    • 2.docker安装maxkb
    • 2.添加模型
    • 3.创建应用
    • 4.api域名无效
  • 三、总结


背景

最近在学习ai相关内容,看到本地可以部署大语言模型,就尝试记录一下,本文章记录了安装ollama和前端页面maxkb


提示:以下是本篇文章正文内容,下面案例可供参考

一、Ollama安装

1.安装

直接执行命令

curl -fsSL https://ollama.com/install.sh | sh

2.安装后检验

ollama -v

能显示版本的话,就是安装好了
ollama api端口默认11434,可以直接访问

curl http://127.0.0.1:11434 

会返回Ollama is running

3.运行模型

以通义千问为例

ollama run qwen:7b

上述命令就会直接下载并运行qwen:7b,运行成功即可对话
提示:关于ollama支持哪些模型,可以查看[ollama官网](https://ollama.com/)

4.常用命令

# 查看运行中的模型
ollama list# 下载并运行模型 ollama run 模型名:版本
ollama run qwen:7b# 删除模型 ollama rm 模型名:版本
ollama rm qwen:7b

二、安装maxkb

1.说明

maxkb可以作为ollama的前端页面,提供更友好的交互方式

2.docker安装maxkb

docker run -d --name=maxkb -p 8080:8080 -v ~/maxkb:/var/lib/postgresql/data 1panel/maxkb

安装完成之后,访问ip:8080,即可进入maxkb界面,默认账号 admin/MaxKB@123…

2.添加模型

在这里插入图片描述
在这里插入图片描述
名称和apikey可以随便填

3.创建应用

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.api域名无效

浏览器访问http://127.0.0.1:11434能正确响应,但是访问192.168.0.101:11434无发访问,跟ollama配置有关系。
找到ollama配置文件,我的是在这个目录/etc/systemd/system/ollama.service,添加环境变量OLLAMA_HOST
如:
Environment=“OLLAMA_HOST=0.0.0.0:11434”

保存后重新加载配置,再重启ollama服务,就能解决ollama只能127.0.0.1访问的问题
相关命令

# 重载daemon文件
systemctl daemon-reload
# 重启
systemctl restart ollama

三、总结

先这样吧,后续慢慢研究再记录

这篇关于unbantu安装ollama,maxkb的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1011257

相关文章

最详细安装 PostgreSQL方法及常见问题解决

《最详细安装PostgreSQL方法及常见问题解决》:本文主要介绍最详细安装PostgreSQL方法及常见问题解决,介绍了在Windows系统上安装PostgreSQL及Linux系统上安装Po... 目录一、在 Windows 系统上安装 PostgreSQL1. 下载 PostgreSQL 安装包2.

Maven如何手动安装依赖到本地仓库

《Maven如何手动安装依赖到本地仓库》:本文主要介绍Maven如何手动安装依赖到本地仓库问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、下载依赖二、安装 JAR 文件到本地仓库三、验证安装四、在项目中使用该依赖1、注意事项2、额外提示总结一、下载依赖登

如何在Mac上安装并配置JDK环境变量详细步骤

《如何在Mac上安装并配置JDK环境变量详细步骤》:本文主要介绍如何在Mac上安装并配置JDK环境变量详细步骤,包括下载JDK、安装JDK、配置环境变量、验证JDK配置以及可选地设置PowerSh... 目录步骤 1:下载JDK步骤 2:安装JDK步骤 3:配置环境变量1. 编辑~/.zshrc(对于zsh

如何在pycharm安装torch包

《如何在pycharm安装torch包》:本文主要介绍如何在pycharm安装torch包方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录在pycharm安装torch包适http://www.chinasem.cn配于我电脑的指令为适用的torch包为总结在p

在PyCharm中安装PyTorch、torchvision和OpenCV详解

《在PyCharm中安装PyTorch、torchvision和OpenCV详解》:本文主要介绍在PyCharm中安装PyTorch、torchvision和OpenCV方式,具有很好的参考价值,... 目录PyCharm安装PyTorch、torchvision和OpenCV安装python安装PyTor

Python Transformer 库安装配置及使用方法

《PythonTransformer库安装配置及使用方法》HuggingFaceTransformers是自然语言处理(NLP)领域最流行的开源库之一,支持基于Transformer架构的预训练模... 目录python 中的 Transformer 库及使用方法一、库的概述二、安装与配置三、基础使用:Pi

如何解决mmcv无法安装或安装之后报错问题

《如何解决mmcv无法安装或安装之后报错问题》:本文主要介绍如何解决mmcv无法安装或安装之后报错问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录mmcv无法安装或安装之后报错问题1.当我们运行YOwww.chinasem.cnLO时遇到2.找到下图所示这里3.

Python 安装和配置flask, flask_cors的图文教程

《Python安装和配置flask,flask_cors的图文教程》:本文主要介绍Python安装和配置flask,flask_cors的图文教程,本文通过图文并茂的形式给大家介绍的非常详细,... 目录一.python安装:二,配置环境变量,三:检查Python安装和环境变量,四:安装flask和flas

Win11安装PostgreSQL数据库的两种方式详细步骤

《Win11安装PostgreSQL数据库的两种方式详细步骤》PostgreSQL是备受业界青睐的关系型数据库,尤其是在地理空间和移动领域,:本文主要介绍Win11安装PostgreSQL数据库的... 目录一、exe文件安装 (推荐)下载安装包1. 选择操作系统2. 跳转到EDB(PostgreSQL 的

Linux系统中卸载与安装JDK的详细教程

《Linux系统中卸载与安装JDK的详细教程》本文详细介绍了如何在Linux系统中通过Xshell和Xftp工具连接与传输文件,然后进行JDK的安装与卸载,安装步骤包括连接Linux、传输JDK安装包... 目录1、卸载1.1 linux删除自带的JDK1.2 Linux上卸载自己安装的JDK2、安装2.1