unbantu安装ollama,maxkb

2024-05-28 17:44
文章标签 安装 ollama unbantu maxkb

本文主要是介绍unbantu安装ollama,maxkb,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

  • 背景
  • 一、Ollama安装
    • 1.安装
    • 2.安装后检验
    • 3.运行模型
    • 4.常用命令
  • 二、安装maxkb
    • 1.说明
    • 2.docker安装maxkb
    • 2.添加模型
    • 3.创建应用
    • 4.api域名无效
  • 三、总结


背景

最近在学习ai相关内容,看到本地可以部署大语言模型,就尝试记录一下,本文章记录了安装ollama和前端页面maxkb


提示:以下是本篇文章正文内容,下面案例可供参考

一、Ollama安装

1.安装

直接执行命令

curl -fsSL https://ollama.com/install.sh | sh

2.安装后检验

ollama -v

能显示版本的话,就是安装好了
ollama api端口默认11434,可以直接访问

curl http://127.0.0.1:11434 

会返回Ollama is running

3.运行模型

以通义千问为例

ollama run qwen:7b

上述命令就会直接下载并运行qwen:7b,运行成功即可对话
提示:关于ollama支持哪些模型,可以查看[ollama官网](https://ollama.com/)

4.常用命令

# 查看运行中的模型
ollama list# 下载并运行模型 ollama run 模型名:版本
ollama run qwen:7b# 删除模型 ollama rm 模型名:版本
ollama rm qwen:7b

二、安装maxkb

1.说明

maxkb可以作为ollama的前端页面,提供更友好的交互方式

2.docker安装maxkb

docker run -d --name=maxkb -p 8080:8080 -v ~/maxkb:/var/lib/postgresql/data 1panel/maxkb

安装完成之后,访问ip:8080,即可进入maxkb界面,默认账号 admin/MaxKB@123…

2.添加模型

在这里插入图片描述
在这里插入图片描述
名称和apikey可以随便填

3.创建应用

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.api域名无效

浏览器访问http://127.0.0.1:11434能正确响应,但是访问192.168.0.101:11434无发访问,跟ollama配置有关系。
找到ollama配置文件,我的是在这个目录/etc/systemd/system/ollama.service,添加环境变量OLLAMA_HOST
如:
Environment=“OLLAMA_HOST=0.0.0.0:11434”

保存后重新加载配置,再重启ollama服务,就能解决ollama只能127.0.0.1访问的问题
相关命令

# 重载daemon文件
systemctl daemon-reload
# 重启
systemctl restart ollama

三、总结

先这样吧,后续慢慢研究再记录

这篇关于unbantu安装ollama,maxkb的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1011257

相关文章

Python使用国内镜像加速pip安装的方法讲解

《Python使用国内镜像加速pip安装的方法讲解》在Python开发中,pip是一个非常重要的工具,用于安装和管理Python的第三方库,然而,在国内使用pip安装依赖时,往往会因为网络问题而导致速... 目录一、pip 工具简介1. 什么是 pip?2. 什么是 -i 参数?二、国内镜像源的选择三、如何

Python安装时常见报错以及解决方案

《Python安装时常见报错以及解决方案》:本文主要介绍在安装Python、配置环境变量、使用pip以及运行Python脚本时常见的错误及其解决方案,文中介绍的非常详细,需要的朋友可以参考下... 目录一、安装 python 时常见报错及解决方案(一)安装包下载失败(二)权限不足二、配置环境变量时常见报错及

MySQL8.2.0安装教程分享

《MySQL8.2.0安装教程分享》这篇文章详细介绍了如何在Windows系统上安装MySQL数据库软件,包括下载、安装、配置和设置环境变量的步骤... 目录mysql的安装图文1.python访问网址2javascript.点击3.进入Downloads向下滑动4.选择Community Server5.

CentOS系统Maven安装教程分享

《CentOS系统Maven安装教程分享》本文介绍了如何在CentOS系统中安装Maven,并提供了一个简单的实际应用案例,安装Maven需要先安装Java和设置环境变量,Maven可以自动管理项目的... 目录准备工作下载并安装Maven常见问题及解决方法实际应用案例总结Maven是一个流行的项目管理工具

Ollama整合open-webui的步骤及访问

《Ollama整合open-webui的步骤及访问》:本文主要介绍如何通过源码方式安装OpenWebUI,并详细说明了安装步骤、环境要求以及第一次使用时的账号注册和模型选择过程,需要的朋友可以参考... 目录安装环境要求步骤访问选择PjrIUE模型开始对话总结 安装官方安装地址:https://docs.

MySql9.1.0安装详细教程(最新推荐)

《MySql9.1.0安装详细教程(最新推荐)》MySQL是一个流行的关系型数据库管理系统,支持多线程和多种数据库连接途径,能够处理上千万条记录的大型数据库,本文介绍MySql9.1.0安装详细教程,... 目录mysql介绍:一、下载 Mysql 安装文件二、Mysql 安装教程三、环境配置1.右击此电脑

在 Windows 上安装 DeepSeek 的完整指南(最新推荐)

《在Windows上安装DeepSeek的完整指南(最新推荐)》在Windows上安装DeepSeek的完整指南,包括下载和安装Ollama、下载DeepSeekRXNUMX模型、运行Deep... 目录在www.chinasem.cn Windows 上安装 DeepSeek 的完整指南步骤 1:下载并安装

python管理工具之conda安装部署及使用详解

《python管理工具之conda安装部署及使用详解》这篇文章详细介绍了如何安装和使用conda来管理Python环境,它涵盖了从安装部署、镜像源配置到具体的conda使用方法,包括创建、激活、安装包... 目录pytpshheraerUhon管理工具:conda部署+使用一、安装部署1、 下载2、 安装3

龙蜥操作系统Anolis OS-23.x安装配置图解教程(保姆级)

《龙蜥操作系统AnolisOS-23.x安装配置图解教程(保姆级)》:本文主要介绍了安装和配置AnolisOS23.2系统,包括分区、软件选择、设置root密码、网络配置、主机名设置和禁用SELinux的步骤,详细内容请阅读本文,希望能对你有所帮助... ‌AnolisOS‌是由阿里云推出的开源操作系统,旨

Ubuntu系统怎么安装Warp? 新一代AI 终端神器安装使用方法

《Ubuntu系统怎么安装Warp?新一代AI终端神器安装使用方法》Warp是一款使用Rust开发的现代化AI终端工具,该怎么再Ubuntu系统中安装使用呢?下面我们就来看看详细教程... Warp Terminal 是一款使用 Rust 开发的现代化「AI 终端」工具。最初它只支持 MACOS,但在 20