如何拥有自己私有化部署的大模型?Mac下部署Ollama并使用llama3.1模型的方法详解

本文主要是介绍如何拥有自己私有化部署的大模型?Mac下部署Ollama并使用llama3.1模型的方法详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

😄啥是Ollama

Ollama 是一个开源的、专为本地环境设计的轻量级、可扩展框架,用于构建和运行大型语言模型(LLMs)。它允许用户在本地机器上部署和运行语言模型,无需依赖外部服务器或云服务,从而提高数据处理的隐私性和安全性。

简单来解释就是,Ollama是一个框架,可以用来在本地运行各种开源大模型,很方便。

🍆如何安装Ollama

首先,来到Ollama的官方网站:

Ollama

网页相当简洁,点击下载就可以了。

选择你的操作系统,这里选择macos,当然如果你是windows,就选择windows,然后下载。

下载完成后,解压缩,就可以得到一只小羊驼。

双击Ollama图标,会弹窗,点击“打开”就好。

之后会提示你,Ollama放在应用目录下运行效果比较好,为了保证兼容性或者不出一些奇奇怪怪的bug,我这里建议选择 “move to applications”.他会自动把这个应用复制一份到应用目录下。

点击Next。 

点击install进行安装即可。 

弹窗出来的页面,这里需要点击命令行右侧的小图标,复制这行命令。点击“finish”完成。 

这个时候,你会发现任务栏多了一只小羊驼

但这个时候,其实还没有安装模型,你需要手动安装一下模型。

找到你电脑上的应用-》终端,打开:

粘贴你刚才复制的命令,然后回车,系统会开始下载模型:

耐心等待即可,这里可能需要一些魔法。

当然,如果你网络断了,这个也是支持断点续传的,下次网络好了接着下载就可以。

如果你电脑配置特别棒,希望用更强的模型,那么也可以到官网下载别的模型:

然后在列表中选择你喜欢的模型:

然后选择你喜欢的版本:

 点击右边的复制小图标,复制命令行,并在终端执行,就可以下载对应的模型并使用了。

安装完成就可以在命令行愉快的对话了,不过前提是你的mac性能得好一点🤏

✨写在最后

如果对comfyui还不熟悉的话,最近面向ComfyUI的新手,写了一门系统性入门图文课程,现在已经更新完成了,内容主要包括如何下载软件、如何搭建自己的工作流、关键基础节点讲解、遇到报错怎么解决等等,如果大家在学习过程中遇到什么问题,也可以直接对应的文章下留言,会持续更新相关答疑内容哈。欢迎订阅哦~

https://blog.csdn.net/jumengxiaoketang/category_12683612.html

​​

感谢大家的支持~

这篇关于如何拥有自己私有化部署的大模型?Mac下部署Ollama并使用llama3.1模型的方法详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1106436

相关文章

Linux使用fdisk进行磁盘的相关操作

《Linux使用fdisk进行磁盘的相关操作》fdisk命令是Linux中用于管理磁盘分区的强大文本实用程序,这篇文章主要为大家详细介绍了如何使用fdisk进行磁盘的相关操作,需要的可以了解下... 目录简介基本语法示例用法列出所有分区查看指定磁盘的区分管理指定的磁盘进入交互式模式创建一个新的分区删除一个存

C#使用HttpClient进行Post请求出现超时问题的解决及优化

《C#使用HttpClient进行Post请求出现超时问题的解决及优化》最近我的控制台程序发现有时候总是出现请求超时等问题,通常好几分钟最多只有3-4个请求,在使用apipost发现并发10个5分钟也... 目录优化结论单例HttpClient连接池耗尽和并发并发异步最终优化后优化结论我直接上优化结论吧,

Window Server2016加入AD域的方法步骤

《WindowServer2016加入AD域的方法步骤》:本文主要介绍WindowServer2016加入AD域的方法步骤,包括配置DNS、检测ping通、更改计算机域、输入账号密码、重启服务... 目录一、 准备条件二、配置ServerB加入ServerA的AD域(test.ly)三、查看加入AD域后的变

Window Server2016 AD域的创建的方法步骤

《WindowServer2016AD域的创建的方法步骤》本文主要介绍了WindowServer2016AD域的创建的方法步骤,文中通过图文介绍的非常详细,对大家的学习或者工作具有一定的参考学习价... 目录一、准备条件二、在ServerA服务器中常见AD域管理器:三、创建AD域,域地址为“test.ly”

NFS实现多服务器文件的共享的方法步骤

《NFS实现多服务器文件的共享的方法步骤》NFS允许网络中的计算机之间共享资源,客户端可以透明地读写远端NFS服务器上的文件,本文就来介绍一下NFS实现多服务器文件的共享的方法步骤,感兴趣的可以了解一... 目录一、简介二、部署1、准备1、服务端和客户端:安装nfs-utils2、服务端:创建共享目录3、服

SpringBoot使用Apache Tika检测敏感信息

《SpringBoot使用ApacheTika检测敏感信息》ApacheTika是一个功能强大的内容分析工具,它能够从多种文件格式中提取文本、元数据以及其他结构化信息,下面我们来看看如何使用Ap... 目录Tika 主要特性1. 多格式支持2. 自动文件类型检测3. 文本和元数据提取4. 支持 OCR(光学

JAVA系统中Spring Boot应用程序的配置文件application.yml使用详解

《JAVA系统中SpringBoot应用程序的配置文件application.yml使用详解》:本文主要介绍JAVA系统中SpringBoot应用程序的配置文件application.yml的... 目录文件路径文件内容解释1. Server 配置2. Spring 配置3. Logging 配置4. Ma

Golang的CSP模型简介(最新推荐)

《Golang的CSP模型简介(最新推荐)》Golang采用了CSP(CommunicatingSequentialProcesses,通信顺序进程)并发模型,通过goroutine和channe... 目录前言一、介绍1. 什么是 CSP 模型2. Goroutine3. Channel4. Channe

Linux使用dd命令来复制和转换数据的操作方法

《Linux使用dd命令来复制和转换数据的操作方法》Linux中的dd命令是一个功能强大的数据复制和转换实用程序,它以较低级别运行,通常用于创建可启动的USB驱动器、克隆磁盘和生成随机数据等任务,本文... 目录简介功能和能力语法常用选项示例用法基础用法创建可启动www.chinasem.cn的 USB 驱动

Java 字符数组转字符串的常用方法

《Java字符数组转字符串的常用方法》文章总结了在Java中将字符数组转换为字符串的几种常用方法,包括使用String构造函数、String.valueOf()方法、StringBuilder以及A... 目录1. 使用String构造函数1.1 基本转换方法1.2 注意事项2. 使用String.valu