本文主要是介绍OpenManus本地部署实战亲测有效完全免费(最新推荐),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
《OpenManus本地部署实战亲测有效完全免费(最新推荐)》文章介绍了如何在本地部署OpenManus大语言模型,包括环境搭建、LLM编程接口配置和测试步骤,本文给大家讲解的非常详细,感兴趣的朋友一...
1.概况
由于工作太忙,已经连续断更三年的我,今天实在忍不住给大家分享一些自己的学习笔记。大语言模型就是神仙打架,从gpt到deepseek再到Manus,但是Manus需要申请权限,而且很难申请下来,甚至一个账号售价达到了几万RMB,OpenManus(github网站如下所示:mannaandpoem/OpenManus: No fortress,android purely open ground. OpenManus is Coming.)看不下去了,花了三天时间给搞出来了。今天这个文章我就带大家把OpenManus如何本地部署给详细走一遍,后面准备录制一个视频,大家多多关注我的账号哦。
2.环境搭建
2.1安装miniconda或者anaconda
(1)进入anaconda网站下载
(2)检测安装是否成功
cmd进入输入conda,就会出现一系列的conda信息如下
表明conda安装成功。
(3)创建并激活虚拟环境
首先创建虚拟环境
conda create -n open_manus python=3.12
这就把虚拟环境创建成功了
激活虚拟环境
conda activate open_manus
这个虚拟环境就激活成功了
下载OpenManus代码
有git的可以使用以下命令下载,没有的直接再github里面下载。
git clone https://github.com/mannaandpoem/OpenManus.git
这就下载完成了OpenManus的代码
下一步
(4)下载OpenManus必要的组件
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
这里我们China编程使用的清华镜像源进行安装,否则会非常的慢
这就把所有的组件都安装成功了。
2.2 LLM编程接口配置
OpenManus 需要对其使用的大语言模型(LLM)的应用程序编程接口(APIs)进行配置。按照以下步骤来设置你的配置。
(1)在配置目录中创建一个名为“config.toml”的文件。
官网给的是linux版本的,如下:
cp config/config.example.toml config/config.toml
我们需要改为Windows版本,如下:
copy config\config.example.toml config\config.phptoml
(2)编辑“config/config.toml”这个文件,添加你的 API 密钥并自定义设置。
官网使用的openai的,但是openai是收费的,我们使用免费的,再本地使用ollama。
下载ollama
下载地址如下所示:
Ollama
https://ollama.com/安装如下:
安装以后配置环境变量
查看是否安装成功
下载model
进入官网下载model,链接如下
mistral https://ollama.com/library/mistral
下载默认的7B 的mistral。如下:
这样,我们就安装好了。
修改配置文件
在OpenManus安装目录下(即为:C:\Users\18851\OpenManus\config)有一个config.toml文件,
这个文件如下:
# Global LLM configuration [llm] model = "claude-3-5-sonnet" base_url = "https://api.openai.com/v1" api_key = "sk-..." max_tokens = 4096 temperature = 0.0 # [llm] #AZURE OPENAI: # api_type= 'azure' # model = "YOUR_MODEL_NAME" #"gpt-4o-mini" # base_url = "{YOUR_AZURE_ENDPOINT.rstrip('/')}/openai/djseployments/{AZURE_DEPOLYMENT_ID}" # api_key = "AZURE API KEY" # max_tokens = 8096 # temperature = 0.0 # api_version="AZURE API VERSION" #"2024-08-01-preview" # Optional configuration for specChina编程ific LLM models [llm.vision] model = "claude-3-5-sonnet" base_url = "https://api.openai.com/v1" api_key = "sk-..."
由于openai是收费的,对上面的文件首先需要修改为自己本地部署的model、base_url以及api_key(本地部署的只需要修改model和url就可以不需要api_key),但是用在线的就需要填写,本文用的是在线的,修改为:
修改这个文件:
这样我们就算设置完了。
2.3 测试
重新cmd,激活open_manus这个环境。然后cd 到OpenManus这个根目录。如下:
调用主函数:
python main.py
如下:
发现,我们已经成功的跑起来了。
到此这篇关于OpenManus本地部署实战亲测有效,完全免费的文章就介绍到这了,更多相关OpenManus本地部署内容请搜索China编程(www.chinasem.cn)以前的文章或继续浏览下面的相关文章希望大家以后多多支持China编程(www.chinasem.cn)!
这篇关于OpenManus本地部署实战亲测有效完全免费(最新推荐)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!