本文主要是介绍谷歌Gemma大模型部署记录,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
谷歌Gemma大模型部署记录
配置信息
1.系统:Ubuntu20
2.显卡:RTX3060 6G
一、安装Ollama
官网地址:https://ollama.com/download/linux
按照指令安装
curl -fsSL https://ollama.com/install.sh | sh
二、运行模型
输入指令:
ollama run gemma:2b
可选模型
三、chatBox调用Gemma模型
1.安装chatBox软件
安装包地址:https://github.com/Bin-Huang/chatbox
在git的Releases中下载对应系统版本的安装包。
2.配置Gemma模型
在chatBox软件中,配置Gemma模型
3.测试效果
这篇关于谷歌Gemma大模型部署记录的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!