dell r720部署chatglm3,使用nvidia tesla P40+M40

2023-11-07 02:20

本文主要是介绍dell r720部署chatglm3,使用nvidia tesla P40+M40,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

dell r720的idrac的地址默认是192.168.1.110,root 默认密码calvin

fatal Error! All channnels have been disabled due to all DIMMs failed the Memoey 是什么意思

Dell PowerEdge T320服务器 开机显示

Fatal Errort!all channells have been disabled due to DIMMS falled the memory

原因:内存自检失败,可能是太久未使用,有静电等原因。
解决:取出内存条洗手擦拭,后内存条逐条插入实验开机。
ubuntu 18.04 两张GPU显卡,nvidia-smi只显示一张

the memory configuration is not optimal for opration memory must be installed without gaps. The DIMM has been disabled DIMM A5

 Dell R720内存安装,

安装规则:https://baijiahao.baidu.com/s?id=1689576546006436379&wfr=spider&for=pc

一、当使用1个cpu,也就是单cpu时,32G内存的内存槽插法:

2条16G内存的话,分别插在A1,A3内存槽。

4条8G内存的话,分别插在A1,A2,A3,A4内存槽。

8条4G内存的话,分别插在A1,A2,A3,A4,A5,A6,A7,A8内存槽。

二、当使用2个cpu,也就是双cpu时,64G内存的内存槽插法:

4条16G内存的话,分别插在A1,A3和B1,B3内存槽。

8条8G内存的话,分别插在A1,A2,A3,A4和B1,B2,B3,B4内存槽。

16条4G内存的话,分别插在A1,A2,A3,A4,A5,A6,A7,A8和B1,B2,B3,B4,B5,B6,B7,B8内存槽。

参考我的另一篇文章部署chatglm,ubuntu18.4(后改为20.4)部署chatglm2并进行基于 P-Tuning v2 的微调-CSDN博客

 根据chatglm3官方文档

https://github.com/THUDM/ChatGLM3

还是很容易部署的,注意一些依赖库的版本问题。

 这边使用的是双GPU,结果中也是很容易看到,P40占用显存6.236GB/24.576GB,

M40占用显存5.954G/24.576GB,共计12.190GB。这是chatglm-6B无量化所需要的最低显存,低于12G的不要尝试或者需要进行量化之后才能跑!!!

最后放结果图:

如果没办法share link,需要下载个文件放到指定位置

这篇关于dell r720部署chatglm3,使用nvidia tesla P40+M40的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/360604

相关文章

闲置电脑也能活出第二春?鲁大师AiNAS让你动动手指就能轻松部署

对于大多数人而言,在这个“数据爆炸”的时代或多或少都遇到过存储告急的情况,这使得“存储焦虑”不再是个别现象,而将会是随着软件的不断臃肿而越来越普遍的情况。从不少手机厂商都开始将存储上限提升至1TB可以见得,我们似乎正处在互联网信息飞速增长的阶段,对于存储的需求也将会不断扩大。对于苹果用户而言,这一问题愈发严峻,毕竟512GB和1TB版本的iPhone可不是人人都消费得起的,因此成熟的外置存储方案开

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

pdfmake生成pdf的使用

实际项目中有时会有根据填写的表单数据或者其他格式的数据,将数据自动填充到pdf文件中根据固定模板生成pdf文件的需求 文章目录 利用pdfmake生成pdf文件1.下载安装pdfmake第三方包2.封装生成pdf文件的共用配置3.生成pdf文件的文件模板内容4.调用方法生成pdf 利用pdfmake生成pdf文件 1.下载安装pdfmake第三方包 npm i pdfma

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

git使用的说明总结

Git使用说明 下载安装(下载地址) macOS: Git - Downloading macOS Windows: Git - Downloading Windows Linux/Unix: Git (git-scm.com) 创建新仓库 本地创建新仓库:创建新文件夹,进入文件夹目录,执行指令 git init ,用以创建新的git 克隆仓库 执行指令用以创建一个本地仓库的