本文主要是介绍dell r720部署chatglm3,使用nvidia tesla P40+M40,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
dell r720的idrac的地址默认是192.168.1.110,root 默认密码calvin
fatal Error! All channnels have been disabled due to all DIMMs failed the Memoey 是什么意思
Dell PowerEdge T320服务器 开机显示
Fatal Errort!all channells have been disabled due to DIMMS falled the memory
原因:内存自检失败,可能是太久未使用,有静电等原因。
解决:取出内存条洗手擦拭,后内存条逐条插入实验开机。
ubuntu 18.04 两张GPU显卡,nvidia-smi只显示一张
the memory configuration is not optimal for opration memory must be installed without gaps. The DIMM has been disabled DIMM A5
Dell R720内存安装,
安装规则:https://baijiahao.baidu.com/s?id=1689576546006436379&wfr=spider&for=pc
一、当使用1个cpu,也就是单cpu时,32G内存的内存槽插法:
2条16G内存的话,分别插在A1,A3内存槽。
4条8G内存的话,分别插在A1,A2,A3,A4内存槽。
8条4G内存的话,分别插在A1,A2,A3,A4,A5,A6,A7,A8内存槽。
二、当使用2个cpu,也就是双cpu时,64G内存的内存槽插法:
4条16G内存的话,分别插在A1,A3和B1,B3内存槽。
8条8G内存的话,分别插在A1,A2,A3,A4和B1,B2,B3,B4内存槽。
16条4G内存的话,分别插在A1,A2,A3,A4,A5,A6,A7,A8和B1,B2,B3,B4,B5,B6,B7,B8内存槽。
参考我的另一篇文章部署chatglm,ubuntu18.4(后改为20.4)部署chatglm2并进行基于 P-Tuning v2 的微调-CSDN博客
根据chatglm3官方文档
https://github.com/THUDM/ChatGLM3
还是很容易部署的,注意一些依赖库的版本问题。
这边使用的是双GPU,结果中也是很容易看到,P40占用显存6.236GB/24.576GB,
M40占用显存5.954G/24.576GB,共计12.190GB。这是chatglm-6B无量化所需要的最低显存,低于12G的不要尝试或者需要进行量化之后才能跑!!!
最后放结果图:
如果没办法share link,需要下载个文件放到指定位置
这篇关于dell r720部署chatglm3,使用nvidia tesla P40+M40的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!