多机多卡分布式训练的一种简易实现

2024-08-29 01:12

本文主要是介绍多机多卡分布式训练的一种简易实现,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

  • 1. 前言
  • 2. pssh技术
    • 2.1 pssh简介
    • 2.2 pssh使用
  • 3. 多机互连
  • 4. 一键分布式训练
    • 4.1 全局变量
    • 4.2 在tmux中启动run.sh
    • 4.3 在master节点上进行启动

1. 前言

在没有机器学习平台(例如阿里云的PAI,美团的万象等)的情况下,启动多机多卡分布式训练通常需要手动在每台机器上启动相应的训练脚本,而启动脚本的前提是要先ssh连接到这台机器,甚是麻烦。

本文给出了一种简易的方法,只需要在master节点上启动一次脚本,就可以同时在master节点和所有的worker节点上启动对应的训练脚本,且无需对训练脚本配置任何参数。

2. pssh技术

2.1 pssh简介

pssh 又称 Parallel SSH,其核心是ssh,用于并行地在多台机器上执行相同的命令。

安装 pssh

pip install git+https://github.com/lilydjwg/pssh

如果不从git上安装最新版的,可能会在使用的过程中出现 ModuleNotFoundError: No module named 'version' 这个错误,原因是旧版的 pssh 默认采用绝对导入的方式,而 version 实际上是psshlib下的一个Python文件。

要使用 pssh,我们通常需要一个 host_file,该文件的每一行都存放了一个「节点」,以 user@host[:port] 的格式进行表示。特别地,当端口号为 22 时,:port 可以省略。

⚠️ 执行 pssh 命令的主机通常是master节点,如果没有配置master节点到其他所有worker节点的免密登录,那么 pssh 将执行失败。

host_file 通过 -h 选项进行指定,除此之外,我们还可以使用 -i 选项,它将对应节点的stdout和stderr都重定向至master节点。

2.2 pssh使用

假设 host_file 的内容如下(一共有4个worker节点):

root@10.231.95.171
root@10.231.95.172
root@10.231.95.173
root@10.231.95.174

我们在master节点上执行

pssh -ih host_file "echo 1"

那么4个work节点上均会执行 echo 1 这个命令,且结果会返回给master节点。

3. 多机互连

前面提到过,pssh 能够成功执行的前提是master节点可以免密登录到所有的worker节点。考虑到现实情况中,任何一个节点都有可能成为master节点,因此我们需要配置两两节点之间的免密登录。

假设有 N N N 台机器,要实现上述的需求,需要配置 2 ⋅ C N 2 + N = N 2 2\cdot C_N^2+N=N^2 2CN2+N=N2 次(master节点也会参与训练,所以需要确保自己能够免密登录自己),手动去一个个 ssh-copy-id 显然是不现实的,我们需要一个自动化的Shell脚本来帮助我们完成这个需求。

这里依然使用 host_file,并假设在互连阶段,所有的节点是等同的。到了实际训练阶段,第一行对应的节点将作为master节点。为简便起见,假设所有节点对外开放的端口号都是相同的。

MACHINES=()
PORT=""while IFS= read -r line; doif [[ "$line" =~ ":" ]]; thenmachine=$(echo "$line" | awk -F':' '{print $1}')[ -z "$PORT" ] && PORT=$(echo "$line" | awk -F':' '{print $2}')elsemachine=$line[ -z "$PORT" ] && PORT=22fiMACHINES+=("$machine")
done < "./host_file"

在获取了每台机器的地址后,我们可以开一个哈希表,用来存储每台机器上的公钥。注意,在存储之前,需要先检查当前机器上是否存在公钥。

declare -A PUBLIC_KEYSfor machine in "${MACHINES[@]}"; doPUBLIC_KEYS["$machine"]=$(ssh -p $PORT "$machine" '[[ -f ~/.ssh/id_rsa.pub ]] || ssh-keygen -t rsa -f ~/.ssh/id_rsa -q -N ""; cat ~/.ssh/id_rsa.pub')
done

之后,对于 host_file 里列出的每台机器,我们都把 PUBLIC_KEYS 里存储的所有公钥注入其中,这个过程的时间复杂度是 O ( N 2 ) O(N^2) O(N2) 的。

for machine in "${MACHINES[@]}"; dofor key in "${PUBLIC_KEYS[@]}"; dossh -p $PORT "$machine" "echo $key >> ~/.ssh/authorized_keys"done
done

完整的Shell脚本如下:

#!/bin/bashMACHINES=()
PORT=""
declare -A PUBLIC_KEYSwhile IFS= read -r line; doif [[ "$line" =~ ":" ]]; thenmachine=$(echo "$line" | awk -F':' '{print $1}')[ -z "$PORT" ] && PORT=$(echo "$line" | awk -F':' '{print $2}')elsemachine=$line[ -z "$PORT" ] && PORT=22fiMACHINES+=("$machine")
done < "./host_file"for machine in "${MACHINES[@]}"; doPUBLIC_KEYS["$machine"]=$(ssh -p $PORT "$machine" '[[ -f ~/.ssh/id_rsa.pub ]] || ssh-keygen -t rsa -f ~/.ssh/id_rsa -q -N ""; cat ~/.ssh/id_rsa.pub')
donefor machine in "${MACHINES[@]}"; dofor key in "${PUBLIC_KEYS[@]}"; dossh -p $PORT "$machine" "echo $key >> ~/.ssh/authorized_keys"done
done

4. 一键分布式训练

4.1 全局变量

假设训练脚本为 run.sh,在多机多卡情景下,该脚本通常需要接收5个参数,如下:

GPUS_PER_NODE=${1}
NNODES=${2}
NODE_RANK=${3}
MASTER_ADDR=${4}
MASTER_PORT=${5}

以Megatron-LM框架为例,这五个参数将用于后续 torchrun 进程的启动:

#!/bin/bashexport CUDA_DEVICE_MAX_CONNECTIONS=1
export OMP_NUM_THREADS=1LAUNCHER=" \torchrun \--nproc_per_node ${GPUS_PER_NODE} \--nnodes ${NNODES} \--node_rank ${NODE_RANK} \--master_addr ${MASTER_ADDR} \--master_port ${MASTER_PORT} \"export CMD=" \${LAUNCHER} \${SRC_PATH} \${OTHER_MEGATRON_ARGS} \"killall python
echo ${CMD}
${CMD} 2>&1 | tee ${LOG_PATH}

其中 GPUS_PER_NODE 通常是8,NNODES 是参与训练的机器的数量,NODE_RANK 是每台机器的编号,MASTER_* 是master节点的相关参数。可以看出,只有 NODE_RANK 会取决于当前节点,而其他参数都是可以事先决定的。该参数可以由每台机器的内网IPhost_file 中的行索引来决定。

为了代码的可维护性,将这五个变量的计算单独放入一个Shell脚本里是一个不错的选择(假设脚本名为 global_vars.sh)。每当我们要在一台机器上启动 run.sh 时,可以先执行 ./global_vars.sh,这样一来,独属于这台机器的五个变量就会被导入,训练就能够有条不紊地进行。

注意到当我们使用 pssh 并行地连接到每台机器上执行 run.sh 时,每台机器是不知道自己的内网IP的,我们只能通过 hostname -I 来获取当前机器的所有IP,然后尝试去一个个匹配 host_file,如果匹配成功,则取相应的行索引作为当前机器的 NODE_RANK

首先读取 host_file 并通过正则表达式抓取其中的所有IP,然后通过 hostname -I 来获取本机的所有IP:

HOST_FILE=./host_file
host_ips=$(grep -oE '([0-9]{1,3}\.){3}[0-9]{1,3}' ${HOST_FILE})
local_ips=$(hostname -I)

接下来就可以基于这些信息计算之前上文提到的五个变量了:

GPUS_PER_NODE=8  # 视实际情况写死
NNODES=$(awk 'END{print NR}' ${HOST_FILE})
NODE_RANK=-1
MASTER_ADDR=$(echo "$host_ips" | head -n 1)
MASTER_PORT=$(shuf -n 1 -i 10000-65535)

假设 host_ips 的长度为 n n nlocal_ips 的长度为 m m m,如果通过暴力遍历去匹配的话,时间复杂度将达到惊人的 O ( n m ) O(nm) O(nm),这是不可接受的。事实上,我们可以事先开一个哈希表将每个host_ip及其对应的索引存下来(类似于 unordered_map<string, int>),之后在遍历 local_ips 的时候,我们就可以在 O ( 1 ) O(1) O(1) 的时间内完成查找,时间复杂度会降低至 O ( n + m ) O(n+m) O(n+m)

declare -A host_ip_map
count=0for host_ip in $host_ips; dohost_ip_map["$host_ip"]=$countcount=$((count + 1))
donefor local_ip in $local_ips; doif [[ -n "${host_ip_map[$local_ip]}" ]]; thenNODE_RANK=${host_ip_map[$local_ip]}breakfi
done[ $NODE_RANK -eq -1 ] && echo "Failed to set NODE_RANK: Local IP not found in host file." && exit 1

完整的 global_vars.sh 的内容如下:

#!/bin/bashHOST_FILE=./host_file
host_ips=$(grep -oE '([0-9]{1,3}\.){3}[0-9]{1,3}' ${HOST_FILE})
local_ips=$(hostname -I)GPUS_PER_NODE=8
NNODES=$(awk 'END{print NR}' ${HOST_FILE})
NODE_RANK=-1
MASTER_ADDR=$(echo "$host_ips" | head -n 1)
MASTER_PORT=$(shuf -n 1 -i 10000-65535)declare -A host_ip_map
count=0for host_ip in $host_ips; dohost_ip_map["$host_ip"]=$countcount=$((count + 1))
donefor local_ip in $local_ips; doif [[ -n "${host_ip_map[$local_ip]}" ]]; thenNODE_RANK=${host_ip_map[$local_ip]}breakfi
done[ $NODE_RANK -eq -1 ] && echo "Failed to set NODE_RANK: Local IP not found in host file." && exit 1

4.2 在tmux中启动run.sh

4.1节中的所有工作仅仅是为了计算五个变量,这些变量将广播至后续的子Shell中以帮助启动 run.sh。需要注意的是,直接启动 run.sh 往往是很危险的,一种合理的做法是创建一个tmux的session,并在该session内启动 run.sh。我们可以通过指定 -d 选项以在后台启动tmux。

假设脚本名为 distributed_run.sh,其内容如下:

#!/bin/bash. ./global_vars.shENV_PATH=/path/to/your/conda_env
TMUX_NAME=pretrain  # 可自定义名称tmux kill-session -t ${TMUX_NAME} 2>/dev/null
tmux new -ds ${TMUX_NAME}
tmux send-keys -t ${TMUX_NAME} "conda activate ${ENV_PATH}" C-mMEGATRON_PATH=/path/to/your/megatron
SCRIPT_PATH=${MEGATRON_PATH}/run.sh
TRAIN_CMD="bash ${SCRIPT_PATH} ${GPUS_PER_NODE} ${NNODES} ${NODE_RANK} ${MASTER_ADDR} ${MASTER_PORT}"tmux send-keys -t ${TMUX_NAME} "${TRAIN_CMD}" C-m

有了该脚本,我们只需要并行地在每台机器上启动这个脚本就可以启动分布式训练了。

4.3 在master节点上进行启动

我们需要在master节点上执行pssh以在所有参与训练的节点上启动 distributed_run.sh

⚠️ 注意,以上提到的所有脚本都应当放在共享存储下,且其中的路径应当尽可能地采用绝对路径,这样无论在哪台机器上执行脚本,都不会出现 No such file or directory 的报错了。

截至目前,本文提到的所有脚本均在同一目录下。假设在master节点上一键启动的脚本名为 launch.sh,我们可以先获取该脚本所在目录的绝对路径,然后将这一路径作为环境变量广播至所有子Shell中,这样之后的所有Shell都可以使用这一绝对路径了。

#!/bin/bashDC_WORK_DIR=$(realpath "$(dirname "$0")")
pssh -ih host_file "export DC_WORK_DIR=${DC_WORK_DIR}; bash ${DC_WORK_DIR}/distributed_run.sh"

其他脚本中的相对路径也要改成带有 ${DC_WORK_DIR} 的绝对路径,之后,我们只需要在master节点上执行如下命令,就可以一键启动多机多卡分布式训练了:

bash launch.sh

这篇关于多机多卡分布式训练的一种简易实现的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1116416

相关文章

hdu1043(八数码问题,广搜 + hash(实现状态压缩) )

利用康拓展开将一个排列映射成一个自然数,然后就变成了普通的广搜题。 #include<iostream>#include<algorithm>#include<string>#include<stack>#include<queue>#include<map>#include<stdio.h>#include<stdlib.h>#include<ctype.h>#inclu

【C++】_list常用方法解析及模拟实现

相信自己的力量,只要对自己始终保持信心,尽自己最大努力去完成任何事,就算事情最终结果是失败了,努力了也不留遗憾。💓💓💓 目录   ✨说在前面 🍋知识点一:什么是list? •🌰1.list的定义 •🌰2.list的基本特性 •🌰3.常用接口介绍 🍋知识点二:list常用接口 •🌰1.默认成员函数 🔥构造函数(⭐) 🔥析构函数 •🌰2.list对象

【Prometheus】PromQL向量匹配实现不同标签的向量数据进行运算

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 🏆 作者简介:景天科技苑 🏆《头衔》:大厂架构师,华为云开发者社区专家博主,阿里云开发者社区专家博主,CSDN全栈领域优质创作者,掘金优秀博主,51CTO博客专家等。 🏆《博客》:Python全栈,前后端开发,小程序开发,人工智能,js逆向,App逆向,网络系统安全,数据分析,Django,fastapi

让树莓派智能语音助手实现定时提醒功能

最初的时候是想直接在rasa 的chatbot上实现,因为rasa本身是带有remindschedule模块的。不过经过一番折腾后,忽然发现,chatbot上实现的定时,语音助手不一定会有响应。因为,我目前语音助手的代码设置了长时间无应答会结束对话,这样一来,chatbot定时提醒的触发就不会被语音助手获悉。那怎么让语音助手也具有定时提醒功能呢? 我最后选择的方法是用threading.Time

Android实现任意版本设置默认的锁屏壁纸和桌面壁纸(两张壁纸可不一致)

客户有些需求需要设置默认壁纸和锁屏壁纸  在默认情况下 这两个壁纸是相同的  如果需要默认的锁屏壁纸和桌面壁纸不一样 需要额外修改 Android13实现 替换默认桌面壁纸: 将图片文件替换frameworks/base/core/res/res/drawable-nodpi/default_wallpaper.*  (注意不能是bmp格式) 替换默认锁屏壁纸: 将图片资源放入vendo

C#实战|大乐透选号器[6]:实现实时显示已选择的红蓝球数量

哈喽,你好啊,我是雷工。 关于大乐透选号器在前面已经记录了5篇笔记,这是第6篇; 接下来实现实时显示当前选中红球数量,蓝球数量; 以下为练习笔记。 01 效果演示 当选择和取消选择红球或蓝球时,在对应的位置显示实时已选择的红球、蓝球的数量; 02 标签名称 分别设置Label标签名称为:lblRedCount、lblBlueCount

Kubernetes PodSecurityPolicy:PSP能实现的5种主要安全策略

Kubernetes PodSecurityPolicy:PSP能实现的5种主要安全策略 1. 特权模式限制2. 宿主机资源隔离3. 用户和组管理4. 权限提升控制5. SELinux配置 💖The Begin💖点点关注,收藏不迷路💖 Kubernetes的PodSecurityPolicy(PSP)是一个关键的安全特性,它在Pod创建之前实施安全策略,确保P

工厂ERP管理系统实现源码(JAVA)

工厂进销存管理系统是一个集采购管理、仓库管理、生产管理和销售管理于一体的综合解决方案。该系统旨在帮助企业优化流程、提高效率、降低成本,并实时掌握各环节的运营状况。 在采购管理方面,系统能够处理采购订单、供应商管理和采购入库等流程,确保采购过程的透明和高效。仓库管理方面,实现库存的精准管理,包括入库、出库、盘点等操作,确保库存数据的准确性和实时性。 生产管理模块则涵盖了生产计划制定、物料需求计划、

C++——stack、queue的实现及deque的介绍

目录 1.stack与queue的实现 1.1stack的实现  1.2 queue的实现 2.重温vector、list、stack、queue的介绍 2.1 STL标准库中stack和queue的底层结构  3.deque的简单介绍 3.1为什么选择deque作为stack和queue的底层默认容器  3.2 STL中对stack与queue的模拟实现 ①stack模拟实现

基于51单片机的自动转向修复系统的设计与实现

文章目录 前言资料获取设计介绍功能介绍设计清单具体实现截图参考文献设计获取 前言 💗博主介绍:✌全网粉丝10W+,CSDN特邀作者、博客专家、CSDN新星计划导师,一名热衷于单片机技术探索与分享的博主、专注于 精通51/STM32/MSP430/AVR等单片机设计 主要对象是咱们电子相关专业的大学生,希望您们都共创辉煌!✌💗 👇🏻 精彩专栏 推荐订阅👇🏻 单片机