本文主要是介绍MLU370配置环境以及算子转换流程,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
在MLU370上运行程序,需要把项目代码算子转化一下,算子转换的代码:
python /torch/src/catch/tools/torch_gpu2mlu/torch_gpu2mlu.py -i /路径/
例如:python /torch/src/catch/tools/torch_gpu2mlu/torch_gpu2mlu.py -i /workspace/volume/shixisheng/zjb/StructBERT-base/
相当于把整个项目文件夹都算子转换了
然后建立环境装包
跟本地一样
就是如果你要装transformers的话,需要按照如下方式安装:
git clone -bv4.32.0 https://githubfast.com/huggingface/transformers.git
安装完成后需进行编译,算子转换
python /torch/src/catch/tools/torch_gpu2mlu/torch_gpu2mlu.py -i /transformers所在文件夹路径/
例如:python /torch/src/catch/tools/torch_gpu2mlu/torch_gpu2mlu.py -i /workspace/volume/ysl/zjb/transformers/
运行完上一步会出现一个名为transformers_mlu的文件夹,再安装下面的
pip install -e ./transformers_mlu/
到这transformers就装好了
同样的方式安装accelerate==0.22.0 https://githubfast.com/huggingface/accelerate.git
再算子转换再安装
如果你需要装deepspeed的话,需要装另外一个文件,文件见附件。
除了这三个包这样安装,其他的都是直接pip install
然后就是运行代码 和本地一样
简而言之,就是项目文件夹要先转换一下,然后装包的时候,特殊的三个需要先转换再安装,其他都是正常安装,其他都和本地一样。
如果要装deepspeed的话,就安装这个文件
其他:如果需要四卡运行test.py请使用这个命令:
export MLU_VISIBLE_DEVICES=0,1,2,3 && python test.py
这篇关于MLU370配置环境以及算子转换流程的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!