本文主要是介绍'dataparallel' object has no attribute问题的解决(分布式预训练模型加载),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
在一些预训练模型的加载过程中,发现在进行forward的过程中,会碰到dataparallel' object has no attribute的问题。打印model信息,可以看到其为DataParallel对象,即在训练的过程中,采用了分布式训练的方法所得到的预训练模型。而model真正内容则包含在里面。
因此需要去掉DataParallel这一层,具体做法如下:
通过这样的方法就只可以实现对模型的加载。
这篇关于'dataparallel' object has no attribute问题的解决(分布式预训练模型加载)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!