本文主要是介绍【问题解决】| ControlNet训练为什么这么慢???关于模型量与显卡资源认知关系的建立,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
我觉得做深度学习相关的开发,要深刻认识到自己的显卡资源有多少,以及对应能做一些什么研究
比如今天的我就对这部分认识不深,终归还是实践代码少~缺乏经验
我觉得之后要多跑代码,多跑工程项目啊。
我今天做了一件什么事情
我企图在一张3080上训练5.3GB的ControlNet
我一开始没啥概念,反正就各种折腾好环境开始训练了,忽然发现,哦?为什么这么慢,慢的离大谱
1个epoch需要12500次迭代,而一次迭代4分钟,大约需要八百多个小时
我不禁好奇
ControlNet训练为什么这么慢?
本质上他其实是属于大模型范畴了
我后来看了一下,Controlnet大约十亿参数
要知道某些开源大语言模型基本也就是几十亿起步
好家伙,原来如此
所以,一般来说 几个GB的模型 就已经有亿个往上的参数了,训练自然会慢~
这篇关于【问题解决】| ControlNet训练为什么这么慢???关于模型量与显卡资源认知关系的建立的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!