本文主要是介绍大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
按照文档操作:
单卡跑完训练:
按照要求更改微调的数据:
完成微调数据的脚本生成:
修改配置文件:
替换好文件后启动:
启动后终端如图:
用于微调的一些数据显示:
训练时间,loss:
可见模型是经过微调数据反复纠正,慢慢被引导向微调设计者所想的方向:
3个epoch完:
参数转换、合并:
更改路径为现存的参数:
用streamlit进行启动模型,开始对话:
但是有错误 ,到DDL了。
这篇关于大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!