本文主要是介绍Lava多模态大模型调试(基于vscode框架),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
文章目录
- 前言
- 一、整体概括
- 二、launch.json文件配置
- 三、调试展示
前言
之前博客这里介绍LLava1.5多模态大模型的安装、训练、预测等。但对于你想查看源码或多或少都有些麻烦,也不利于代码调试。基于此,本文是一篇基于vscode框架调试llava大模型的教程。
一、整体概括
我是在一张4090显卡调试llava代码,使用vscode编译器调试。我之所以能调试是我更改llava层,如下图。至于,你想了解环境安装或数据处理等,请参考我之前博客这里。本文是大致说明vscode调试代码。
二、launch.json文件配置
之前,一直不太会使用vscode配置大模型训练与预测参数,但你掌握了其launch.json配置,你将会觉得简单。你想了解详细,也可参考我的博客这里,而llava模型配置如下:
{"version": "0.2.0","configurations": [{"name": "finetune_llava_lora","type": "python","request": "launch",//"python": "/home/miniconda3/envs/dp/bin/python", // 指定python解释器"program": "/home/anaconda3/envs/llava/bin/deepspeed","console": "integratedTermina
这篇关于Lava多模态大模型调试(基于vscode框架)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!