使用deeplabv3+训练自己数据集（迁移学习）

2024-02-02 03:48
文章标签 数据 学习 使用 训练 迁移 deeplabv3

本文主要是介绍使用deeplabv3+训练自己数据集（迁移学习），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

概述

在前边一篇文章，我们讲了如何复现论文代码，使用pascal voc 2012数据集进行训练和验证，具体内容可以参考《deeplab v3+在pascal_voc 2012数据集上进行训练》，在本篇文章，我们主要讲述，如何对deeplab v3+进行迁移学习，也即如何使用deeplab v3+算法来训练个人的数据集。

1. 数据集准备

首先在开始之前我们先对数据集做一个简单的说明，由于deeplabv3+使用的TensorFlow框架，并且为了提高训练的速度，因此在训练开始前，需要转换成tfrecorde类型的文件来进行训练，因此，我们直接仿照pascal voc 2012数据集的数据结构来制作数据集，这样我们在训练所需图片准备完成之后可以直接复用转换tfrecorde的脚本。

1.1 标注图片，获取json文件

古人有句话：兵马未动粮草先行，而对深度学习来说，粮草毫无疑问指的是训练的数据，毕竟我们最终的模型都是依靠数据来喂养出来的🐶！因此选择一个趁手的标注工具很重要，此处我推荐使用labelme，标注起来相当方便。

下边我简单说一下lableme的安装方法(此处建议使用Anconda来实现环境隔离)。

  1. 安装Ancodna环境，

    执行如下命令：

    conda create --name=labelme python=2.7(这一步python=*选择自己的Python版本)
activate labelme

  2. 安装软件与依赖

    conda install pyqt
pip install labelme

  3. 启动与使用

    activate labelme
labelme

启动完成之后可以看到如下界面：

image-20200927143131553

标注的时候，将物体用线条框起来即可，例如：

img

1.2 转换json，获取png图片

在图像标注完成之后，在我们对应设置的文件夹下有许多json，这些json文件记录了所标注图片的位置以及图片内容等信息，根据这些信息我们可以转换成训练所需要的mask图(此处是png格式的图片)。

虽然labelme中包含labelme_json_to_dataset来帮助我们将json图片转成png图片，但是该命令有一个巨大的缺点就是无法实现批量转换，因此需要我们自己写一个批量转换的脚本来辅助转换。

一个简单的转换脚本如下：

import os
#path = 'C:/Users/tj/Desktop/dd'  # path为labelme标注后的.json文件存放的路径
path = 'C:\\Users\\Administrator\\Desktop\\第五次数据集扩充\\labels'
json_file = os.listdir(path)
for file in json_file:if(file.split('.')[1]=='json'):os.system("labelme_json_to_dataset  %s" % (path + '/' + file))  #
# C:/soft/ev4/venv/Scripts/labelme_json_to_dataset.exe  为labelme_json_to_dataset.exe的路径  path + '/' + file 为读取.json路径print(path + '/' + file)

通过该脚本每一个json文件都会生成一个以其名字命名的文件夹。

image-20200927151507055

进入该文件我们可以看到有如下四个文件：

img.png
lable.png
label_names.txt
label_viz.png

其中第二个文件使我们所需要的用于训练的文件，因此我们需要将该文件整合重命名成其原来json文件的文件名(主要原因是保证和原图的文件名保持一致，便于后续训练)。

从文件夹中提取图片并重命名，我也简单写了一个脚本，可以用于参考，具体内容如下：

import os
path = 'c:\\Users\\Administrator\\Desktop\\temp\\'
output='c:\\Users\\Administrator\\Desktop\\output\\'
fileDirs=os.listdir(path)
for fileDir in fileDirs:file=path+fileDir+"\\label.png"if(os.path.exists(file)):# 输出的文件直接以上层文件夹命名end= len(fileDir);fileName=fileDir[:end-5]os.rename(file,output+fileName+".png")

此处处理完成我们便会的到一系列的mask图片，此时我们便可以着手数据集的制作。

1.3 制作数据集

正如前边所说，我们在制作数据集的时候仿照的是pascal voc 2012的数据集，因此需要创建预期类似文件夹结构。

  1. 我们首先在models/research/deeplab/datasets文件夹下为自己的训练集创建一个目录，目录名称即自己的训练集名称。执行如下命令：
cd ~/models/research/deeplab/datasets
mkdir mydataset
cd mydataset
  1. 创建与voc数据集类似的文件夹
# 存放mask文件
mkdir SegmentationClassRaw
# 存放原图
mkdir JPEGImages
# 存放数据集描述文件
mkdir Segmentation
# 存放预训练权重，如不需要预训练权重可不创建
mkdir tf_initial_checkpoint
# 训练权重保存目录
mkdir train_logs
# 评估以及测试结果的生成目录
mkdir vis
# 存放tfrecorde

  1. 将训练数据放到指定文件夹中：

    1. SegmentationClassRaw：存放mask文件，也就是前边我们所转换提取的png图片
    2. JPEGImages：存放训练集、验证集以及测试集的原始图片
    3. Segmentation:存放数据集描述文件，包含三个文件train.txt、trainval.txt、val.txt
      1. train.txt:记录训练集的图片名称
      2. trainval.txt：该文件中所记录的内容，后续既会被当做训练集来训练，后续也会被当做验证集来做验证
      3. val.txt用以记录验证集的图片名称

  2. 转换成tfrecorde文件。

    在dataset目录下，执行如下命令：

    python3 "build_voc2012_data.py" \--image_folder="${IMAGE_FOLDER}" \--semantic_segmentation_folder="${SEMANTIC_SEG_FOLDER}" \--list_folder="${LIST_FOLDER}" \--image_format="jpg" \--output_dir="${OUTPUT_DIR}"

​ 执行成功后，会在tfrecorde目录下出现如下文件，证明转换成功：

image-20200927164917463

代码修改

在models/research/deeplab/datasets目录下：

  • 在remove_gt_colormap.py修改的内容如下:

51行左右，

old_raw_pic=np.array(Image.open(filename))
#原来像素比为0:1:2:3乘以50之后变成0:50:100:150
raw_pic=old_raw_pic*50
return raw_pic
  • 在data_generator.py中修改的内容：

104行左右

# has changed 增加数据集种类，以及训练验证集合的数量，修改物体类别3+1+1
_MYDATASET = DatasetDescriptor(splits_to_sizes={'train':392,'trainval':98,'val':5,},num_classes=5, # classes+label+ignore_labelignore_label=255,
)
#has changed_DATASETS_INFORMATION = {'cityscapes': _CITYSCAPES_INFORMATION,'pascal_voc_seg': _PASCAL_VOC_SEG_INFORMATION,'ade20k': _ADE20K_INFORMATION,'mydataset':_MYDATASET,
}

在models/research/deeplab/utils下

  • 在get_dataset_colormap.py文件中

在第41行左右，增加训练种类

# has changed
_MYDATASET='mydataset'

在388行左右，直接使用pascal的colormap

#has changed
elif dataset == _MYDATASET:
return create_pascal_label_colormap()
  • 在train_utils.py中修改的内容

153行左右，进行训练权重的修改。具体修改参考https://blog.csdn.net/jairana/article/details/83900226

# has changedignore_weight = 0label0_weight = 1  # 对应background，mask中灰度值0label1_weight = 10  # 对应a，mask中灰度值1label2_weight = 10  # 对应b，mask中灰度值2label3_weight = 10 # 对应c,mask中灰度值为3not_ignore_mask = tf.to_float(tf.equal(scaled_labels, 0)) * label0_weight + \tf.to_float(tf.equal(scaled_labels, 1)) * label1_weight + \tf.to_float(tf.equal(scaled_labels, 2)) * label2_weight + \tf.to_float(tf.equal(scaled_labels, 3)) * label3_weight + \tf.to_float(tf.equal(scaled_labels, ignore_label)) * ignore_weighttf.losses.softmax_cross_entropy(train_labels,tf.reshape(logits, shape=[-1, num_classes]),weights=not_ignore_mask,scope=loss_scope)# end change

228行，排除列表中增加logits

exclude_list = ['global_step','logits']

在目录models/research/deeplab/deprecated下

  • segmentation_dataset.py文件中

在90行，增加数据类别

#has changed_MYDATASET= DatasetDescriptor(splits_to_sizes={'train':392,'trainval':98,'val':5,},num_classes=5,ignore_label=255,#background、ignore_label、ignore_label，即label数+2)

在128行左右，注册新数据集

_DATASETS_INFORMATION = {'cityscapes': _CITYSCAPES_INFORMATION,'pascal_voc_seg': _PASCAL_VOC_SEG_INFORMATION,'ade20k': _ADE20K_INFORMATION,# has changed'mydataset':_MYDATASET
}

在models/research/deeplab/train.py目录下

158行左右,修改两个参数(使用所有的预训练权重，除了logits，因为如果是自己的数据集，对应的classes不同(这个我们前面已经设置不加载logits),可设置initialize_last_layer=False和last_layers_contain_logits_only=True)，可参考https://blog.csdn.net/u011974639/article/details/80948990

# has changed
flags.DEFINE_boolean('initialize_last_layer',False,'Initialize the last layer.')flags.DEFINE_boolean('last_layers_contain_logits_only', True,'Only consider logits as last layers or not.')

训练与验证

训练

执行如下命令开始进行训练:

python train.py \--logtostderr \--training_number_of_steps=5000 \--train_split="train" \--model_variant="xception_65" \--atrous_rates=6 \--atrous_rates=12 \--atrous_rates=18 \--output_stride=16 \--decoder_output_stride=4 \--train_crop_size="513,513" \--train_batch_size=12 \--dataset="mydataset" \--tf_initial_checkpoint='init_models/deeplabv3_pascal_train_aug/model.ckpt' \--train_logdir='datasets/mydataset/train_logs' \--dataset_dir='datasets/mydataset/tfrecord'

验证

python eval.py \--logtostderr \--eval_split="val" \--model_variant="xception_65" \--atrous_rates=6 \--atrous_rates=12 \--atrous_rates=18 \--output_stride=16 \--decoder_output_stride=4 \--eval_crop_size="1217,1921" \--checkpoint_dir='models/research/deeplab/datasets/mydataset/train_logs' \--eval_logdir='datasets/mydataset/eval' \--dataset_dir='datasets/mydataset/tfrecord' \--max_number_of_evaluations=1

遇到的如果问题与解决方案

  1. 无法找到slim。

    解决方法：进入models/research目录下执行

    export PYTHONPATH=$PYTHONPATH:`pwd`:`pwd`/slim:`pwd`/deeplab\

  2. 数据格式不支持，检查是否注册了自己的数据格式

这篇关于使用deeplabv3+训练自己数据集（迁移学习）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/669383。

相关文章

C#提取PDF表单数据的实现流程

C#提取PDF表单数据的实现流程

《C#提取PDF表单数据的实现流程》PDF表单是一种常见的数据收集工具,广泛应用于调查问卷、业务合同等场景,凭借出色的跨平台兼容性和标准化特点,PDF表单在各行各业中得到了广泛应用,本文将探讨如何使用... 目录引言使用工具C# 提取多个PDF表单域的数据C# 提取特定PDF表单域的数据引言PDF表单是一
阅读更多...
使用Python实现高效的端口扫描器

使用Python实现高效的端口扫描器

《使用Python实现高效的端口扫描器》在网络安全领域,端口扫描是一项基本而重要的技能,通过端口扫描,可以发现目标主机上开放的服务和端口,这对于安全评估、渗透测试等有着不可忽视的作用,本文将介绍如何使... 目录1. 端口扫描的基本原理2. 使用python实现端口扫描2.1 安装必要的库2.2 编写端口扫
阅读更多...
使用Python实现操作mongodb详解

使用Python实现操作mongodb详解

《使用Python实现操作mongodb详解》这篇文章主要为大家详细介绍了使用Python实现操作mongodb的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、示例二、常用指令三、遇到的问题一、示例from pymongo import MongoClientf
阅读更多...
SQL Server使用SELECT INTO实现表备份的代码示例

SQL Server使用SELECT INTO实现表备份的代码示例

《SQLServer使用SELECTINTO实现表备份的代码示例》在数据库管理过程中,有时我们需要对表进行备份,以防数据丢失或修改错误,在SQLServer中,可以使用SELECTINT... 在数据库管理过程中，有时我们需要对表进行备份，以防数据丢失或修改错误。在 SQL Server 中，可以使用 SE
阅读更多...
使用Python合并 Excel单元格指定行列或单元格范围

使用Python合并 Excel单元格指定行列或单元格范围

《使用Python合并Excel单元格指定行列或单元格范围》合并Excel单元格是Excel数据处理和表格设计中的一项常用操作,本文将介绍如何通过Python合并Excel中的指定行列或单... 目录python Excel库安装Python合并Excel 中的指定行Python合并Excel 中的指定列P
阅读更多...
浅析Rust多线程中如何安全的使用变量

浅析Rust多线程中如何安全的使用变量

《浅析Rust多线程中如何安全的使用变量》这篇文章主要为大家详细介绍了Rust如何在线程的闭包中安全的使用变量,包括共享变量和修改变量,文中的示例代码讲解详细,有需要的小伙伴可以参考下... 目录1. 向线程传递变量2. 多线程共享变量引用3. 多线程中修改变量4. 总结在Rust语言中，一个既引人入胜又可
阅读更多...
一文详解Python中数据清洗与处理的常用方法

一文详解Python中数据清洗与处理的常用方法

《一文详解Python中数据清洗与处理的常用方法》在数据处理与分析过程中,缺失值、重复值、异常值等问题是常见的挑战,本文总结了多种数据清洗与处理方法,文中的示例代码简洁易懂,有需要的小伙伴可以参考下... 目录缺失值处理重复值处理异常值处理数据类型转换文本清洗数据分组统计数据分箱数据标准化在数据处理与分析过
阅读更多...
大数据小内存排序问题如何巧妙解决

大数据小内存排序问题如何巧妙解决

《大数据小内存排序问题如何巧妙解决》文章介绍了大数据小内存排序的三种方法：数据库排序、分治法和位图法,数据库排序简单但速度慢,对设备要求高；分治法高效但实现复杂；位图法可读性差,但存储空间受限... 目录三种方法：方法概要数据库排序（http://www.chinasem.cn对数据库设备要求较高）分治法（常
阅读更多...
golang1.23版本之前 Timer Reset方法无法正确使用

golang1.23版本之前 Timer Reset方法无法正确使用

《golang1.23版本之前TimerReset方法无法正确使用》在Go1.23之前,使用`time.Reset`函数时需要先调用`Stop`并明确从timer的channel中抽取出东西,以避... 目录golang1.23 之前 Reset ​到底有什么问题golang1.23 之前到底应该如何正确的
阅读更多...
详解Vue如何使用xlsx库导出Excel文件

详解Vue如何使用xlsx库导出Excel文件

《详解Vue如何使用xlsx库导出Excel文件》第三方库xlsx提供了强大的功能来处理Excel文件,它可以简化导出Excel文件这个过程,本文将为大家详细介绍一下它的具体使用,需要的小伙伴可以了解... 目录1. 安装依赖2. 创建vue组件3. 解释代码在Vue.js项目中导出Excel文件，使用第三
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2