多小卷积核代替大卷积核——VGGNet

2023-11-07 19:30
文章标签 卷积 代替 vggnet

本文主要是介绍多小卷积核代替大卷积核——VGGNet,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

VGGNet——Visual Geometry Group

文章目录

  • VGGNet——Visual Geometry Group
    • 简介
      • 主要贡献
    • 基本原理
      • 预处理
      • 数据增强
      • 参数初始化
    • 网络结构
      • 整体架构
      • 前五层卷积层
      • 后三层全连接层
    • 模型评估

简介

2014年,牛津大学计算机视觉组和Google DeepMind公司的研究员一起研发出了新的深度卷积神经网络:VGGNet,并取得了ILSVRC2014比赛分类项目的第二名(第一名是GoogLeNet,也是同年提出的)和定位项目的第一名。

VGGNet可以看成是加深版的AlexNet,5层卷积层、3层全连接层、softmax层,层与层时间使用max-pooling,激活函数均为ReLU。

主要贡献

  1. 使用多个小卷积核构成的卷积层代替较大的卷积层,两个3x3卷积核的堆叠相对于5x5卷积核的视野,三个3x3卷积核的堆叠相当于7x7卷积核的视野。一方面减少参数,另一方面相当于进行了更多的非线性映射,可以增加拟合能力。

    img

  2. 小池化核,相较于AlexNet的的3x3的池化核,VGG全部采用2x2的池化核。

  3. 更多的卷积核使特征图的通道数更多,特征提取更全面。第一层通道数为64,后面每层均翻倍,最多到512个通道。

  4. 测试阶段不使用全连接层。而替换为三个卷积层,从而使得不再局限于固定尺寸的输入,可以接受任意宽或高。具体如下图。

img

基本原理

预处理

每一个像素减去均值。

数据增强

VGGNet使用Multi-Scale的方法做数据增强,将原始图像缩放到不同尺寸S,然后再随机裁切224x224的图片,可以很好地扩充数据量,防止过拟合。

参数初始化

虽然网络的层数加深了,但是VGGNet比AlexNet收敛更快。这是因为VGGNet在特定的层使用了预训练的数据进行参数的初始化。

对于较浅的网络,则可以直接使用随机数随机初始化;对于较深的网络,则使用前面已经训练好的较浅网络中的参数值对前几层的卷积层和最后的全连接层进行初始化。

网络结构

整体架构

VGGNet的整体架构如图,六中网络结构使用不同数量的卷积核:

img

每种网络结构都延续了AlexNet的架构设计,5卷积层、3全连接层,区别就在于每一层所使用的卷积核数量、尺寸不同。根据层数的不同,又分别称作VGGNet16,VGGNet19等。值得一提的是,虽然网络从11层增加到19层,但是参数并没有很明显的增加,这是因为参数主要集中在全连接层。

以VGGNet16为例:

img

前五层卷积层

卷积层使用的卷积核均为3x3,stride为1,padding为1。池化层使用最大池化,size2x2,stride为2。

五层的卷积核数量:2 → \rightarrow 2 → \rightarrow 3 → \rightarrow 3 → \rightarrow 3。

卷积层深度:64 → \rightarrow 128 → \rightarrow 256 → \rightarrow 512 → \rightarrow 512。

特征图尺寸:224 → \rightarrow 112 → \rightarrow 56 → \rightarrow 28 → \rightarrow 14 → \rightarrow 7。

后三层全连接层

同AlexNet。

img

模型评估

论文作者对A、A-LRN、B、C、D、E共6种网络结构进行评估,错误率如下:

img

简单分析表格:

  1. 在总层数为11层时,LRN层并没有带来性能的提升,相反还使错误率提升了。
  2. 随着网络层数的增加,分类的性能明显提升。而VGG19相较于VGG16提升并不明显,所以一般使用VGG16。

reference:

大话CNN经典模型:VGGNet

这篇关于多小卷积核代替大卷积核——VGGNet的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/365800

相关文章

17 通过ref代替DOM用来获取元素和组件的引用

重点 ref :官网给出的解释是: ref: 用于注册对元素或子组件的引用。引用将在父组件的$refs 对象下注册。如果在普通DOM元素上使用,则引用将是该元素;如果在子组件上使用,则引用将是组件实例: <!-- vm.$refs.p will be the DOM node --><p ref="p">hello</p><!-- vm.$refs.child will be the c

基于深度学习 卷积神经网络resnext50的中医舌苔分类系统

项目概述 本项目旨在通过深度学习技术,特别是利用卷积神经网络(Convolutional Neural Networks, CNNs)中的ResNeXt50架构,实现对中医舌象图像的自动分类。该系统不仅能够识别不同的舌苔类型,还能够在PyQt5框架下提供一个直观的图形用户界面(GUI),使得医生或患者能够方便地上传舌象照片并获取分析结果。 技术栈 深度学习框架:采用PyTorch或其他

servlet用反射代替if..else

String methodName = request.getParameter("method"); Method method = this.getClass().getDeclaredMethod(methodName,HttpServletRequest.class, HttpServletResponse.class); method.invoke(this, request, re

如何将卷积神经网络(CNN)应用于医学图像分析:从分类到分割和检测的实用指南

引言 在现代医疗领域,医学图像已经成为疾病诊断和治疗规划的重要工具。医学图像的类型繁多,包括但不限于X射线、CT(计算机断层扫描)、MRI(磁共振成像)和超声图像。这些图像提供了对身体内部结构的详细视图,有助于医生在进行准确诊断和制定个性化治疗方案时获取关键的信息。 1. 医学图像分析的挑战 医学图像分析面临诸多挑战,其中包括: 图像数据的复杂性:医学图像通常具有高维度和复杂的结构

深度学习基础--卷积的变种

随着卷积同经网络在各种问题中的广泛应用,卷积层也逐渐衍生出了许多变种,比较有代表性的有: 分组卷积( Group Convolution )、转置卷积 (Transposed Convolution) 、空洞卷积( Dilated/Atrous Convolution )、可变形卷积( Deformable Convolution ),下面分别介绍下。 1. 分组卷积 在普通的卷积操作中,一个

时序预测|变分模态分解-双向时域卷积-双向门控单元-注意力机制多变量时间序列预测VMD-BiTCN-BiGRU-Attention

时序预测|变分模态分解-双向时域卷积-双向门控单元-注意力机制多变量时间序列预测VMD-BiTCN-BiGRU-Attention 文章目录 一、基本原理1. 变分模态分解(VMD)2. 双向时域卷积(BiTCN)3. 双向门控单元(BiGRU)4. 注意力机制(Attention)总结流程 二、实验结果三、核心代码四、代码获取五、总结 时序预测|变分模态分解-双向时域卷积

卷积神经网络(二)CIFAR100类别分类

一.数据介绍 总共一百个类,每个类有600个图像。每类500个训练图像,100个测试图像。没填图像都带有一个"精细"标签(它所属的类)核一个粗糙标签(它所属的超类)  二.API使用 用于构建CNN模型的API Conv2D:实现卷积,kernel_size,strides,padding,datafromat,'NHWC'核'NCHW' MaxPool2D:池化操作 impo

【python 走进NLP】从零开始搭建textCNN卷积神经网络模型

无意中发现了一个巨牛的人工智能教程,忍不住分享一下给大家。教程不仅是零基础,通俗易懂,而且非常风趣幽默,像看小说一样!觉得太牛了,所以分享给大家。点这里可以跳转到教程。人工智能教程 1、众所周知,tensorflow 是一个开源的机器学习框架,它的出现大大降低了机器学习的门槛,即使你没有太多的数学知识,它也可以允许你用“搭积木”的方式快速实现一个神经网络,即使没有调节太多的参数,模型的表现一般还

REMEMBERING HISTORY WITH CONVOLUTIONAL LSTM FOR ANOMALY DETECTION——利用卷积LSTM记忆历史进行异常检测

上海科技大学的文章,上海科技大学有个组一直在做这方面的工作,好文章挺多的还有数据集。 ABSTRACT 本文解决了视频中的异常检测问题,由于异常是无界的,所以异常检测是一项极具挑战性的任务。我们通过利用卷积神经网络(CNN或ConvNet)对每一帧进行外观编码,并利用卷积长期记忆(ConvLSTM)来记忆与运动信息相对应的所有过去的帧来完成这项任务。然后将ConvNet和ConvLSTM与

线性代数|机器学习-P33卷积神经网络ImageNet和卷积规则

文章目录 1. ImageNet2. 卷积计算2.1 两个多项式卷积2.2 函数卷积2.3 循环卷积 3. 周期循环矩阵和非周期循环矩阵4. 循环卷积特征值4.1 卷积计算的分解4.2 运算量4.3 二维卷积公式 5. Kronecker Product 1. ImageNet ImageNet 的论文paper链接如下:详细请直接阅读相关论文即可 通过网盘分享的文件:image