论文阅读18 | Neural Feature Search for RGB-Infrared Person Re-Identification

本文主要是介绍论文阅读18 | Neural Feature Search for RGB-Infrared Person Re-Identification,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

论文:Neural Feature Search for RGB-Infrared Person Re-Identification(RGB-IR 行人重新识别的神经特征搜索)

出处:CVPR2021

文章目录

  • 1. abstract
  • 2. motivation
  • 3. contribution
  • 4. methodology
    • 4.1 baseline
    • 4.2 modality-aware neural feature search
    • 4.3 cross-modality contrastive optimization
  • 5. comparison with state-of-the-art methods

1. abstract

作者研究了一种一般的范式,称为神经特征搜索(NFS),可以自动地进行特征选择。具体地说,NFS结合了双层特征搜索空间可微搜索策略,在粗粒度通道和细粒度空间像素中联合选择与身份相关的线索。这种组合允许NFS自适应地过滤背景噪声,并以 data-driven的方式集中于人体的信息部分。此外,跨模态对比优化方案进一步指导NFS搜索最小化模态差异,最大化类间距离的特征。

2. motivation

RGB-IR ReID遭受可见图像和红外图像之间的视觉差异,这使外观线索(如颜色和纹理)对于匹配的任务来说并不可靠,甚至具有误导性;另外,由于不同的摄像机视觉、人的姿势、部分遮挡和背景杂乱而引起的较大类内变化,这使得对齐同一身份的图像变得更加困难。现存的两种方法:

  • cross-modality image synthesis methods: 为了最小化模态差距,跨模态图像合成方法,通常利用生成对抗网络(GANs)在模态之间传递风格属性,合成假的RGB/红外图像。但是,由于在红外图像中缺乏颜色信息,生成的RGB图像要想保留身份信息是很不平凡的。
  • shared feature learning approaches: 利用卷积神经网络(CNNs)进行跨模态特征对齐。一个有代表性的选择模型是双流网络,它包括特定模式的浅层和共享的深层。基于双流结构,一些研究利用了ReID的判别约束,例如使用 triplet loss 和 ranking loss来监督网络挖掘与身份相关的特征。他们都致力于学习一个更好的距离度量,以提高基于相似度的检索的性能,并在近年来取得了显著的成功。

不管哪种方法,ReID的关键始终是找到足够高质量的鉴别特征来进行匹配和检索。目前最先进的方法通常会引入 partition stripes(分区条纹)、 human landmarks(人体关键点)、 parsing mapsbody contour sketches(身体轮廓草图),以防止不相关的特征,保留与身份相关的特征。然而,手动设计的特征选择模块是非常困难和耗时的,这导致了不令人满意的性能。

自动机器学习(AutoML)的最新进展可能会提供一个积极的答案。Quan等人使用神经体系结构搜索(NAS),会自动生成快速而有效的CNNs,其性能与单模态ReID任务中手工制作的架构相当。 这一进展激发了本文所讨论的由神经元驱动的自动特征选择的想法。

Neural Architecture Search
近年来,神经结构搜索(NAS)研究在各个领域取得了相当大的成功,如图像分类、语义分割、目标检测,ReID,多模态融合等。一般来说,NAS的目标是自动搜索特定学习任务的最优操作或拓扑。他们首先构建一个面向任务的搜索空间,以定义原则上可以发现哪些架构。基于搜索空间,使用不同的搜索策略(包括基于强化学习的方法、进化方法、基于梯度的方法和MCTS方法),有效地提高样本效率和模型性能。

3. contribution

作者将特征选择转换为二层优化问题,即从最佳特征学习结果中推导出最优特征子集,并提出了一种新的范式,神经特征搜索。

  • 提出了一种基于自动机器学习驱动的神经特征搜索方法,自动进行特征选择,减少人为干扰。

  • NFS包括一个双层特征搜索空间,其中每个特征图都根据像素和通道维度进行分解,这允许以相互强化的方式共同执行特征选择操作。通道级搜索,可以从全局视角识别相关的响应图;像素级搜索,扫描每个空间位置,有选择地处理一个人的局部部分特征。

  • 为了提高搜索效率,利用重新参数化技巧reparameterization tricks)来放松搜索空间以保持连续性,这使得搜索神经元的优化与随机梯度下降(SGD)相一致。考虑到RGB-IR ReID固有的模态差异问题,进一步引入了一种跨模态对比优化方案作为监督信号。

4. methodology

模型的整体框架:
在这里插入图片描述

4.1 baseline

为了捕获模态不变的信息,第一个卷积块的参数对于每个模态都是独立的,而其他层则被共享以学习鉴别特征。在具有全局平均池的最后一个卷积层之后,使用共享的批处理归一化层来获得异构图像的最终表示。 使用在ImageNet上预训练的ResNet-50作为backbone。在训练阶段,我们的目标是尽量减少以下损失函数:Lb = Lid + Ltri 其中,Lid是交叉熵损失,Ltri是加权正则化的三元组损失(WRT)。

4.2 modality-aware neural feature search

NFS从基于CNN的特征空间中搜索与身份相关的特征。作者将自动特征搜索转换为一个超参数学习任务,其中搜索超参数和网络权值被联合优化,以推导出最优的鉴别特征子集。它可以被表述为一个二层优化问题:

在这里插入图片描述
给定输出特征图Y,我们寻找一个特征y∈Y的子集,它可以在优化网络权重W后最小化损失L(y,W)。在这里,强调了解决这个问题的两个关键点:一个双层特征搜索空间和一个有效的搜索算法。

① Dual-level Feature Search Space

搜索空间定义了可能发现的神经结构,它在高性能NAS中起着至关重要的作用。同样地,NFS也与设计一个良好的特征搜索空间密切相关,搜索空间应该尽可能多的覆盖与身份相关的线索。

由于鉴别特征主要由baseline的共享部分提取,因此我们建立了一个搜索空间,包括由每个共享卷积块block提取的所有候选特征。更正式地说,共享块L以一个特征图X∈R Cin×W×H作为输入,并输出另一个细粒度的特征图YL∈R Cout×W/2×H/2,即

在这里插入图片描述
p表示特定的像素位置,Rk是大小为k的核的支持区域,Wc∈RCin×Cout×k×k代表卷积权重,YL的并集形成了普通的特征空间Y={YL|L∈{1,…,N}},而N是block的块数。

因为判别性特征在YL的空间维度和通道维度中呈现出特定模态的分布,我们引入了模态感知搜索单元,将原始特征空间Y分解为两个子空间,像素级子空间和深度级子空间。前者包括在每个空间位置的向量,可以描述一个输入图像的局部部分。后者包含多个检测器响应图,可以全局地反映图像的特殊属性。

模态感知搜索单元的工作原理:

  • 给定输出特征图YL,首先初始化一组具有均匀分布的参数PmL,以将特征从模态m映射到一个特定的概率场。至于像素级的特征搜索,PmL∈RCout×W/2×H/2,覆盖了空间域中的每个像素。对于深度级搜索,PmL∈RCout包含YL的所有通道。
  • 在搜索过程中,概率场由一个sigmoid函数激活,表示为P˜mL=σ(PmL),去指示在相应位置的特征的可能性可以区分不同的人。
  • 然后,基于P˜mL生成一个二进制搜索门GmL( p),以确定是否应选择位置p处的像素。YL通过所有搜索门,输出激活图Y˜L可以表示为:

在这里插入图片描述
此时,二层优化问题转化为一个将所有搜索门Gm作为上层变量,将网络权值W转化为下层变量的优化问题。其中,Ltrain和Lval表示训练损失和验证损失。

在这里插入图片描述
② Search Algorithm

由于搜索空间是离散的和大规模的,因此通过枚举法来寻找最优特征集的效率很低。为了解决这一障碍,文章利用重新参数化技巧放松搜索空间以保持连续性,并通过SGD直接提高搜索效率。我们假设特征选择本质上是一个二元分类问题,因此利用连续伯努利分布来模拟随机离散采样,其中与P˜m∈(0,1)。基于Gm,采样特征Xm为:

在这里插入图片描述
松弛后,Gm和W可以使用直通估计器(STE)联合优化:
在这里插入图片描述
最后,优化问题可以使用以下神经特征搜索来求解。我们首先通过迭代优化带有Ltrain的W,和带有Lval的Gm,来搜索身份相关的特征;在获得最优搜索门后,按照标准的特征学习范式对整个网络进行训练和评估。
在这里插入图片描述
我们首先使所有的搜索单元都可学习,以发现最优的判别特征集。在获得最优特征集后,我们在原始训练集上对网络进行了重新训练。

4.3 cross-modality contrastive optimization

除了搜索效率之外,如何监督搜索单元来选择更多信息的特征也很重要。RGB和红外图像之间的外观差异往往会增大每个类的特征分布方差。我们打算从一个不变的特征选择的角度来减少特征分布的方差,这个基本思想来自于在对比学习方面的最新进展,它旨在吸引正对,同时排斥负对。给定一个训练批B其中一半是RGB图像Irgb,而其他的是与RGB对应的IR图像。

我们随机地把IRGB和IIR,分成跨模态的图像对(IRGB, IIR),并且根据身份生成该图像对的label,具体的:
在这里插入图片描述
对于每一个正图像对,我们寻求最小化它们之间的距离,从而共同消除模态差异和类内差异。在欧几里得空间中计算图像对之间的距离。
在这里插入图片描述
相反,对于负对,我们的目标是它们彼此远离。为了明确地实现优化目标,我们使用带有margin T来量化图像对之间的距离:
在这里插入图片描述
综合考虑正对和负对,可得:
在这里插入图片描述
NFS的整体学习目标是对baseline损失和跨模态对比损失的加权求和:L = Lb + λLc

5. comparison with state-of-the-art methods

在这里插入图片描述
在这里插入图片描述

这篇关于论文阅读18 | Neural Feature Search for RGB-Infrared Person Re-Identification的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/261210

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

AI基础 L9 Local Search II 局部搜索

Local Beam search 对于当前的所有k个状态,生成它们的所有可能后继状态。 检查生成的后继状态中是否有任何状态是解决方案。 如果所有后继状态都不是解决方案,则从所有后继状态中选择k个最佳状态。 当达到预设的迭代次数或满足某个终止条件时,算法停止。 — Choose k successors randomly, biased towards good ones — Close

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需