论文阅读笔记VPE《Variational Prototyping-Encoder: One-Shot Learning with Prototypical Images》

本文主要是介绍论文阅读笔记VPE《Variational Prototyping-Encoder: One-Shot Learning with Prototypical Images》,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

变分原型编码器VPE:原型图象的one-shot learning
将真实输入图像到对应的原型图像的图像转换任务当作元任务。因此VPE学习的是图像相似性和原型图像。Prototypical Images

1 核心思想

首先,明确一下原型图像的概念:标准形式、没有任何形变和干扰信息的原始符号,也可以成为典范域。(结合下图理解)
象形符号的原型

上面一行是交通标识,下面一行是徽标。可以看出是没有任何背景的、没有任何形变的。
本文的核心思想基于自动编码器对于实际拍摄采集的图像生成原型图像,并利用最近邻算法解决小样本的图标或标识分类问题。这里首先指出,拍摄采集到的图像经常会背景模糊,被光照因素干扰或产生形变等,这些都算是噪声。在生成原型图像的过程中,诱导同类图像的相似性,并生成原型图像的潜在特征空间分布。

2 实现过程

方法架构

训练和测试过程图

网络结构

目标函数

与一般的VAE损失函数略有不同,本文要比较原型图像t tt和输入图像x xx之间的重构差异
loss函数
损失分为两项,重构损失和分布正则项。重构损失采用的是二元交叉熵损失函数BCE,;KL散度用来约束潜在空间的分布。

训练策略

SGD

重构出的原型

左侧是见过的类,右侧为未未见过的类。我理解的是分别是训练集和测试集。
在这里插入图片描述

3 创新点总结

引入原型图像的概念,通过VAE重构原型图像。

4 算法评价

本文利用VAE结构生成原型图像,并利用编码器作为特征提取器,通过比较隐藏向量之间的欧氏距离寻找最为接近的样本,实现分类任务。正如作者自己左说,这个VAE结构可以看做一种降噪网络,把图像中的干扰信息排除,保留最直观最重要的原型图像。但本文无论是采用的VAE生成式模型还是利用隐藏空间中的特征向量进行最近邻分类都不是非常新颖的想法,唯一的创新可能就是原型图像这一概念了吧,但这一概念也并不具备普遍性,如果数据集图像质量普遍较高,这一做法就退化为一个简单的最近邻分类了。
————————————————
版权声明:本文为CSDN博主「深视」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/qq_36104364/article/details/106438467

对数据集的要求比较特殊,可以理解为对特定任务很有效吧。也只有这些交通标志和徽标才具有清晰且唯一的原型图像了吧。

这篇关于论文阅读笔记VPE《Variational Prototyping-Encoder: One-Shot Learning with Prototypical Images》的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/315804

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

数学建模笔记—— 非线性规划

数学建模笔记—— 非线性规划 非线性规划1. 模型原理1.1 非线性规划的标准型1.2 非线性规划求解的Matlab函数 2. 典型例题3. matlab代码求解3.1 例1 一个简单示例3.2 例2 选址问题1. 第一问 线性规划2. 第二问 非线性规划 非线性规划 非线性规划是一种求解目标函数或约束条件中有一个或几个非线性函数的最优化问题的方法。运筹学的一个重要分支。2

【C++学习笔记 20】C++中的智能指针

智能指针的功能 在上一篇笔记提到了在栈和堆上创建变量的区别,使用new关键字创建变量时,需要搭配delete关键字销毁变量。而智能指针的作用就是调用new分配内存时,不必自己去调用delete,甚至不用调用new。 智能指针实际上就是对原始指针的包装。 unique_ptr 最简单的智能指针,是一种作用域指针,意思是当指针超出该作用域时,会自动调用delete。它名为unique的原因是这个

查看提交历史 —— Git 学习笔记 11

查看提交历史 查看提交历史 不带任何选项的git log-p选项--stat 选项--pretty=oneline选项--pretty=format选项git log常用选项列表参考资料 在提交了若干更新,又或者克隆了某个项目之后,你也许想回顾下提交历史。 完成这个任务最简单而又有效的 工具是 git log 命令。 接下来的例子会用一个用于演示的 simplegit

记录每次更新到仓库 —— Git 学习笔记 10

记录每次更新到仓库 文章目录 文件的状态三个区域检查当前文件状态跟踪新文件取消跟踪(un-tracking)文件重新跟踪(re-tracking)文件暂存已修改文件忽略某些文件查看已暂存和未暂存的修改提交更新跳过暂存区删除文件移动文件参考资料 咱们接着很多天以前的 取得Git仓库 这篇文章继续说。 文件的状态 不管是通过哪种方法,现在我们已经有了一个仓库,并从这个仓