adaptation专题

Structure-Aware Feature Fusion for Unsupervised Domain Adaptation

Structure-Aware Feature Fusion for Unsupervised Domain Adaptation 摘要引言相关工作UDA中的分布匹配方法 Model 摘要无监督域适应（Unsupervised Domain Adaptation，UDA）旨在从有标注的源域中学习并迁移通用特征到无任何标注的目标域。现有的方法仅对高层次的表示进行对齐，却没有利

迁移学习之领域自适应（domain adaptation）

比如有一堆有标注的训练数据，这些数据来自源领域，用这些数据训练出一个模型，这个模型可以用在不一样的领域。在训练的时候，我们必须要对测试数据所在的目标领域有一些了解。随着了解的程度不同，领域自适应的方法也不同。如果目标领域上有一大堆有标签的数据，这种情况其实不需要做领域自适应，直接用目标领域的数据训练。如果目标领域上有一点有标签的数据，这种情况可以用领域自

Unsupervised Domain Adaptation by Backpropagation 阅读笔记

链接:Unsupervised Domain Adaptation by Backpropagation笔记

【文献阅读】LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS

目录 1. motivation2. overall3. model3.1 low rank parametrized update matrices3.2 applying lora to transformer 4. limitation5. experiment6. 代码7. 补充参考文献 1. motivation 常规的adaptation需要的微调成本过大现有方法的不

Domain Adaptation 2019 Conference Papers

本文为转载文章，转自链接： https://blog.csdn.net/weixin_40400177/article/details/103538656 AbbreviationPaper TitleSource LinkCodeTagsDTADrop to Adapt: Learning Discriminative Features for Unsupervised Domain Ad

《Boosting Object Detection with Zero-Shot Day-Night Domain Adaptation》2024CVPR

域不变特征：是指在不同的数据域或环境下，特征能够保持不变或具有一定程度的鲁棒性。实现域不变特征可以在许多计算机视觉和机器学习任务中具有重要的作用，特别是在涉及跨域或跨环境的应用场景中。以下是一些常用的实施域不变特征的方法： 1. 数据归一化：通过将数据进行归一化处理，将其缩放到一个统一的范围内。常见的归一化方法包括零均值归一化（Zero-mean normalization）和单位方差归一

步态识别论文（6）GaitDAN: Cross-view Gait Recognition via Adversarial Domain Adaptation

摘要: 视角变化导致步态外观存在显着差异。因此，识别跨视图场景中的步态是非常具有挑战性的。最近的方法要么在进行识别之前将步态从原始视图转换为目标视图，要么通过蛮力学习或解耦学习提取与相机视图无关的步态特征。然而，这些方法有许多约束，例如处理未知相机视图的难度。这项工作将视角变化问题视为域更改问题，并提出通过对抗性域适应来解决这个问题。这样，不同视角的步态信息被视为来自不同子域的数据。该方法侧重于

【真实世界图像超分】《Frequency Consistent Adaptation for Real World Super Resolution》2012 Nanjing University

摘要：最近的基于深度学习的超分方法在已知退化核图像上已经展现出卓越的性能。但是这些方法往往在真实世界场景下表现不尽如人意，因为作为训练样本的LR图像通常来自于理想退化核（bicubic下采样），它们不同于真实源图像域。训练样本的LR图像和真实源图像的领域差异在频率密度上被明显观察到。这一点启示我们显示地缩小由不正确的退化造成的领域差异。我们设计了一个频率一致性模块，确保在真实世界场景应用已经存在的

论文笔记：Learning Transferable Features with Deep Adaptation Networks

一个翻译： https://wenku.baidu.com/view/401fea41a55177232f60ddccda38376baf1fe00c.html https://blog.csdn.net/wei_guo_xd/article/details/74059110 这篇论文是使用mapping实现了DTL abstract 在深度网络中，特征的可迁移性在高层中随着域的差异增加而显

Adaptation and Cross Layer Design in Wireless Networks

《Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks》论文翻译笔记

元学习系列文章 optimization based meta-learning 《Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks》论文翻译笔记：本篇博客元学习方向 optimization based meta learning 之 MAML论文详细解读MAML 源代码解释说明 (一)MAML 源代码解释说明

论文阅读之LORA: LOW-RANK ADAPTATION OF LARGE LAN- GUAGE MODELS（2021）

文章目录论文地址主要内容主要贡献模型图技术细节实验结果论文地址 LORA: LOW-RANK ADAPTATION OF LARGE LAN- GUAGE MODELS 主要内容这篇文章的主要内容是介绍了一种名为LoRA（Low-Rank Adaptation）的技术，这是一种针对大型语言模型进行低秩适应的方法。LoRA的核心思想是在预训练模型的基础上，通过注入可训练的

Domain Adaptation模型，pix2pix，CycleGAN 原理简介

一、Domain Adaptation 简述 Domain Adaptation是机器学习和计算机视觉领域的一个研究分支，主要处理如何将在一个领域（源域）上学习到的知识或模型，有效地应用到另一个不同但相关的领域（目标域）。由于源域和目标域的数据分布可能存在较大的差异，直接应用源域模型到目标域可能会导致性能下降。因此，Domain Adaptation的目标是找到一种方法，减小源域和目标域之间的差

Progressive Feature Alignment for Unsupervised Domain Adaptation 学习

http://export.arxiv.org/pdf/1811.08585 讲的是通过聚类的方式进行跨域适应，在目标域上进行聚类的时候，是逐渐聚类的。

2023-CVPR-Adjustment and Alignment for Unbiased Open Set Domain Adaptation

Adjustment and Alignment (ANNA) Front-Door Adjustment：类似二分类交叉熵，令概率接近1，以降低损失 Decoupled Causal Alignment：类似多分类交叉熵，令概率接近标签M

TS协议解析第四部分（adaptation field）

$【域适应十五】Universal Domain Adaptation through Self-Supervision$

【域适应十五】Universal Domain Adaptation through Self-Supervision

1.motivation 传统的无监督域自适应方法假设所有源类别都存在于目标域中。在实践中，对于这两个领域之间的类别重叠可能知之甚少。虽然有些方法使用部分或开放集类别处理目标设置，但它们假设特定设置是已知的先验设置。本文提出了一个更普遍适用的领域自适应框架，可以处理任意类别的转移，称为通过熵优化的领域自适应邻域聚类(DANCE)。DANCE结合了两个新颖的思想:首先，由于不能完全依赖源分类来判别

datawhale 大模型学习第六章-大模型之Adaptation

一、为什么需要Adaptation 1.1 简介从语言模型的训练方式来说，例如GPT-3，训练语料通常是海量的，各种领域的，不针对任何特定任务的文本信息。这种方法的优点在于模型具有广泛的适用性，但也带来了一些挑战。比如下游任务的多样性，不同的下游任务与语言模型的预训练方式可以非常不同：格式不同：BERT训练过程中使用了MASK标记，而许多下游任务可能并不

第十一章：大模型之Adaptation

参考链接：https://github.com/datawhalechina/so-large-lm/tree/main 1 引言为什么需要Adaptation? 在⾃动化和⼈⼯智能的时代，语⾔模型已成为⼀个迅速发展的领域。从语⾔模型的训练⽅式来说，语⾔模型，例如GPT-3，通常是任务不可知（task-agnostic），task-agnostic这个词组⽤于描述⼀种不针对任何特定任务进⾏

大模型学习笔记07——大模型之Adaptation

大模型学习笔记07——大模型之Adaptation 使用语言模型在学习了上下文后，仅通过给出的提示就能够执行一些任务并不是所有的下游任务都可以通过提示方法完成，如：自然语言推理（NLI）问答（QA）网络表格转文本解析电子健康记录（EHR）等下游任务与语言模型的训练数据之间存在的问题可能在格式和主题上有所不同需要实时数据或信息语言模型需要使用特定任务的数据或领域知识来针对下游任务进行适配

模型汇总15 领域适应性Domain Adaptation、One-shot/zero-shot Learning概述

几乎所有希望在实际应用中使用机器学习算法的人都会遇到领域适应性（Domain Adaptation）的问题：我们在固定的source domain建立了模型，但希望把我们的模型部署到另外一个或几个不同的target domain中。领域的适应性问题在机器学习实际应用的各个领域都非常常见。获取最新消息链接：获取最新消息快速通道 - lqfarmer的博客 - 博客频道 - CSDN.NET 比

《Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 》论文总结

摘要：我们提出了一种不依赖模型的元学习算法，它与任何梯度下降训练的模型兼容，适用于各种不同的学习问题，包括分类、回归和强化学习。元学习的目标是在各种学习任务上训练一个模型，这样它只需要少量的训练样本就可以解决新的学习任务。在我们的方法中，模型的参数被显式地训练，使得少量的梯度步骤和少量的来自新任务的训练数据能够在该任务上产生良好的泛化性能。实际上，我们的方法训练模型易于微调。结果表明，该方法在

GAN domian adaptation

GAN 发展：domain 变多 DC GAN cycle GAN Combo GAN Star GAN DA：基于分布对齐，基于对抗等等一般：one source one target multi-source domain adaptation multi-target domain adaptation 深度域自适应目标检测（DDAOD） - 知乎【

Domain Adaptation 相关介绍

1. Transfer Learning Transfer learning 是机器学习的一个分支, 而 Domain adpatation 是 transfer learning 的一个分支. 在 transfer learning 中有两个概念: source domain (源域) 和 target domain (目标域). 源域中往往有丰富的信息, 比如有大量的数据点和其真实的标签;

文献阅读：Sparse Low-rank Adaptation of Pre-trained Language Models

文献阅读：Sparse Low-rank Adaptation of Pre-trained Language Models 1. 文章简介2. 具体方法介绍 1. SoRA具体结构2. 阈值选取考察 3. 实验 & 结论 1. 基础实验 1. 实验设置2. 结果分析 2. 细节讨论 1. 稀疏度分析2. rank分析3. 参数位置分析4. 效率考察 4. 总结 & 思考文献链接：https

论文笔记 ACL 2020|Towards Open Domain Event Trigger Identification using Adversarial Domain Adaptation

文章目录 1 简介1.1 动机1.2 创新 2 方法3 实验 1 简介论文题目：Towards Open Domain Event Trigger Identification using Adversarial Domain Adaptation 论文来源：ACL 2020 论文链接：https://arxiv.org/pdf/2005.11355.pdf 代码链接：htt