论文阅读:Representation Learning with Contrastive Predictive Coding

本文主要是介绍论文阅读:Representation Learning with Contrastive Predictive Coding,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Representation Learning with Contrastive Predictive Coding

  • 参考一些NLP方法
  • 理解Contrastive Learning

CPC

Motivation: 该论文认为,随着预测未来更多的帧,一些noisy的低层信息会被忽略掉,更多的共享信息(该论文称之为slow features)会被提取到,这也是一些更应被关注的信息。论文举了几个例子:phonemes,object,story line.

去真正的预测未来帧并不是一件简单且必要的事情,因此论文提出学习到某种可以使得当前状态c和未来帧x之间互信息最大的表示。论文插图
MI表示:
I ( x , c ) = H ( x ) − H ( x ∣ c ) = ∑ x , c p ( x , c ) l o g p ( x ∣ c ) p ( x ) I(x,c) = H(x) - H(x|c) = \sum_{x,c}p(x,c)log\frac{p(x|c)}{p(x)} I(x,c)=H(x)H(xc)=x,cp(x,c)logp(x)p(xc)
论文中要以某种loss函数的形式来最大化当前编码 c t c_t ct与未来帧 x t + k x_{t+k} xt+k之间的互信息。
而上述MI公式中的 p ( x ∣ c ) p ( x ) \frac{p(x|c)}{p(x)} p(x)p(xc)不容易计算。CPC给出的解决方案是利用最大化所提出的InfoNCE loss来最大化MI的一个下界。

论文公式1
如上述,给定 X = { x 1 , x 2 , . . . , x N } X=\{x_1, x_2, ..., x_N\} X={x1,x2,...,xN}其中 x n ( n ≠ i ) x_n (n \neq i) xn(n=i)采样自p(x), 而 x i x_i xi采样于 p ( x t + k ∣ c t ) p(x_{t+k}|c_t) p(xt+kct). 实际上当前的X中postive是 x i x_i xi的概率
p ( d = i ∣ X , c t ) = p ( d = i , X ∣ c t ) p ( X ∣ c t ) = p ( d = i , X ∣ c t ) ∑ j p ( d = j , X ∣ c t ) = p ( x 1 ∣ c t ) p ( x 2 ∣ c t ) . . . p ( x i ∣ c t ) . . . p ( x N ∣ c t ) ∑ j p ( x 1 ∣ c t ) p ( x 2 ∣ c t ) . . . p ( x j ∣ c t ) . . . p ( x N ∣ c t ) = p ( x 1 ) p ( x 2 ) . . p ( x i ∣ c t ) . . . p ( x N ) ∑ j p ( x 1 ) p ( x 2 ) . . . p ( x j ∣ c t ) . . . p ( x N ) = p ( x i ∣ c t ) p ( x i ) ∑ j p ( x j ∣ c t ) p ( x j ) p(d=i|X, c_t) = \frac{p(d=i, X|c_t)}{p(X|c_t)} \\ = \frac{p(d=i,X|c_t)}{\sum_jp(d=j,X|c_t)} \\ = \frac{p(x_1|c_t)p(x_2|c_t)...p(x_i|c_t)...p(x_N|c_t)}{\sum_jp(x_1|c_t)p(x_2|c_t)...p(x_j|c_t)...p(x_N|c_t)}\\ =\frac{p(x_1)p(x_2)..p(x_i|c_t)...p(x_N)}{\sum_j{p(x_1)p(x_2)...p(x_j|c_t)...p(x_N)}} \\ =\frac{\frac{p(x_i|c_t)}{p(x_i)}}{\sum_j\frac{p(x_j|c_t)}{p(x_j)}} p(d=iX,ct)=p(Xct)p(d=i,Xct)=jp(d=j,Xct)p(d=i,Xct)=jp(x1ct)p(x2ct)...p(xjct)...p(xNct)p(x1ct)p(x2ct)...p(xict)...p(xNct)=jp(x1)p(x2)...p(xjct)...p(xN)p(x1)p(x2)..p(xict)...p(xN)=jp(xj)p(xjct)p(xi)p(xict)

所以 f k ( x t + k , c t ) f_k(x_{t+k}, c_t) fk(xt+k,ct)正比于上述分子。

但是为何 L N \mathcal{L}_N LN中的分式代表 p ( d = i ∣ X , c t ) p(d=i|X, c_t) p(d=iX,ct),论文中大致是这样描述的:
f k ( x t + k , c t ) ∑ x f k ( x , c t ) \frac{f_k(x_{t+k}, c_t)}{\sum_xf_k(x, c_t)} xfk(x,ct)fk(xt+k,ct)是一个正样本类别概率,当优化 L N \mathcal{L}_N LN的时候,就是在最大化这个正样本类别概率,其实类似于一个最大似然估计的过程,来估计出上述的 p ( d = i ∣ X , c t ) p(d=i|X, c_t) p(d=iX,ct)

在理论上的解释就是上面的内容,技术上,其实这类往往比较容易实现,道理也很直观。

由于 f f f只是一个由参数决定的估计值, f f f被feed x i , c t x_i, c_t xi,ct和负样本 x j , c t x_j, c_t xj,ct,计算softmax分类即可,直观上可以认为是一种contrastive loss, 即配对的当前状态 c t c_t ct和未来帧 x t + k x_{t+k} xt+k通过 f f f后的值较大,而不配对的较小。实际上就是给你一堆 x x x,网络有能力判断出与 c t c_t ct匹配的哪个 x i x_i xi.

其实这类论文的思路按照theory->method的顺序往往难以理解,但是按照method->theory的顺序往往是容易的,即随便想一个intuitive的loss,将其想法设法与已有的统计量发生关联,给出一个合理的数学解释。

CPC的实验部分:

这篇关于论文阅读:Representation Learning with Contrastive Predictive Coding的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/415406

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需

【阅读文献】一个使用大语言模型的端到端语音概要

摘要 ssum框架(Speech Summarization)为了 从说话人的语音提出对应的文本二题出。 ssum面临的挑战: 控制长语音的输入捕捉 the intricate cross-mdoel mapping 在长语音输入和短文本之间。 ssum端到端模型框架 使用 Q-Former 作为 语音和文本的中介连接 ,并且使用LLMs去从语音特征正确地产生文本。 采取 multi-st