EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

本文主要是介绍EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

导语:国内再次无缘

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

雷锋网 AI 科技评论按:激动人心的时刻又到了!

作为自然语言处理领域的顶级会议之一 EMNLP 2019 正式结束,而在闭幕式上也同时颁发了本年度的最佳论文。今年共有四个奖项,其中最佳论文奖由约翰霍普金斯大学摘取,最佳论文 Runner-Up 奖获得者来自斯坦福,最佳资源奖由 Facebook 等单位获得,最佳 Demo 奖的获得者来自艾伦人工智能研究所。值得注意的是,尽管获奖论文中不乏华人学者,但国内师生基本无缘最佳论文。

EMNLP 是由国际语言学会(ACL)下属的 SIGDAT 小组主办的自然语言处理领域的顶级国际会议,在计算语言学类别下影响力排名全球第二。EMNLP 每年举办一次,今年则与 IJCNLP 联合,在香港举办(这也是香港第二次举办 EMNLP,上一次在 2000 年)。

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

据雷锋网 AI 科技评论现场了解,EMNLP-IJCNLP 2019共收到有效投稿2877篇,录用683篇,其中长论文465篇, 短论文218篇,录用率为23.7%。从投稿国家看,中国投稿数量已经排名第一,但录用数量相比美国却少了70篇。

本次参会人数共有1922人,相比去年2500人有所下降,但雷锋网(公众号:雷锋网) AI 科技评论认为,此次参会人数的降低更多的原因在于学术研究之外,前段时间香港局势以及美国对持签证在美工作的研究者重新进入美国必须要重新签证的出台都在一定程度上影响了现场的参与率。

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

EMNLP2019 最佳论文获奖者全家福

一、最佳论文奖

EMNLP-IJCNLP最佳论文奖只针对长论文颁发。本届最佳论文奖的第一作者为来自约翰霍普金斯大学的Xiang Lisa Li,而其导师则为NLP界公认的大神Jason Eisner,后者对 NLP 结构学习领域贡献极大。

这篇论文获奖,原因则是:「在预训练词嵌入上使用变差信息瓶颈(Variational Information Bottleneck)的新颖应用。很棒的理论证明,不错的结果,很棒的语言学分析,很可能对许多任务都有帮助。」

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

论文地址:https://arxiv.org/abs/1910.00163v1

论文摘要:ELMo 和 BERT 之类的预训练词嵌入包含了丰富的句法和语义信息,这让它们能在各种不同的任务上发挥出当前最好的表现。

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

这篇论文中作者提出了一个非常快速的变差信息瓶颈(Variational Information Bottleneck,VIB)方法,它可以非线性地压缩这些嵌入,只保留对辨别性解析器有帮助的信息。作者可以把每个词嵌入压缩成一个个离散的标签,或者是连续的向量。对于离散标签版本,这些自动压缩的标签可以形成一种替代性的标签集合。

作者通过实验表明,传统的 POS 标签标注中捕捉到的信息,大部分都可以被这些标签捕捉到,而且这些标签序列还可以在相同的标签粒度下得到更准确的解析。对于连续向量版本,实验表明用他们的方法适度压缩词嵌入之后可以得到更准确的解析器,他们测试的9种语言中有8种都得到了这样的结果;以往的简单的降维操作是达不到这样的效果的。

二、最佳论文第二名

最佳论文奖第二名(Runner-Up)的第一作者来自斯坦福大学,其联合导师为 Chris Manning(计算语言学的大牛,李飞飞辞任后,Manning 接任了斯坦福 AI Lab 主任)以及 Percy Liang。

这篇论文的颁奖词是「这是一篇影响力高、影响也深远广泛的论文,它介绍了如何设计、训练、解释探针,以便更充分地评价某种表征在给定的任务(比如 POS 标注或者依赖性解析)上到底学到了什么」。

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

论文地址:https://www.aclweb.org/anthology/D19-1275.pdf

论文摘要:研究者会设计训练一类监督模型来从表征(比如 ELMo)预测某些属性(比如 POS),这类模型被称作探针,它们在许多语言学任务中都得到了很高的准确率。不过,到底是这些表征确实编码了语言学结构,还是只不过是这些探针学会了语言学任务而已呢?

在这篇论文中,作者提出了一些控制任务,任务中考察的是把单词类型匹配到随机的输出,作为语言学任务的补充任务(无关任务)。

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

设计这些任务的考虑就是,它们只能够被探针自己学会,也就成为了检验探针能力的方法。所以,一个好的探针(能切实反应表征的内涵的探针),应当是有选择性的,应当能在真正的语言学任务中取得高准确率,而在这个控制任务中取得低准确率。探针的选择性的体现,就是真语言学任务中的准确率和探针记忆单词类型的能力是一致的。

作者设计了基于英文 POS 标注和依赖性边缘检测的控制任务,通过实验表明目前流行的用于 ELMo 表征的探针并不具有选择性。作者还发现,一般被用来控制探针复杂度的 dropout 方法,其实对于提升多层感知机(MLP)结构模型的选择性并没有帮助,但其它类型的正则化方法是有效果的。最后,作者还发现,虽然针对 ELMo 的网络第一层的探针在 POS 标签任务中能取得比第二层的探针稍好的表现,但第二层的探针的选择性要强很多;这也带来了一个新问题:到底网络的哪一层能更好地表征 POS。

早些时候,作者在论文的口头报告中也指出了他们控制任务的局限性:

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

「我们的控制任务中只是辨别不同的单词,探针在这里有可能会发出很多虚假的信号。选择性这个概念的提出符合我们的直觉,但这并不能保证更细粒度的假说也是对的,比如『我的模型有这样的选择性,所以它学会了这个任务』」

三、最佳资源奖

最佳资源奖的论文是由 Facebook、法国索邦大学和约翰斯·霍普金斯大学共同完成。

这项工作的贡献在于其提供的机器翻译数据集对低资源语言有很重要的意义,而详细且清晰的质量控制方法也值得其他类似的语料库收集工作借鉴。 

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

论文地址:https://arxiv.org/abs/1902.01382

数据集地址:https://github.com/facebookresearch/flores

注:该论文在arXiv 上的名称为《The FLoRes Evaluation Datasets for Low-Resource Machine Translation: Nepali-English and Sinhala-English》

论文摘要:世界上绝大多数语言都是低资源的,它们几乎没有(或只有少量)的并行数据。不幸的是,当前的机器翻译(MT)系统在低资源情况下还不能很好地工作。

当然除了可用于监督学习的资源太少外,这些语言还面临一个问题,即由于缺乏可自由公开使用的基准,因此很难评估在低资源语言上进行训练的方法的优劣。

在这项工作中,作者从Wikipedia网页中提取句子,并在低资源预料对(尼泊尔-英语和僧伽罗-英语)中引进了新的评估数据集。这些语言具有完全不同的形态和语法,对于这些语言,几乎没有可用的域外(out-of-domain)并行数据,但却有大量的单语数据可以使用。 

研究人员在文章中描述了收集和交叉检验翻译质量的完整过程,并使用几种学习方式(完全监督、弱监督、半监督、无监督)来报告基准性能。其实验结果相当有意思,当前最先进的方法在这个基准上的表现反而相当差。这也对研究低资源机器翻译的社区提出了新的挑战。

四、最佳Demo奖

最佳 Demo 奖的获奖者来自艾伦人工智能研究所和加利福尼亚大学尔湾分校。

这篇论文介绍了一个在 AllenNLP 基础上开发的开源工具包,它可以帮助解释基于神经网络的 NLP 系统。NLP 领域里,一个重要需求就是怎么来更好地解释「不透明」的神经网络,所以这个系统很可能会启发更多研究。

EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner

论文地址:https://arxiv.org/abs/1909.09251 

演示地址:https://allennlp.org/interpret 

论文摘要:基于神经网络的 NLP 模型变得越来越准确,但它们并不完美,而且不透明——它们会在和人类直觉不同的情况下犯错,人类用户就会对它们的行为感到十分迷惑。模型解释方法缓解这个问题的方式是为模型的某一些预测提供解释。然而不幸的是,目前的模型解释方法都很难用于新的模型、新的任务,这就让神经网络 NLP 的开发应用人员们、解释性方法的研究人员们都不乐意继续使用这些方法。

这篇论文中作者介绍了 AllenNLP Interpret,这是一个用于解释 NLP 模型的灵活的代码框架(工具包)。这个工具包中包括了针对所有 AllenNLP 模型的解释原型(比如输入梯度),一整套集成的解释方法,以及面向前端的可视化组件库。作者在多种不同的模型、不同的任务(包括用 BERT 进行语言掩蔽建模、用 BiDAF 进行阅读理解)上针对 5 种解释方法(包括显著性热图和对抗性攻击)实现了可视化 demo,展示了工具包的灵活性和功能性。这些 demo 和所有的代码、教程都可以在 allennlp.org/interpret  访问。

这篇关于EMNLP2019获奖论文出炉,最佳论文一作华人,导师为NLP公认大神Jason Eisner的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/356411

相关文章

菲律宾诈骗,请各位华人朋友警惕各类诈骗。

骗子招聘类型:程序开发、客服、财务、销售总管、打字员等 如果有人用高薪、好的工作环境来你出国工作。要小心注意!因为这些骗子是成群结伴的! 只要你进入一个菲律宾的群,不管什么类型的群都有这些骗子团伙。基本上是他们控制的! 天天在群里有工作的信息,工作信息都是非常诱惑人的。例如招“打字员”、“客服”、“程序员”……各种信息都有。只要你提交简历了,他会根据你的简历判断你这个人如何。所谓的心理战嘛!

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

如何确定 Go 语言中 HTTP 连接池的最佳参数?

确定 Go 语言中 HTTP 连接池的最佳参数可以通过以下几种方式: 一、分析应用场景和需求 并发请求量: 确定应用程序在特定时间段内可能同时发起的 HTTP 请求数量。如果并发请求量很高,需要设置较大的连接池参数以满足需求。例如,对于一个高并发的 Web 服务,可能同时有数百个请求在处理,此时需要较大的连接池大小。可以通过压力测试工具模拟高并发场景,观察系统在不同并发请求下的性能表现,从而

Prometheus与Grafana在DevOps中的应用与最佳实践

Prometheus 与 Grafana 在 DevOps 中的应用与最佳实践 随着 DevOps 文化和实践的普及,监控和可视化工具已成为 DevOps 工具链中不可或缺的部分。Prometheus 和 Grafana 是其中最受欢迎的开源监控解决方案之一,它们的结合能够为系统和应用程序提供全面的监控、告警和可视化展示。本篇文章将详细探讨 Prometheus 和 Grafana 在 DevO

springboot整合swagger2之最佳实践

来源:https://blog.lqdev.cn/2018/07/21/springboot/chapter-ten/ Swagger是一款RESTful接口的文档在线自动生成、功能测试功能框架。 一个规范和完整的框架,用于生成、描述、调用和可视化RESTful风格的Web服务,加上swagger-ui,可以有很好的呈现。 SpringBoot集成 pom <!--swagge

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin