语音论文阅读:U2

2023-11-10 14:10
文章标签 阅读 论文 语音 u2

本文主要是介绍语音论文阅读:U2,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

题目:

Unified Streaming and Non-streaming Two-pass End-to-end Model for Speech Recognition

摘要

提出一种双路方法将流式和非流式端到端语音识别模型统一到一个模型中,模型采用混合CTC/attention架构,其中encoder中的conformer结构被修改。提出了一种基于动态的块的注意力策略,以允许任意右上下文长度。在推理时间,CTC解码器以流式方式生成n最佳假设。只能通过更改块大小来容易地控制推理延迟。然后通过注意解码器来重新筛选CTC假设以获得最终结果。这种有效的备用过程导致句子级延迟非常小。在aishell-1上进行测试,本文提出的U2模型相对于非流式模型降低5.60%的相对字错率。同时在较低延迟下,CER可以降低为5.42%。

引言

介绍了端到端的发展,优势,以及目前主流的端到端ASR系统(CTC,RNN-T,AED),不同类型的模型有着不同的应用场景,优势不同,有些工作对比了这三种模型,有些工作将三种模型集成到一个模型中[1,2,3]。

介绍了流式RNNT模型通过一些策略达到与LAS相媲美的精度,以及介绍了AED模型一些进行流式识别的操作(MoCha),最近,将流式和非流式统一到一个模型的研究越来越火热。U2模型不仅降低了流模型和无流模型之间的精度差距,还可以减轻模型开发,培训和部署的负担

相关工作

  Two pass解码最先在RNN-T模型中应用,但RNN-T模型难以训练,非常占用内存,以及不稳定,一些改善的变种模型(联合CTC训练,CE,以及加入LAS loss)比较复杂。对于统一无流和流式媒体模型,Y模型在培训时使用可变上下文,并且可以在推理时使用若干可选的上下文。但是,可选的上下文在训练阶段预定义,并且在编码器层的数量方面仔细设计了上下文,Dual-model仅在训练和推理中只有一个流配置,如果我们希望在推理的推断下具有不同延迟的另一流模型,则需要完全再培训模型。此外,y模型和Dual-model是基于RNN-T的模型,它们具有与RNN-T相同的缺点,针对上面的一些工作,本文提出U2,是CTC和基于AED的联合模型,通过组合CTC和AED损失和动态块的关注,不仅统一无流化和流媒体模型,给出了有希望的结果,也大大简化了训练管道,也是如此随着动态控制流媒体应用中的延迟与准确性之间的权衡。

模型结构

其中Encoder部分可选Transformer或者Conformer,限制Encoder只能看到有限的未来信息,CTC-Decoder以一种流式的方式运行,为The first pass。Two pass输出为CTC和attention的联合输出。

使用CTC/attention联合损失函数。

提出了一种动态块训练技术,统一无流化和流式模型并启用延迟控制。

(a)为使用全部的注意力,不能进行流式识别,(b)为只看时间t的输入以及之前的输入或者每层看有限个未来信息,假设有N个encoder层,每层看W个右边信息,则一共所看右边信息为N*W,看到未来部分信息相比只看过去信息效果更好。但这在confomer结构中有些困难,(c)为本文工作,使用动态的截断未来信息。我们有输入[t + 1,t + 2,...,t + c],每个块都取决于自身和所有之前的块。然后编码器的整个延迟取决于块大小,易于控制和实现。我们可以使用固定的块大小培训模型,我们称之为静态块训练,并用同一个块解码。我们称大小为1到25的块作为流块,用于流式模型和尺寸,最大话语长度为无流块,无用于无流模型。然而,这种方法的结果不够好,所以接下来我们在培训过程中改变块大小的分布如下。

Conformer中的卷积单元考虑左上和右上下文。总正确上下文取决于卷积层的上下文和堆叠数量的符合者层。因此,这种结构不仅带来了额外的延迟,而且还破坏了基于块的关注的好处,延迟是在网络结构上独立的,并且可以刚刚在推理时间的块控制。为了克服这个问题,我们使用因果卷积。

解码

CTC的输出作为流式方式输出

另外:使用Attention Decoder 和Rescoring mode 作为最后输出方式

Rescoring mode使用CTC 的输出优化Attention的输出。

实验

Aishell-1数据集

80Fbank,应用变速,时域频域掩盖等增强技术

参考文献

1.R. Prabhavalkar, K. Rao, T. N. Sainath, B. Li, L. Johnson, and N. Jaitly, “A comparison of sequence-to-sequence models for speech recognition

2.S. Kim, T. Hori, and S. Watanabe, “Joint ctc-attention based end-to-end speech recognition using multi-task learning,” in 2017 IEEE international conference on acoustics, speech and signal
processing (ICASSP). IEEE, 2017, pp. 4835–4839.
3.T. N. Sainath, R. Pang, D. Rybach, Y . He, R. Prabhavalkar, W. Li,
M. Visontai, Q. Liang, T. Strohman, Y . Wu et al., “Two-pass end-
to-end speech recognition,” arXiv preprint arXiv:1908.10992,
2019

这篇关于语音论文阅读:U2的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/383141

相关文章

讯飞webapi语音识别接口调用示例代码(python)

《讯飞webapi语音识别接口调用示例代码(python)》:本文主要介绍如何使用Python3调用讯飞WebAPI语音识别接口,重点解决了在处理语音识别结果时判断是否为最后一帧的问题,通过运行代... 目录前言一、环境二、引入库三、代码实例四、运行结果五、总结前言基于python3 讯飞webAPI语音

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

让树莓派智能语音助手实现定时提醒功能

最初的时候是想直接在rasa 的chatbot上实现,因为rasa本身是带有remindschedule模块的。不过经过一番折腾后,忽然发现,chatbot上实现的定时,语音助手不一定会有响应。因为,我目前语音助手的代码设置了长时间无应答会结束对话,这样一来,chatbot定时提醒的触发就不会被语音助手获悉。那怎么让语音助手也具有定时提醒功能呢? 我最后选择的方法是用threading.Time

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

AI(文生语音)-TTS 技术线路探索学习:从拼接式参数化方法到Tacotron端到端输出

AI(文生语音)-TTS 技术线路探索学习:从拼接式参数化方法到Tacotron端到端输出 在数字化时代,文本到语音(Text-to-Speech, TTS)技术已成为人机交互的关键桥梁,无论是为视障人士提供辅助阅读,还是为智能助手注入声音的灵魂,TTS 技术都扮演着至关重要的角色。从最初的拼接式方法到参数化技术,再到现今的深度学习解决方案,TTS 技术经历了一段长足的进步。这篇文章将带您穿越时

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super