基于大型语言模型的全双工语音对话方案

本文主要是介绍基于大型语言模型的全双工语音对话方案，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

摘要解读

我们提出了一种能够以全双工方式运行的生成性对话系统，实现了无缝互动。该系统基于一个精心调整的大型语言模型（LLM），使其能够感知模块、运动功能模块以及一个具有两种状态（称为神经有限状态机，neural FSM）的简单有限状态机的概念。

感知模块和运动功能模块协同工作，使系统能够同时与用户进行说话和聆听。LLM生成文本标记以响应查询，并通过向神经FSM发出控制标记自主决定何时开始回应、等待或打断用户。LLM的所有这些任务都是在对话的实时序列化视图上进行下一个标记的预测。

在模拟现实生活互动的自动质量评估中，与基于LLM的半双工对话系统相比，所提出的系统将平均对话响应延迟减少了三倍以上，同时在超过50%的评估互动中在500毫秒内作出响应。运行仅8亿参数的LLM，我们的系统在语音对话中断精度方面比最好的商用LLM高出8%。

作者：

Peng Wang, Songshuo Lu, Yaohua Tang, Sijie Yan, Yuanjun Xiong, Wei Xia

机构：

MThreads AI

摘要分析：

本论文介绍了一种能够实现全双工操作的生成性对话系统，允许无缝互动。该系统基于大型语言模型（LLM），并与感知模块、运动功能模块以及一个简单的有限状态机（称为神经FSM）结合。感知和运动功能模块协同工作，使系统能够同时与用户进行说话和聆听。LLM生成文本标记以响应查询，并通过发出控制标记给神经FSM来自主决定何时开始回应、等待或打断用户。这些任务通过在实时对话的序列化视图上进行下一个标记的预测来完成。在模拟现实生活互动的自动质量评估中，该系统在对话响应延迟方面比基于LLM的半双工对话系统减少了三倍以上，并在超过50%的评估互动中在500毫秒内作出响应。运行8亿参数的LLM，该系统的中断精度比最佳商用LLM高出8%。

图1：左侧。支持基于大语言模型（LLM）的全双工对话模型的代理设计概述。该代理配备了一个LLM、一个感知模块和一个运动功能模块。后者连续且同时操作以收集LLM的输入并生成基于语音的LLM输出。右侧。LLM操作一个具有SPEAK（说话）和LISTEN（聆听）状态的两态神经有限状态机（FSM）。在每个时间步，LLM要么1）接收一个外部输入词元，要么2）生成一个用于语音的文本词元，要么3）生成一个控制词元以在神经FSM中信号状态转换。这个简单的工作流程无需任何外部调节模块即可实现全双工对话。

引言分析：

在人与人之间的对话中，一方在说话时，另一方在聆听，可以在必要时打断对方。现有的大多数聊天功能的LLM将对话视为一个回合制过程，每个参与者在对方回应之前生成完整的句子，这导致了半双工对话模式。虽然这种模式在构建文本聊天机器人时是合理的，但在实现类似于人类对话体验时，由于响应延迟和难以正确打断对方的问题，半双工对话模式变得不可行。本文旨在解决这一问题，实现全双工对话。

图2：在基于大语言模型（LLM）的全双工对话系统中，LLM操作一个两态有限状态机（FSM），管理对话中的状态转换。