降本提效!阿里提出大模型集成新方法

2023-12-05 22:44

本文主要是介绍降本提效!阿里提出大模型集成新方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

随着对大型语言模型(LLM)研究的不断深入,越来越多的工作不再局限于模型本身的性能提升,而是更加关注如何在任务中实现更高效、可靠的性能。即使是通用型的离线 LLM,也在各种领域和任务中具有不同的专业知识,因此,将多个 LLM 集成在一起,能够实现更为一致的性能提升。然而,尽管大多数 LLM 集成方法可以提高性能,但主要都是对模型输出进行奖励排名,这导致了大量计算开销。

来自阿里的研究团队近期提出了一个集成 LLM 的降本增效新方法,具体来说,通过一种奖励引导的路径决策方法 ZOOTER,只需对在特定任务上表现最优越的模型进行推理,而非对所有模型都生成输出,如图 1 所示。为实现这一目标,引入了一个相对较小的路径决策组件,用于确定哪个模型在处理特定任务时具有最专业的知识。这样一来,整个集成的推理成本大幅降低,从而提高了计算效率。

大模型研究测试传送门

GPT-4传送门(免墙,可直接测试,遇浏览器警告点高级/继续访问即可):
http://hujiaoai.cn

图1 LLM 集成的示例

▲图1 LLM 集成的示例

论文题目:
Routing to the Expert: Efficient Reward-guided Ensemble of Large Language Models

论文链接:
https://arxiv.org/abs/2311.08692


背景知识

在先前的研究中,LLM 集成的一个挑战就是海量参数带来的计算效率问题,本文所提出的方法在模型推理之前,能够通过训练提问集上的奖励信号(即模型在特定任务或领域上的专业知识),对模型进行训练。这样,模型在推理阶段就能够直接利用先前获得的专业知识,从而避免在每次推理中都需要生成大量输出的非必要开销。

奖励模型排名

奖励模型源于强化学习中的奖励函数,可以依据当前的状态得到一个分数,来说明该状态产生多少价值。LLM 可以构建奖励模型来对问答对作出得分评价。在 LLM 微调中的奖励模型是对输入的提问和回答计算出一个分数。输入的回答与提问匹配度越高,则奖励模型输出的分数也就越高

奖励模型排名(Reward Model Ranking, RMR)是一种用于 LLM 集成的方法,其目的是利用不同模型的输出,通过奖励模型的反馈来确定最适合特定任务的模型。在这里,奖励模型被用来对模型的生成结果进行评估和排名,以确定哪个模型在特定任务或领域中表现最好。通过找到一个奖励函数 来估计真实偏好 ,以便为每个提问找到最佳模型。

提问路由

提问路由的目标是找到一个路由函数 ,对于提问集 中的每个 ,该函数能够确定最适合处理该提问的模型 。如果不同的 LLM 在不同领域和任务中具有专业知识,路由函数将能够预测提问属于 LLM 专业知识的概率。与现有的 RMR 方法相比,提问路由函数缓解了计算效率问题。路由函数通过分析每个提问的属性,尝试为其分配最适合的特定领域或任务的模型,从而在整个集成过程中提高效率。

ZOOTER 方法

ZOOTER 通过学习奖励模型排名,从而解释每个模型的潜在专业知识。如图 2 所示,ZOOTER 首先对包含多种提问的训练集进行推断,以生成每个候选 LLM 的回复。接着,通过现有的奖励模型对这些回复进行单一数值的奖励,如图 2 中的蓝色虚线所示。为了进行平滑和去噪,奖励首先通过基于标签的先验进行增强。然后,标准化的奖励分布被用作在路由函数的知识蒸馏训练中的监督,如图 2 中的绿色虚线所示。在推断过程中,路由函数对输入提问进行分类,并将其分配到在该提问上具有最强专业知识潜力的 LLM。最终,由该 LLM 生成专业的回复。

图2 ZOOTER 的概述

▲图2 ZOOTER 的概述

奖励蒸馏

为了估计每个模型的专业知识并训练路由函数,我们需要在一个多样化的训练集 上应用奖励偏好排名。首先在每个提问 上推断所有候选模型,然后通过一个现成的奖励模型为每个提问和模型分配奖励:

然后,通过知识蒸馏使用 KL 散度作为损失函数,在训练集上训练路由器函数 :

此蒸馏过程有助于 ZOOTER 学习每个模型的潜在专业知识。

基于标签(Tag)的标签(Label)增强

作者还指出,语言奖励模型提供的奖励具有不确定性,可能引入噪音

在这里,标签是指对提问的一种附加信息或标注,可以帮助更精确地指导模型在特定任务或领域的表现。通过引入与提问相关的标签信息,尤其是在奖励不确定性的情况下,提高奖励模型的鲁棒性和性能。

具体来说,该方法使用本地标签器对每个提问进行标记来生成标签集。然后,将具有相同标签的提问上的奖励进行聚合,生成 “tag-wise 奖励”。最后,通过线性组合将 tag-wise 奖励与原始奖励结合,用于在路由函数的训练中,以更有效地挖掘潜在的模型专业知识。

实验

综合比较

表1 ZOOTER 和奖励模型排名的主要结果

▲表1 ZOOTER 和奖励模型排名的主要结果

在表 1 中,作者展示了 ZOOTER 和奖励模型排名的主要实验结果,主要包括跨四组基准的六个候选路由的性能。ZOOTER 在平均水平上表现优越,超越了最佳单一模型,甚至在与奖励模型排名集成相比也取得了更好的性能,并且其计算开销明显较小。

LLM 存在互补的潜力:实验结果有力地支持了奖励模型之间存在互补潜力的观点,同时也验证了 ZOOTER 通过使用现成奖励模型进行路由函数训练,可实现更为有效的模型集成。然而,需要注意的是,RMR 方法在 MMLU、GSM8K 和 HumanEval 等基准上的失败,对于知识、数学和编程问题的精确判断仍然具有挑战性。

奖励模型不确定性如何影响 ZOOTER 的训练

作者注意到奖励模型可能存在不确定性,由于使用奖励模型分数作为标准来训练路由函数,这种不确定性会引入噪音。因此通过计算在 MT-Bench 中每个提问在 QwenRM 中所有候选 LLM 的奖励熵来展示了这种不确定性的存在,如图 3 所示,图中显示了奖励熵较低的样本倾向于具有较高的 MT-Bench 得分。作者将这一结果解释为较高的奖励熵表示奖励中的不确定性更大。由此引入了标签增强,以利用基于标签的先验来调整奖励熵

图3 奖励熵与 MT-bench 上奖励偏好排名得分之间的分析

▲图3 奖励熵与 MT-bench 上奖励偏好排名得分之间的分析

在标签增强中有一个超参数 ,代表了样本级奖励和标签级奖励之间的权衡。如表 2 所示,我们发现当 等于 0.3 时,ZOOTER 性能最佳,这证明了样本级和标签级奖励的组合对奖励蒸馏是有益的。消融实验进一步显示了基于标签的标签增强的必要性。

表2 在所有基准上使用不同  值的标签增强的平均任务率(MTR)

▲表2 在所有基准上使用不同 值的标签增强的平均任务率(MTR)

总结

本文通过实验证明了,所提出的 ZOOTER 方法在平均水平上超越了最佳单一模型,甚至可以胜过通过奖励模型排名集成的模型,并且有着明显较小的计算开销。在如今追求高效、节能的时代,本文的方法为我们开辟了一个新的探索方向,探讨如何更有效地集成 LLM,为解决高计算开销问题提供了一种创新性的解决方案。

这篇关于降本提效!阿里提出大模型集成新方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/459425

相关文章

Linux换行符的使用方法详解

《Linux换行符的使用方法详解》本文介绍了Linux中常用的换行符LF及其在文件中的表示,展示了如何使用sed命令替换换行符,并列举了与换行符处理相关的Linux命令,通过代码讲解的非常详细,需要的... 目录简介检测文件中的换行符使用 cat -A 查看换行符使用 od -c 检查字符换行符格式转换将

SpringBoot实现数据库读写分离的3种方法小结

《SpringBoot实现数据库读写分离的3种方法小结》为了提高系统的读写性能和可用性,读写分离是一种经典的数据库架构模式,在SpringBoot应用中,有多种方式可以实现数据库读写分离,本文将介绍三... 目录一、数据库读写分离概述二、方案一:基于AbstractRoutingDataSource实现动态

Java中的String.valueOf()和toString()方法区别小结

《Java中的String.valueOf()和toString()方法区别小结》字符串操作是开发者日常编程任务中不可或缺的一部分,转换为字符串是一种常见需求,其中最常见的就是String.value... 目录String.valueOf()方法方法定义方法实现使用示例使用场景toString()方法方法

Java中List的contains()方法的使用小结

《Java中List的contains()方法的使用小结》List的contains()方法用于检查列表中是否包含指定的元素,借助equals()方法进行判断,下面就来介绍Java中List的c... 目录详细展开1. 方法签名2. 工作原理3. 使用示例4. 注意事项总结结论:List 的 contain

macOS无效Launchpad图标轻松删除的4 种实用方法

《macOS无效Launchpad图标轻松删除的4种实用方法》mac中不在appstore上下载的应用经常在删除后它的图标还残留在launchpad中,并且长按图标也不会出现删除符号,下面解决这个问... 在 MACOS 上,Launchpad(也就是「启动台」)是一个便捷的 App 启动工具。但有时候,应

SpringBoot日志配置SLF4J和Logback的方法实现

《SpringBoot日志配置SLF4J和Logback的方法实现》日志记录是不可或缺的一部分,本文主要介绍了SpringBoot日志配置SLF4J和Logback的方法实现,文中通过示例代码介绍的非... 目录一、前言二、案例一:初识日志三、案例二:使用Lombok输出日志四、案例三:配置Logback一

Python实现无痛修改第三方库源码的方法详解

《Python实现无痛修改第三方库源码的方法详解》很多时候,我们下载的第三方库是不会有需求不满足的情况,但也有极少的情况,第三方库没有兼顾到需求,本文将介绍几个修改源码的操作,大家可以根据需求进行选择... 目录需求不符合模拟示例 1. 修改源文件2. 继承修改3. 猴子补丁4. 追踪局部变量需求不符合很

springboot简单集成Security配置的教程

《springboot简单集成Security配置的教程》:本文主要介绍springboot简单集成Security配置的教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,... 目录集成Security安全框架引入依赖编写配置类WebSecurityConfig(自定义资源权限规则

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容:标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO(blocking I/O)NI

mysql出现ERROR 2003 (HY000): Can‘t connect to MySQL server on ‘localhost‘ (10061)的解决方法

《mysql出现ERROR2003(HY000):Can‘tconnecttoMySQLserveron‘localhost‘(10061)的解决方法》本文主要介绍了mysql出现... 目录前言:第一步:第二步:第三步:总结:前言:当你想通过命令窗口想打开mysql时候发现提http://www.cpp