让 GenAI 提供更好答案的诀窍

2024-03-07 14:04

本文主要是介绍让 GenAI 提供更好答案的诀窍,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在使用GenAI回答有关数据的问题之前,重要的是首先评估所提出的问题。这是Miso.ai的首席执行官兼联合创始人Lucky Gunasekara对当今开发GenAI工具的团队的建议。

GenAI作为一种界面提供了巨大的潜力,使用户能够以独特的方式查询你的数据,以接收针对他们的需求的答案,例如,作为查询助手,GenAI工具可以帮助客户使用简单的问答格式更好地导航广泛的产品知识库。

但在使用GenAI回答有关数据的问题之前,重要的是首先评估所提出的问题。

这是Miso.ai的首席执行官兼联合创始人Lucky Gunasekara对当今开发GenAI工具的团队的建议。

出于对Miso.ai的产品Smart Answers如何展现其洞察力的兴趣,我要求Gunasekara更深入地讨论Miso.ai理解和回答用户问题的方法。

大型语言模型“实际上比我们想象的要幼稚得多”,Gunasekara说,例如,如果被问到一个有强烈观点的问题,大语言模型很可能会去寻找证实这个观点的精挑细选的数据,即使现有的数据表明这个观点是错误的。因此,如果被问到“为什么项目X失败了?”,大语言模型可能会列出一个项目失败的原因清单——即使它是成功的,而这不是你想要的一个面向公众的应用程序所做的事情。

Gunasekara指出,在所谓的RAG(检索增强生成)应用程序中,评估问题是一个典型的遗漏步骤,RAG应用程序将大语言模型指向特定的数据体,并告诉它仅根据该数据回答问题。

这类应用程序通常遵循以下(稍微简化的)设置模式:

  • 将现有数据拆分成块,因为所有数据都太大,无法放入单个大语言模型查询中。
  • 为每个块生成所谓的嵌入,将该块的语义表示为一串数字,并存储它们,在数据更改时根据需要进行更新。

然后是每一个问题:

  • 生成嵌入。
  • 使用基于嵌入的计算,找出在含义上与问题最相似的文本块。
  • 将用户的问题输入大语言模型,并告诉它只根据最相关的块来回答。

这就是Gunasekara的团队采取不同方法的地方,他们增加了一个步骤,在搜索相关信息之前检查问题。“我们不会直接问这个问题,而是首先问这个假设是否正确”, Miso的首席技术官兼联合创始人Andy Hsieh解释说。

除了检查问题中固有的假设外,还有其他方法来加强基本的RAG管道,以帮助改进结果。Gunasekara建议超越基础,特别是在从实验阶段转向值得生产的解决方案时。

Gunasekara说:“有很多人强调‘建立一个矢量数据库,做一个RAG设置,一切都会开箱即用’,这是一种很好的概念验证方式,但如果你需要做一项不会产生意想不到的后果的企业级服务,那永远是上下文、上下文、上下文”。

这可能意味着除了使用文本的语义之外,还可以使用其他信号,如新近和流行。Gunasekara指出了Miso正在与一个烹饪网站合作的另一个项目,该项目解构了这个问题:“派对上最好的烘焙蛋糕是什么?”

他说,你需要区分出你真正需要什么信号来进行查询。“Make-Advance”蛋糕的意思是不需要马上端上,“for a party”的意思是它需要为不止几个人服务,还有一个问题是,大语言模型如何确定哪些食谱是“最好的”,这可能意味着使用其他网站数据,比如哪些食谱拥有最高的流量、最高的读者排名,或者被授予编辑的选择——所有这些都与查找和汇总相关文本块分开。

Gunasekara说:“把这些事情做好的许多窍门更多地体现在这些背景线索中”。

虽然大语言模型的质量是另一个重要因素,但Miso认为没有必要使用最高评级和最昂贵的商业大语言模型,相反,Miso正在为一些客户项目微调基于Llama 2的模型,这在一定程度上是为了降低成本,也是因为一些客户不希望他们的数据泄露给第三方,Miso之所以这么做,也是因为Gunasekara所说的“开源大语言模型现在正在涌现一股巨大的力量”。

“开源真的在迎头赶上”,Hsieh补充道,“开源模型非常可能会超越GPT-4”。    

这篇关于让 GenAI 提供更好答案的诀窍的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/783764

相关文章

poj 3104 二分答案

题意: n件湿度为num的衣服,每秒钟自己可以蒸发掉1个湿度。 然而如果使用了暖炉,每秒可以烧掉k个湿度,但不计算蒸发了。 现在问这么多的衣服,怎么烧事件最短。 解析: 二分答案咯。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#include <c

java线程深度解析(一)——java new 接口?匿名内部类给你答案

http://blog.csdn.net/daybreak1209/article/details/51305477 一、内部类 1、内部类初识 一般,一个类里主要包含类的方法和属性,但在Java中还提出在类中继续定义类(内部类)的概念。 内部类的定义:类的内部定义类 先来看一个实例 [html]  view plain copy pu

【附答案】C/C++ 最常见50道面试题

文章目录 面试题 1:深入探讨变量的声明与定义的区别面试题 2:编写比较“零值”的`if`语句面试题 3:深入理解`sizeof`与`strlen`的差异面试题 4:解析C与C++中`static`关键字的不同用途面试题 5:比较C语言的`malloc`与C++的`new`面试题 6:实现一个“标准”的`MIN`宏面试题 7:指针是否可以是`volatile`面试题 8:探讨`a`和`&a`

html记账本改写:数据重新布局,更好用了,没有localStorage保存版本

<!DOCTYPE html><html lang="zh-CN"><head><meta charset="UTF-8"><title>htm记账本</title><style>table {user-select: none;/* width: 100%; */border-collapse: collapse;}table,th,td {border: 1px solid bla

使用 Lodash 提供的 isNil 和 omitBy 实现对象空属性的过滤

import { isNil, omitBy } from 'lodash-es'; 是一行 JavaScript 代码,用于从 lodash-es 库中导入两个函数:isNil 和 omitBy。以下是它们的作用: 1、isNil: 检查传入的值是否为 null 或 undefined。 isNil(null); // trueisNil(undefined); // trueis

机器人可能会在月球上提供帮助

登月是我们这个时代最具标志性的事件之一,这可能还算轻描淡写了:这是我们迄今为止在物理上探索得最远的一次。我听过一些当时的老广播,它们可以让你想象出这次航行的重要性。 现在,研究人员表示,我们可能很快就能重返月球,甚至可能很快就会有人类任务前往火星。 火星。艺术家:NASA 这次会有什么不同呢? 有一点是确定的:机器人将大力协助—— 非常多。 在麻省理工学院,我们的一些团队正在开发突破性的

上海大学《2022年836+915自动控制原理真题及答案》 (完整版)

Part1:2022年上海大学真题题目 学硕836 专硕915 Part2:2022年上海大学真题答案 学硕836 专硕915

问题和答案-内存泄露

1.看看Java内存模型,Java加载机制。平常写代码注意就行了。 2.  该销毁 销毁 该释放 释放 3,     4. 是死循环造成的内存溢出 还是啥没释放 造成 的内存泄露 5. 死循环你内存有多少够开销的? 6.静态的东西多注意就好了 7.生命周期长的类不要持有短周期的引用。 8.         9.

数字福建中小企业云落地 青云QingCloud提供独家技术支持

日前,中国国际信息技术(福建)产业园 VR 基地暨云平台启动仪式在福建安溪县隆重举行。 启动仪式上,VR 创作基地、VR 主题公园、VR 公共服务平台、中国制造 2025 公共服务云平台、中小企业云、政务云、产业云、智慧交通云等多个项目举行签约仪式。企业级基础云服务商青云QingCloud CEO 黄允松出席了启动仪式,并参加了中小企业云平台的签约仪式。 青云QingCloud 作为中小企