构建LangChain应用程序的示例代码:35、如何使用假设性文档嵌入(HyDE)技术来改善文档索引教程

本文主要是介绍构建LangChain应用程序的示例代码:35、如何使用假设性文档嵌入(HyDE)技术来改善文档索引教程,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

使用假设性文档嵌入(HyDE)改善文档索引

摘要

本文介绍了如何使用假设性文档嵌入(Hypothetical Document Embeddings,简称HyDE),这是根据一篇论文中描述的技术。HyDE 是一种嵌入技术,它接收查询,生成一个假设性的答案,然后嵌入该生成的文档,并将其作为最终示例使用。

代码及注释

from langchain.chains import HypotheticalDocumentEmbedder, LLMChain
from langchain.prompts import PromptTemplate
from langchain_openai import OpenAI, OpenAIEmbeddings# 初始化基础嵌入模型
base_embeddings = OpenAIEmbeddings()
# 初始化语言模型
llm = OpenAI()# 使用web_search提示加载HyDE
embeddings = HypotheticalDocumentEmbedder.from_llm(llm, base_embeddings, "web_search")# 现在我们可以像使用任何嵌入类一样使用它
result = embeddings.embed_query("泰姬陵在哪里?")

多生成文档

我们也可以生成多个文档,然后组合这些文档的嵌入。默认情况下,我们通过取平均值来组合它们。我们可以通过改变生成文档的LLM来返回多个结果。

# 初始化返回多个结果的语言模型
multi_llm = OpenAI(n=4, best_of=4)# 使用多生成语言模型加载HyDE
embeddings = HypotheticalDocumentEmbedder.from_llm(multi_llm, base_embeddings, "web_search"
)# 嵌入查询
result = embeddings.embed_query("泰姬陵在哪里?")

使用自定义提示

除了使用预配置的提示外,我们也可以轻松构建自己的提示,并在生成文档的LLMChain中使用它们。如果我们知道查询将涉及的领域,这将非常有用,因为我们可以调整提示以生成更类似于该领域的文本。

以下示例中,我们将提示条件设置为生成有关国情咨文的文本。

# 定义自定义提示模板
prompt_template = """请回答用户关于最近一次国情咨文的问题
问题:{question}
答案:"""
# 创建提示模板对象
prompt = PromptTemplate(input_variables=["question"], template=prompt_template)
# 初始化使用自定义提示的LLMChain
llm_chain = LLMChain(llm=llm, prompt=prompt)# 使用自定义提示加载HyDE
embeddings = HypotheticalDocumentEmbedder(llm_chain=llm_chain, base_embeddings=base_embeddings
)# 嵌入查询
result = embeddings.embed_query("总统在谈到Ketanji Brown Jackson时说了什么?"
)

使用HyDE

现在我们有了HyDE,我们可以像使用其他任何嵌入类一样使用它!以下是使用它在国情咨文示例中查找相似段落的方法。

from langchain_community.vectorstores import Chroma
from langchain_text_splitters import CharacterTextSplitter# 读取国情咨文文本
with open("../../state_of_the_union.txt") as f:state_of_the_union = f.read()
# 初始化文本分割器
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
# 分割文本
texts = text_splitter.split_text(state_of_the_union)# 使用Chroma从分割后的文本和嵌入创建文档搜索引擎
docsearch = Chroma.from_texts(texts, embeddings)# 定义查询
query = "总统在谈到Ketanji Brown Jackson时说了什么?"
# 执行相似性搜索
docs = docsearch.similarity_search(query)# 打印搜索结果
print(docs[0].page_content)

总结

本文详细介绍了如何使用假设性文档嵌入(HyDE)技术来改善文档索引。通过提供基础嵌入模型和生成文档的语言模型链(LLMChain),我们可以生成假设性答案并将其嵌入作为最终示例。此外,我们还探讨了如何使用自定义提示来生成特定领域的文本,以及如何将HyDE与其他工具结合使用,如Chroma和CharacterTextSplitter,以实现文档的高效索引和搜索。

扩展知识

  • HyDE (Hypothetical Document Embeddings):一种文档嵌入技术,通过生成假设性答案来改善文档索引和搜索。
  • LLMChain:用于生成文档的语言模型链,可以与HyDE结合使用。
  • OpenAIEmbeddings:OpenAI 提供的嵌入模型,用于生成文档嵌入。
  • PromptTemplate:用于定义和生成自定义提示的模板。
  • Chroma:一个向量存储库,用于文档搜索和相似性搜索。
  • CharacterTextSplitter:用于将长文本分割成更小的块,以便于处理和索引。

这篇关于构建LangChain应用程序的示例代码:35、如何使用假设性文档嵌入(HyDE)技术来改善文档索引教程的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1070368

相关文章

Java中Arrays类和Collections类常用方法示例详解

《Java中Arrays类和Collections类常用方法示例详解》本文总结了Java中Arrays和Collections类的常用方法,涵盖数组填充、排序、搜索、复制、列表转换等操作,帮助开发者高... 目录Arrays.fill()相关用法Arrays.toString()Arrays.sort()A

Spring Boot Maven 插件如何构建可执行 JAR 的核心配置

《SpringBootMaven插件如何构建可执行JAR的核心配置》SpringBoot核心Maven插件,用于生成可执行JAR/WAR,内置服务器简化部署,支持热部署、多环境配置及依赖管理... 目录前言一、插件的核心功能与目标1.1 插件的定位1.2 插件的 Goals(目标)1.3 插件定位1.4 核

如何使用Lombok进行spring 注入

《如何使用Lombok进行spring注入》本文介绍如何用Lombok简化Spring注入,推荐优先使用setter注入,通过注解自动生成getter/setter及构造器,减少冗余代码,提升开发效... Lombok为了开发环境简化代码,好处不用多说。spring 注入方式为2种,构造器注入和setter

MySQL中比较运算符的具体使用

《MySQL中比较运算符的具体使用》本文介绍了SQL中常用的符号类型和非符号类型运算符,符号类型运算符包括等于(=)、安全等于(=)、不等于(/!=)、大小比较(,=,,=)等,感兴趣的可以了解一下... 目录符号类型运算符1. 等于运算符=2. 安全等于运算符<=>3. 不等于运算符<>或!=4. 小于运

使用zip4j实现Java中的ZIP文件加密压缩的操作方法

《使用zip4j实现Java中的ZIP文件加密压缩的操作方法》本文介绍如何通过Maven集成zip4j1.3.2库创建带密码保护的ZIP文件,涵盖依赖配置、代码示例及加密原理,确保数据安全性,感兴趣的... 目录1. zip4j库介绍和版本1.1 zip4j库概述1.2 zip4j的版本演变1.3 zip4

Python 字典 (Dictionary)使用详解

《Python字典(Dictionary)使用详解》字典是python中最重要,最常用的数据结构之一,它提供了高效的键值对存储和查找能力,:本文主要介绍Python字典(Dictionary)... 目录字典1.基本特性2.创建字典3.访问元素4.修改字典5.删除元素6.字典遍历7.字典的高级特性默认字典

MySQL进行数据库审计的详细步骤和示例代码

《MySQL进行数据库审计的详细步骤和示例代码》数据库审计通过触发器、内置功能及第三方工具记录和监控数据库活动,确保安全、完整与合规,Java代码实现自动化日志记录,整合分析系统提升监控效率,本文给大... 目录一、数据库审计的基本概念二、使用触发器进行数据库审计1. 创建审计表2. 创建触发器三、Java

MySQL逻辑删除与唯一索引冲突解决方案

《MySQL逻辑删除与唯一索引冲突解决方案》本文探讨MySQL逻辑删除与唯一索引冲突问题,提出四种解决方案:复合索引+时间戳、修改唯一字段、历史表、业务层校验,推荐方案1和方案3,适用于不同场景,感兴... 目录问题背景问题复现解决方案解决方案1.复合唯一索引 + 时间戳删除字段解决方案2:删除后修改唯一字

使用Python构建一个高效的日志处理系统

《使用Python构建一个高效的日志处理系统》这篇文章主要为大家详细讲解了如何使用Python开发一个专业的日志分析工具,能够自动化处理、分析和可视化各类日志文件,大幅提升运维效率,需要的可以了解下... 目录环境准备工具功能概述完整代码实现代码深度解析1. 类设计与初始化2. 日志解析核心逻辑3. 文件处

MySQL 主从复制部署及验证(示例详解)

《MySQL主从复制部署及验证(示例详解)》本文介绍MySQL主从复制部署步骤及学校管理数据库创建脚本,包含表结构设计、示例数据插入和查询语句,用于验证主从同步功能,感兴趣的朋友一起看看吧... 目录mysql 主从复制部署指南部署步骤1.环境准备2. 主服务器配置3. 创建复制用户4. 获取主服务器状态5