【RAG】在 InternLM Studio 上部署茴香豆技术助手

2024-04-13 20:20

本文主要是介绍【RAG】在 InternLM Studio 上部署茴香豆技术助手,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本次部署的教程参考
https://github.com/InternLM/Tutorial/blob/camp2/huixiangdou/readme.md

部署位置为Intern Studio 开发机

在实践过程中学到很多知识点,尤其是linux指令

  1. 创建软链接(也称符号链接)(symbolic link)
    作用类似于快捷方式,可以在链接文件访问目标文件的内容,但是不占用内存。目标文件也可以是一个文件夹
    ln -s 目标文件(夹)地址 链接文件(夹)地址
ln -s /root/share/new_models/ /root/models/
  1. 在linux里直接修改文件的内容
    使用sed流编辑器,用于处理文本流。
    sed -i 表示直接修改原始文件,而不是将结果保存到标准输出中
    sed -i ‘6s#.*#xxxxxxxx#’ file
    表示将 file文件里的第六行所有内容替换为xxxxxx
sed -i '6s#.*#embedding_model_path = "/root/models/bce-embedding-base_v1"#' /root/huixiangdou/config.ini

设置接受问题列表和拒答问题列表,在问题进来时,先进行相似度匹配,与接受问题列表里的内容相似的才进行回复,否则在用户群聊中,有很多闲聊是不需要回复的。

基础部署

对话示例:


在这里插入图片描述
在这里插入图片描述

支持网络搜索

如果不开启网络搜索的话,感觉知识库里没有的内容会不回答

注册申请Serper API

Serper是一个低成本的谷歌搜索API,可用于从谷歌搜索结果中获取答案框、知识图谱和有机结果数据。

网页版部署

使用Gradio 搭建网页demo

有点奇怪这个问题没有生成预期回复

更换问题之后,得到了回复

好像是因为茴香豆里的问题审核比较严格

这篇关于【RAG】在 InternLM Studio 上部署茴香豆技术助手的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/901126

相关文章

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践

Nginx部署HTTP/3的实现步骤

《Nginx部署HTTP/3的实现步骤》本文介绍了在Nginx中部署HTTP/3的详细步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录前提条件第一步:安装必要的依赖库第二步:获取并构建 BoringSSL第三步:获取 Nginx

redis-sentinel基础概念及部署流程

《redis-sentinel基础概念及部署流程》RedisSentinel是Redis的高可用解决方案,通过监控主从节点、自动故障转移、通知机制及配置提供,实现集群故障恢复与服务持续可用,核心组件包... 目录一. 引言二. 核心功能三. 核心组件四. 故障转移流程五. 服务部署六. sentinel部署

Python中高级文本模式匹配与查找技术指南

《Python中高级文本模式匹配与查找技术指南》文本处理是编程世界的永恒主题,而模式匹配则是文本处理的基石,本文将深度剖析PythonCookbook中的核心匹配技术,并结合实际工程案例展示其应用,希... 目录引言一、基础工具:字符串方法与序列匹配二、正则表达式:模式匹配的瑞士军刀2.1 re模块核心AP

Linux部署中的文件大小写问题的解决方案

《Linux部署中的文件大小写问题的解决方案》在本地开发环境(Windows/macOS)一切正常,但部署到Linux服务器后出现模块加载错误,核心原因是Linux文件系统严格区分大小写,所以本文给大... 目录问题背景解决方案配置要求问题背景在本地开发环境(Windows/MACOS)一切正常,但部署到

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

springboot自定义注解RateLimiter限流注解技术文档详解

《springboot自定义注解RateLimiter限流注解技术文档详解》文章介绍了限流技术的概念、作用及实现方式,通过SpringAOP拦截方法、缓存存储计数器,结合注解、枚举、异常类等核心组件,... 目录什么是限流系统架构核心组件详解1. 限流注解 (@RateLimiter)2. 限流类型枚举 (

Python实现PDF按页分割的技术指南

《Python实现PDF按页分割的技术指南》PDF文件处理是日常工作中的常见需求,特别是当我们需要将大型PDF文档拆分为多个部分时,下面我们就来看看如何使用Python创建一个灵活的PDF分割工具吧... 目录需求分析技术方案工具选择安装依赖完整代码实现使用说明基本用法示例命令输出示例技术亮点实际应用场景扩

MySQL 主从复制部署及验证(示例详解)

《MySQL主从复制部署及验证(示例详解)》本文介绍MySQL主从复制部署步骤及学校管理数据库创建脚本,包含表结构设计、示例数据插入和查询语句,用于验证主从同步功能,感兴趣的朋友一起看看吧... 目录mysql 主从复制部署指南部署步骤1.环境准备2. 主服务器配置3. 创建复制用户4. 获取主服务器状态5

golang程序打包成脚本部署到Linux系统方式

《golang程序打包成脚本部署到Linux系统方式》Golang程序通过本地编译(设置GOOS为linux生成无后缀二进制文件),上传至Linux服务器后赋权执行,使用nohup命令实现后台运行,完... 目录本地编译golang程序上传Golang二进制文件到linux服务器总结本地编译Golang程序