首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
mtpe专题
创新实训2024.06.02日志:SSE、流式输出以及基于MTPE技术的MT-SSE技术
1. Why SSE? 之所以要做SSE,是因为在开发、调试以及使用我们开发的软件时,我发现消息的响应时间会很长。之所以会这样最主要的原因是,MTPE这项基于CoT的技术,本质上是多个单一的提示工程有机地组合在一起对大模型生成回答的能力进行增强。多步提示工程就延长了大模型思考、整理、融合检索到的知识的时间(也就是说我们拿时间换来了更强的大模型的能力) 1.1. 技术选型 因此我一直在探索一种
阅读更多...
创新实训2024.05.28日志:记忆化机制、基于MTPE与CoT技术的混合LLM对话机制
1. 带有记忆的会话 1.1. 查询会话历史记录 在利用大模型自身能力进行对话与解答时,最好对用户当前会话的历史记录进行还原,大模型能够更好地联系上下文进行解答。 在langchain chat chat的chat函数中,通过实现langchain框架提供的ChatMemory。就可以建立一个对话记录的缓冲区,随后读取历史会话记录到缓冲区,在对话时作为memory参数传入。 memory
阅读更多...