书生专题

书生笔记-DUMP线程查找和过滤GTID的基本算法

《深入理解MySQL主从原理32讲》-学习笔记主库DUMP线程有几步需要比较GTID和GTID SET： 1，检查从库的GTID SET是否大于主库的GTID SET 2，根据主库的gtid_purged变量检查从库需要的event是否已经被清理 3，实际扫描的主库的binary log 检查从库需要的event是否已经被清理 4，进行GTID过滤，决定发送哪些事务给从库之前讲的是

书生笔记-mysql主库dump线程

《深入理解mysql主从原理32讲》学习笔记每一个mysql的从库slave都会对于一个 dump线程，如上图的 Binlog Dump GTID . 实际上在启动之前还会和从库的IO线程进行多次的语句交互，然后注册从库，最后才是进行DUMP线程的启动。这些内容会在后续的IO线程中讲解，这里主要讨论的是POSITION MODE模式和GTID AUTO_POSITION MODE模式下的

书生笔记-MySQL5.7并行复制实验

一，配置文件 master_info_repository=TABLE relay_log_info_repository=TABLE slave_parallel_type = LOGICAL_CLOCK slave_parallel_workers=2 slave_preserve_commit_order=1 验证：二，日志解析当前模式： COMMIT_ORDER （默认

书生笔记-Binlog Cache解析

整个事务的Event在commit的时候才会真正的写入到binlog 文件中，在此之前，这些Event 都放在binlog cache中。先来看下几个相关参数的定义binlog_cache_size，binlog_stmt_cache_size。 binlog_cache_size The size of the memory buffer to hold changes to

书生笔记-Binlog Event Type解析

binlog以事件的形式记录数据库变更情况。通过执行show binlog events in "XXX"命令可以查看事件源码中定义的binlog event type事件类型,源码位置：binlog_event.h 先来看一个例子：可以看到第一个event type是前面文章我们介绍的第一个event，FORMAT_DESCRIPTION_EVENT，event type 为For

书生笔记-mysql binlog Event详解-概述

Binlog是一种二进制格式的文件，理解Binlog二进制格式能够帮助我们进一步理解MySQL的主从复制原理。本文将对Binlog event文件格式进行分析官方文档： https://dev.mysql.com/doc/internals/en/binlog-event.html Binlog文件头 Binlog文件，前4个字节固定为一个Magic Number，十六进制值为f

书生笔记-mysqldump搭建GTID的主从复制

step1,主库备份： [root@localhost backup]# pwd/data/backup[root@localhost backup]# mysqldump --socket=/data/mysql/mysql3306/mysql.sock --user=root --password=123456 --single-transaction --master-d

《书生·浦语大模型实战营》第4课学习笔记：XTuner 微调 LLM:1.8B、多模态、Agent

文章大纲 1. 大模型微调简介2 快速上手2.1 环境安装2.2 前期准备2.2.1 数据集准备2.2.2 模型准备2.2.3 配置文件选择2.2.4 小结 2.3 配置文件修改2.4 模型训练2.4.1 常规训练2.4.2 使用 deepspeed 来加速训练2.4.3 训练结果2.4.4 小结 2.5 模型转换、整合、测试及部署2.5.1 模型转换2.5.2 模型整合2.5.3 对话测试

书生·浦语大模型实战营第二期作业六

1、安装环境： 2、安装legent和agentlego： 3、部署apiserver： 4、legent web demo： 5、没搜到，很尴尬： 6、自定义工具： 7、智能体“乐高”： 8、智能体工具，识别图片： 9、自定义工具：

[书生·浦语大模型实战营]——LMDeploy 量化部署 LLM 实践

1.基础作业 1.1配置 LMDeploy 运行环境创建开发机创建新的开发机，选择镜像Cuda12.2-conda；选择10% A100*1GPU；点击“立即创建”。注意请不要选择Cuda11.7-conda的镜像，新版本的lmdeploy会出现兼容性问题。其他和之前一样，不赘述。创建conda环境 studio-conda -t lmdeploy -o pytorch-2.1.2

《书生·浦语大模型实战营》第1课学习笔记：书生·浦语大模型全链路开源体系

文章大纲 1. 简介与背景智能聊天机器人与大语言模型目前的开源智能聊天机器人与云上运行模式 2. InternLM2 大模型简介3. 视频笔记：书生·浦语大模型全链路开源体系内容要点从模型到应用典型流程全链路开源体系 4. 论文笔记:InternLM2 Technical Report简介软硬件基础设施 Infrastructure预训练方法 Pre-train对齐 Alignment评价

[书生·浦语大模型实战营]——第三节：茴香豆：搭建你的 RAG 智能助理

0.RAG 概述定义：RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。 RAG 能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域

[书生·浦语大模型实战营]——第二节：课后作业

基础作业 1.使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事 2.使用书生·浦语 Web 和浦语对话，和书生·浦语对话，并找到书生·浦语 1 处表现不佳的案例(比如指令遵循表现不佳的案例)，提交到问卷。进阶作业 1.huggingface下载功能学习 pip install huggingface_hub #安装huggingface_hubfrom huggi

书生作业：XTuner

作业链接： https://github.com/InternLM/Tutorial/blob/camp2/xtuner/homework.md xtuner: https://github.com/InternLM/xtuner 环境配置首先，按照xtuner的指令依次完成conda环境安装，以及xtuner库的安装。然后，我们开始尝试使用QLora 进行Finetune。

书生浦语训练营第2期-第7节笔记

一、为什么要研究大模型的评测？首先，研究评测对于我们全面了解大型语言模型的优势和限制至关重要。尽管许多研究表明大型语言模型在多个通用任务上已经达到或超越了人类水平，但仍然存在质疑，即这些模型的能力是否只是对训练数据的记忆而非真正的理解。例如，即使只提供LeetCode题目编号而不提供具体信息，大型语言模型也能够正确输出答案，这暗示着训练数据可能存在污染现象。其次，研究评测有助于指导和改进人类

【书生·浦语大模型实战营】作业（六）：Lagent AgentLego 智能体应用搭建

【书生·浦语大模型实战营】作业（六）：Lagent & AgentLego 智能体应用搭建 🎉AI学习星球推荐： GoAI的学习社区知识星球是一个致力于提供《机器学习 | 深度学习 | CV | NLP | 大模型 | 多模态 | AIGC 》各个最新AI方向综述、论文等成体系的学习资料，配有全面而有深度的专栏内容，包括不限于前沿论文解读、资料共享、行业最新动态以、实践教程、求职相

书生·浦语大模型实战营之Llama 3 高效部署实践（LMDeploy 版）

书生·浦语大模型实战营之Llama 3 高效部署实践（LMDeploy 版）环境，模型准备LMDeploy chatTurmind和Transformer的速度对比LMDeploy模型量化(lite)LMDeploy服务(serve) 环境，模型准备 InternStudio 可以直接使用 studio-conda -t Llama3_lmdeploy

书生·浦语大模型第二期实战营第七节-OpenCompass 大模型评测实战笔记和作业

来源：视频教程：https://www.bilibili.com/video/BV1Pm41127jU/?spm_id_from=333.788&vd_source=f4a51f7f5a63e756f73ad0dff318c1a3 文字教程：https://github.com/InternLM/Tutorial/blob/camp2/opencompass/readme.md 作业来

书生·浦语大模型第二期实战营第六节-Lagent AgentLego 智能体应用搭建笔记和作业

来源：视频教程：Lagent & AgentLego 智能体应用搭建文字教程： Lagent Web Demo：https://github.com/InternLM/Tutorial/blob/camp2/agent/lagent.md#1-lagent-web-demo AgentLego： https://github.com/InternLM/Tutorial/blob/ca

书生·浦语大模型开源体系（四）作业

💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。谢谢你的光临，让我们一起踏上这个知识之旅！文章目录 🍋训练自己的小助手认知 🍋训练自己的小助手

【书生浦语第二期实战营学习笔记作业(四)】

课程文档：https://github.com/InternLM/Tutorial/blob/camp2/xtuner/readme.md 作业文档：https://github.com/InternLM/Tutorial/blob/camp2/xtuner/homework.md 书生浦语第二期实战营学习笔记&作业(四) 1.1、微调理论讲解及 XTuner 介绍两种Finetune范式

书生·浦语大模型第二期实战营第四节-XTuner 微调 LLM：1.8B、多模态、Agent 笔记

来源：视频来源：XTuner 微调 LLM：1.8B、多模态、Agent 1. XTuner 微调 LLM：1.8B、多模态、Agent 1.1 为什么要微调 1.2 两种Finetune范式在LLM的下游应用中，增量预训练和指令跟随是经常会用到的两种微调模式。增量预训练微调使用场景：让基座模型学习到一些新知识，如某个垂类领域的常识。训练数

【书生浦语第二期实战营学习笔记作业(七)】

课程文档：https://github.com/InternLM/Tutorial/blob/camp2/opencompass/readme.md 课程作业：https://github.com/InternLM/Tutorial/blob/camp2/opencompass/homework.md OpenCompass 大模型评测实战 1. 大模型的评测1.1 大模型评测如何促进发展

书生·浦语大模型实战营之 XTuner 微调 Llama 3 个人小助手认知

书生·浦语大模型实战营之 XTuner 微调 Llama 3 个人小助手认知 Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，XTuner 团队对 Llama 3 微调进行了光速支持！！！开源同时社区中涌现了 Llama3-XTuner-CN 手把手教大家使用 XTuner 微调 Llama 3 模型。 XTuner：http://github.com/InternLM/

书生·浦语大模型实战营Day05LMDeploy服务

书生·浦语大模型实战营Day05LMDeploy 服务 LMDeploy服务(serve) 在第二章和第三章，我们都是在本地直接推理大模型，这种方式成为本地部署。在生产环境下，我们有时会将大模型封装为API接口服务，供客户端访问。从架构上把整个服务流程分成下面几个模块。模型推理/服务。主要提供模型本身的推理，一般来说可以和具体业务解耦，专注模型推理本身性能的优化。可以以模块、API等

书生·浦语实战营第二期（六）——Agent

一、概述： 1.1、Lagent: Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。 Lagent 目前已经支持了包括 AutoGPT、ReAct 等在内的多个经典智能体范式，也支持了如下工具： Arxiv 搜索Bing 地图Google 学术搜索Google 搜索交互式 IPython 解释器