前言 近期，除了研究ChatGPT背后的各种技术细节 不断看论文(至少100篇，100篇目录见此：ChatGPT相关技术必读论文100篇)，还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节)  本文一开始是作为此文《ChatGPT技术原理解析：从RL之PPO算法、RLHF到GPT4、instructGPT》的第4部分，但随着研究深入

1、环境简介  环境：         系统：Ubuntu         torch：2.2.1         python：3.10         gpu：V100 16g         peft：0.9.0 使用PEFT中的lora方式微调llama-2-7b-hf，项目地址：alpaca-lora 2、混合精度训练Tensor相互计算会报错 报错内容： 解决方法： 修

LLMs之BELLE：BELLE(一款能够帮到每一个人的中文LLM引擎)的简介(基于Alpaca架构+中文优化+考察词表扩充/数据质量/数据语言分布/数据规模的量化分析)、使用方法、案例应用之详细攻略 导读：2023年4月8日，BELLE(Be Everyone's Large Language model Engine)，项目目标是促进中文对话大模型开源社区的发展，愿景是成为能够帮到每一个人

LLMs：Chinese-LLaMA-Alpaca-2(基于deepspeed框架)的简介、安装、案例实战应用之详细攻略 导读：2023年07月31日，哈工大讯飞联合实验室，发布Chinese-LLaMA-Alpaca-2，本项目基于Meta发布的可商用大模型Llama-2开发，是中文LLaMA&Alpaca大模型的第二期项目，开源了中文LLaMA-2基座模型和Alpaca-2指令精调大模型。

Alpaca是一个Photoshop插件，提供了多种功能，帮助用户更高效地进行图像处理和设计。可以进行模型训练并无缝地融入图像中。同时还提供文本到图像的生成、图像到图像的变化、涂色、放大、深度图创建等功能，极大地提升了设计和艺术创作的效率和创意空间。 注意：支持ps2021-2023版本 需要注册并登录自己的账号 智能ps羊驼插件-ps插件：alpaca增效工具 (完美替代AI创成式填充)-