代码生成-CodeGeeX2本地部署体验

本文主要是介绍代码生成-CodeGeeX2本地部署体验，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

一 CodeGeeX2介绍：

         CodeGeeX2 是多语言代码生成模型 CodeGeeX (KDD’23) 的第二代模型。不同于一代 CodeGeeX（完全在国产华为昇腾芯片平台训练） ，CodeGeeX2 是基于 ChatGLM2 架构加入代码预训练实现，得益于 ChatGLM2 的更优性能，CodeGeeX2 在多项指标上取得性能提升（+107% > CodeGeeX；仅60亿参数即超过150亿参数的 StarCoder-15B 近10%），更多特性包括：

• 更强大的代码能力：基于 ChatGLM2-6B 基座语言模型，CodeGeeX2-6B 进一步经过了 600B 代码数据预训练，相比一代模型，在代码能力上全面提升，HumanEval-X 评测集的六种编程语言均大幅提升 (Python +57%, C++ +71%, Java +54%, JavaScript +83%, Go +56%, Rust +321%)，在Python上达到 35.9% 的 Pass@1 一次通过率，超越规模更大的 StarCoder-15B。
• 更优秀的模型特性：继承 ChatGLM2-6B 模型特性，CodeGeeX2-6B 更好支持中英文输入，支持最大 8192 序列长度，推理速度较一代 CodeGeeX-13B 大幅提升，量化后仅需6GB显存即可运行，支持轻量级本地化部署。
• 更全面的AI编程助手：CodeGeeX插件（VS Code, Jetbrains）后端升级，支持超过100种编程语言，新增上下文补全、跨文件补全等实用功能。结合 Ask CodeGeeX 交互式AI编程助手，支持中英文对话解决各种编程问题，包括且不限于代码解释、代码翻译、代码纠错、文档生成等，帮助程序员更高效开发

二  window平台本地部署

开源地址：https//github.com/THUDM/CodeGeeX2

1 上github拉开源代码

2 安装依赖

pip install -r requirements.txt

3 运行项目（首次运行会下载模型数据到本地） 

cd demo
python run_demo.py

首次运行会下载模型，大概11G大小，多长时间根据网速决定，如下图： 

下载完成后运行 如下图：

由于本机配置低，感觉有点慢.

这篇关于代码生成-CodeGeeX2本地部署体验的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---