首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
chatgml专题
Windows PC上从零开始部署ChatGML-6B-int4量化模型
引言 ChatGLM-6B是清华大学知识工程和数据挖掘小组(Knowledge Engineering Group (KEG) & Data Mining at Tsinghua University)发布的一个开源的对话机器人。6B表示这是ChatGLM模型的60亿参数的小规模版本,约60亿参数。 ChatGML-6B-int4量化模型是针对ChatGML-6B做的优化版本,占用更少的资源,
阅读更多...