1，演示视频 https://www.bilibili.com/video/BV1gu4y1c7KL/ 使用autodl服务器，在A40显卡上运行， Yi-34B-Chat-int4模型，并使用vllm优化加速，显存占用42G，速度18 words/s 2，关于A40显卡，48GB 显存，安培架构 2020年，英伟达发布 A40 专业显卡，配备 48GB 显存。 采用了