a40专题

全志A40平台管脚复用配置

一 资源分配 1 实际项目需要使用I2C接口的OLED,由于OLED有RST复位线,A0命令和地址线,CS片选线,背光控制线BLK。控制线选定T19_UART2_RTS - RST T23_UART2_CTS-A0 T24_UART2_TX-CS T22_UART2_RX-BLK,实际电路图如下: 二 根据实际修改管脚复用配置 1  打开lichee/tools/product/conf

使用autodl服务器,在A40显卡上运行, Yi-34B-Chat-int4模型,并使用vllm优化加速,显存占用42G,速度18 words/s

1,演示视频 https://www.bilibili.com/video/BV1gu4y1c7KL/ 使用autodl服务器,在A40显卡上运行, Yi-34B-Chat-int4模型,并使用vllm优化加速,显存占用42G,速度18 words/s 2,关于A40显卡,48GB 显存,安培架构 2020年,英伟达发布 A40 专业显卡,配备 48GB 显存。 采用了