新兴的ML加速器方法：内存计算架构 1. 概述 内存计算（In-memory Computing）架构是一种新兴的机器学习加速器方法，通过将计算能力集成到存储器中，以减少数据移动的延迟和能耗，从而提高计算效率和性能。这种方法特别适用于需要大量数据处理的深度学习任务。 出现存内计算的原因 IMC与数字电路的优势 2. 内存计算的优势 减少数据移动：在传统计算架构中，数据在处理器和

这部分分为4部分： 概览：LLMs和生成式AI 探讨大语言模型（LLMs）和生成式AI的整体环境，及其对硬件加速器设计的影响。 高性能AI加速器的特定考虑因素 广泛的模型和使用案例支持：需要设计能支持多种模型和应用场景的加速器。 系统级优化：强调从系统层面进行优化以提升整体性能。 计算效率的路线图 量化与稀疏性：探讨量化（Quantization）和稀疏性（Sparsity）技术如何提高计