2024 极术通讯-云+大模型的2024格局

FunASR 是阿里巴巴达摩院开发的开源的基于 Paraformer 的大模型语音识别模型，提供包括语音识别 (ASR)、语音端点检测 (VAD)、标点恢复、语言模型、说话人验证、说话人分离和多人对话语音识别等在内的多种功能。本文以 FunASR 在 Arm Neoverse 平台上优化的过程做为大模型的优化实践案例。（来源：极术社区Arm技术博客专栏）

MWC 2024首日，高通发布了一系列聚焦终端侧AI的技术。其中除了手机上能跑通多模态大模型之外，全球首个在Windows PC上运行的音频推理多模态大模型演示，也来了。它能理解音频并进行推理、可实现语音输入的多轮对话。详细介绍请阅读全文。（来源：极术社区嵌入式AI专栏）

本文介绍的Meltdown利用现代处理器上乱序执行(Ouf-of-order)的副作用(side effects)来读取任意的内核内存位置，包括个人数据和密码。Meltdown攻击不依赖于任何操作系统，也不依赖于任何软件漏洞。Meltdown会破坏由地址空间隔离和虚拟化环境提供的所有安全保障，从而破坏建立在此基础上的所有安全机制。在受影响的系统上，Meltdown允许攻击者(黑客)能够在没有任何权限或特权的情况下读取云中的其它进程或虚拟机的内存，影响数百万客户和几乎每个个人计算机用户。（来源：极术社区IC设计专栏）

从2022年4月到2023年12月，作者有幸全程参与了一个完整的车载电控模块功能安全项目 - 基于公司的某款纯电车辆，开发出满足功能安全ASIL C/D等级的VCU（整车控制器）产品。在这篇文章里，作者将结合自己在项目中的实践，对部分开发过程进行梳理，希望能给对ISO26262标准实现有困惑的同行提供些许参考。（来源：极术社区汽车电子与软件专栏）

本文是美光的一篇文章翻译，关于低功耗 DDR，即LPDDR 和标准DDR 的对比介绍。这篇文章中的DDR 和LPDDR 指的都是第一代 DDR/LPDDR，时代有点久远（2007），和目前主流的LPDDR4/5 和DDR4/5 有显著不同。但是对理解LPDDRx 和DDRx 的区别还是有些参考意义。读者可以按需阅读。（来源：极术社区FPGA的逻辑专栏）

主流云厂商如阿里云、华为云、百度云、腾讯云、京东云等，在政务、行业智能化的项目上，拿单中标成果猛增。天翼云、移动云等运营商云的市场份额增长，这一年来也格外亮眼。如何理解云服务市场接下来的格局？我们就着眼前正在翻腾的“云+大模型”火锅局，边品边聊。（来源：极术社区脑极体专栏）

Groq 推出了一款全新的 AI 芯片 LPU（Language Processing Unit），宣称做到了“地表最强推理”——在 Groq 上运行大模型的推理速度，较英伟达 GPU 提高 10 倍，而成本只有其十分之一。Groq 成立于2016年，是一家 AI 芯片公司由前谷歌员工 Jonathan Ross 创立。他曾发明了驱动谷歌机器学习软件的张量处理单元（TPU），这两项技术当时为 AlphaGo 提供了重要的技术支撑。（来源：极术社区甲子光年看云计算专栏）

在中国组建量产团队，是英伟达在智驾战略上的一次转向。背后更深刻的原因是中美智驾产业发展的差异性，智驾量产就像电动化一样，出现了“西方不亮东方亮”的局面。英伟达这个平台对于吴新宙来说是一个绝佳的职业机会，吴新宙也凭借自身的战略洞察能力推动了英伟达在智驾上进行转型，利用中国的智驾人才优势来做量产。（来源：极术社区汽车电子与软件专栏）

在持续一年的大模型热潮之后，「智能体」成为了科技公司们新的押注方向之一。近日，字节跳动正式推出「Coze 扣子」AI Bot 开发平台。任何用户都可以快速、低门槛地搭建自己的 Chatbot，且平台支持用户将其一键发布到飞书、微信公众号、豆包等渠道。（来源：极术社区AIZOO专栏）

相关阅读

• 2024 极术通讯-Arm 更新 Neoverse 产品路线图，实现人工智能基础设施
• 2024 极术通讯-安谋科技2023精彩征程回顾
• 2024 极术通讯-安谋科技：聚焦AI、智驾智舱和云计算等，为新兴应用提供多元异构计算平台
• 2024 极术通讯-CES 2024：芯片厂商集体奔向AI，汽车芯片成为新赛道

更多内容可关注极术通讯专栏