进迭时空宣布开源RISC-V芯片的AI核心技术

2024-04-30 05:44

本文主要是介绍进迭时空宣布开源RISC-V芯片的AI核心技术,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

http://img.danews.cc/upload/ajax/20240429/cb85edf59cfbd7fb82bdb01efa938dcd.png

仟江水商业电讯(4月29日 北京 委托发布)4月29日,在“创芯·生生不息——进迭时空2024年度产品发布会”上,进迭时空CEO、创始人,陈志坚博士宣布将开源进迭时空在自研RISC-V AI CPU上的核心技术,包括AI扩展指令和全部AI软件栈代码,助力RISC-V生态建设。为了RISC-V开发者们便捷使用这些AI代码,进迭时空正在做代码整理,预计最晚将在今年Q4季度开源所有AI软件栈代码。

进迭时空宣布开源RISC-V芯片的AI核心技术

(视频:进迭时空开源16条AI指令)

“我们将开源我们在AI上的全部核心技术,包括我们扩展的16条AI指令和全部的AI软件栈源代码。”——陈志坚,进迭时空CEO、创始人

陈志坚博士在发布会上发布的全球首颗 8核 RISC-V AI CPU——SpacemiT Key Stone™ K1(以下简称“K1芯片”),正是基于这次即将开源的AI代码,创新性地以CPU核的方式提供通用AI算力,使得所有AI模型可以快速在K1芯片上部署,解决了当下ARM类芯片普遍存在的部署难的问题,整体性能全面领先于ARM同等微架构芯片产品。

http://img.danews.cc/upload/ajax/20240429/255ef0566cb0305dd3e5d80bc5afb1b2.png

据陈志坚介绍,面向AI应用中算力占比最高的卷积和矩阵乘法,K1芯片遵循RISCV基金会IME Task Group的规则,复用Vector寄存器实现了16条AI指令,其中4条矩阵乘指令可以加速包括矩阵乘和卷积计算,12条滑窗矩阵乘指令采用了首创的寄存器内数据拼接技术,可以将卷积计算时的计算访存比提高50%,在提高端侧AI模型性能的同时降低了AI计算功耗。通过这16条高效的AI指令,在运行同样AI模型时,K1动态执行指令数仅为ARM的20%左右,AI性能得到极大提升。

http://img.danews.cc/upload/ajax/20240429/e92e5d06121b7d2c23a3b88daef4f168.png

目前,世界主流AI推理生态主要包括英伟达的GPU推理生态和X86的CPU推理生态。K1芯片通过复用X86成熟的AI推理软件栈,把底层核心算子改用RISC-V Vector和AI指令,其余部分复用CPU推理软件栈,从而快速接入国际主流的AI推理生态。据了解,使用K1芯片,通过Python调用和执行一个开源模型,只要不到10行代码,就可以快速部署一个AI模型。目前K1芯片已累计验证了包括图像分类、图像分割、目标检测、语音识别、自然语言理解等多个场景的约150个模型的优化部署,timm、onnx modelzoo、ppl modelzoo等开源模型仓库的支持通过率接近100%,从理论上证明K1芯片能够支持所有的公开onnx模型。

进迭时空宣布开源RISC-V芯片的AI核心技术1

(视频:SpacemiT Muse™ Book 大模型及AI性能展示视频)

“要把温暖传递下去”——谈到此次开源,陈志坚表示,进迭时空坚信RISC-V可以做出有代差级竞争优势的RISC-V芯片和生态产品。“一路走下来,才发现芯片创业,尤其是RISC-V芯片创业远比预想的还要难得多很多”。进迭时空凭借着对RISC-V的信仰、对开源文化的热爱跑完SpacemiT Key Stone™ K1芯片“研发-流片-量产-应用”全生命周期,仅用了不到900天。在这个过程中,他无数次被开发者们的热情与温暖打动。发布会的主题为“创芯·生生不息”,也代表着进迭时空在面向Robot Computer时代开发高性能芯片的同时,也将在RISC-V生态建设方面长期、持续投入。

http://img.danews.cc/upload/ajax/20240429/987d8de35242381f5cddd82dbd101489.png

据悉,进迭时空在这场年度发布会上还发布了搭载中K1芯片的SpacemiT Muse™ Book、SpacemiT Muse™ Pi和SpacemiT Muse™ Box等5款生态产品,近期将通过官网启动预售,进一步为全球RISC-V开发者提供最好便捷,最好用的软硬生态产品。(文/段佳惠)

(视频:SpacemiT Muse™ 生态产品展示视频)

这篇关于进迭时空宣布开源RISC-V芯片的AI核心技术的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/948036

相关文章

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

AI绘图怎么变现?想做点副业的小白必看!

在科技飞速发展的今天,AI绘图作为一种新兴技术,不仅改变了艺术创作的方式,也为创作者提供了多种变现途径。本文将详细探讨几种常见的AI绘图变现方式,帮助创作者更好地利用这一技术实现经济收益。 更多实操教程和AI绘画工具,可以扫描下方,免费获取 定制服务:个性化的创意商机 个性化定制 AI绘图技术能够根据用户需求生成个性化的头像、壁纸、插画等作品。例如,姓氏头像在电商平台上非常受欢迎,

从去中心化到智能化:Web3如何与AI共同塑造数字生态

在数字时代的演进中,Web3和人工智能(AI)正成为塑造未来互联网的两大核心力量。Web3的去中心化理念与AI的智能化技术,正相互交织,共同推动数字生态的变革。本文将探讨Web3与AI的融合如何改变数字世界,并展望这一新兴组合如何重塑我们的在线体验。 Web3的去中心化愿景 Web3代表了互联网的第三代发展,它基于去中心化的区块链技术,旨在创建一个开放、透明且用户主导的数字生态。不同于传统

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人,是不是经常需要制作各种PPT来分享我的生活和想法。但是,你们知道,有时候灵感来了,时间却不够用了!😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手!🌟 什么是Kimi? 一款月之暗面科技有限公司开发的AI办公工具,帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师,Kimi都能够为你的办公文

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

AI行业应用(不定期更新)

ChatPDF 可以让你上传一个 PDF 文件,然后针对这个 PDF 进行小结和提问。你可以把各种各样你要研究的分析报告交给它,快速获取到想要知道的信息。https://www.chatpdf.com/

金融业开源技术 术语

金融业开源技术  术语 1  范围 本文件界定了金融业开源技术的常用术语。 本文件适用于金融业中涉及开源技术的相关标准及规范性文件制定和信息沟通等活动。

安全管理体系化的智慧油站开源了。

AI视频监控平台简介 AI视频监控平台是一款功能强大且简单易用的实时算法视频监控系统。它的愿景是最底层打通各大芯片厂商相互间的壁垒,省去繁琐重复的适配流程,实现芯片、算法、应用的全流程组合,从而大大减少企业级应用约95%的开发成本。用户只需在界面上进行简单的操作,就可以实现全视频的接入及布控。摄像头管理模块用于多种终端设备、智能设备的接入及管理。平台支持包括摄像头等终端感知设备接入,为整个平台提