存内计算:释放潜能的黑科技

2024-03-27 07:12

本文主要是介绍存内计算:释放潜能的黑科技,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

什么是存内计算?

存内计算技术是一种新型的计算架构,它将存储器和计算单元融合在一起,以实现高效的数据处理。存内计算技术的优势在于能够消除数据搬运的延迟和功耗,从而提高计算效率和能效比。目前,存内计算技术正处于从学术到工业产品落地的关键时期,随着技术的不断进步和应用场景的不断催生,预计存内计算技术将成为AI计算领域的主要架构。

在这里插入图片描述

陈巍博士是存算一体芯片技术的专家之一,他指出存算一体技术比冯诺依曼架构更适合AI计算的架构,是比冯氏架构更适合AI计算的架构。存算技术也被AspenCore预测为2022年的全球半导体行业十大技术趋势。目前存算技术正处在从学术到工业产品的跃迁的关键时期。包括阿里达摩院最近刚发布的基于SeDRAM的近存计算芯片,就充分展示了存算技术在数据中心场景的算力和能效实力。

在这里插入图片描述

为何存内计算如此重要?

存内计算的重要性在于它解决了传统计算方式中存在的瓶颈问题。在传统计算中,数据通常需要从存储器传输到处理器进行计算,然后再将结果传回存储器。这一过程中的数据传输耗时耗能,限制了计算速度的提升。

存内计算通过在存储器中进行计算,消除了数据传输的瓶颈。这意味着计算过程更加高效,能够更快地处理大规模数据集,同时减少了能耗,使得计算过程更为环保。

在这里插入图片描述

存内计算的应用领域

存算一体技术在不同应用领域具有广泛的适用性,主要包括以下几个方面:

  1. 人工智能和大数据计算:
    存算一体技术被确定为未来的科技趋势,特别适用于人工智能和大数据计算。通过将AI计算中的大量乘加计算的权重部分存储在存储单元中,并在存储单元的核心电路上进行修改,可以在读取的同时进行数据输入和计算处理,从而提高设备性能并降低成本。存内计算和存内逻辑特别适用于深度神经网络应用和基于AI的大数据技术。

  2. 感存算一体:
    集成传感、储存和运算的感存算一体架构能够解决冯诺依曼架构的数据搬运功耗瓶颈。该技术与传感器结合,实现零延时和超低功耗的智能视觉处理能力。这种架构对于视觉应用存内计算神经拟态芯片具有重要意义,有效降低能耗。

  3. 类脑计算:
    存算一体技术天然适合应用在类脑计算领域,成为类脑计算的关键技术基石。类脑计算借鉴生物神经系统的信息处理模式和结构,旨在使计算机像人脑一样将存储和计算合二为一,高速处理信息。存算一体芯片在类脑计算的大算力高能效领域有着重要的应用前景。

  4. 人工智能场景和元宇宙计算:
    存算一体芯片适用于各类人工智能场景和元宇宙计算,包括可穿戴设备、移动终端、智能驾驶、数据中心等。在这些领域,存算一体技术能够提供高算力、低功耗、高性价比的优势。

  5. 端侧和云计算设备:
    存算一体技术在端侧设备中能够满足对成本、功耗、时延、开发难度的敏感要求,竞争力影响约占30%。在云计算和边缘计算的大算力设备中,存算一体芯片具有更大的优势,竞争力影响约占90%。在边缘端,存算一体芯片具有高算力、低功耗、高性价比的优势。

  6. 云计算市场:
    针对当前云计算算力市场,存算一体技术有望抢占市场份额。由于GPU的单一架构不能适应不同AI计算场景的算法离散化特点,存算一体芯片以其高能效大算力的优势有望另辟蹊径,满足不同领域的需求,尤其在图像、推荐、NLP等领域。

在这里插入图片描述

正在研究存内计算的公司

存内计算技术是一种新型的计算架构,它将存储器和计算单元融合在一起,以实现高效的数据处理。存内计算技术的应用场景包括物联网、深度学习、大数据分析等领域. 目前,有许多公司在研究和开发存内计算技术,以下是一些主要的公司:

  • Diablo Technologies: 提供Memory1,这是一种容量为传统DRAM的4倍的内存技术。
  • GigaSpaces: 提供用于实时洞察和极端事务处理的最快存内计算平台。
  • Hazelcast: 提供快速的存内计算服务。
  • IBM: 提供用于大数据分析和机器学习的存内计算技术。
  • Intel: 提供用于计算系统制造商的处理器,以及制造主板芯片组、网络接口控制器和集成电路、闪存、图形芯片、嵌入式处理器等。
  • Microsoft: 提供用于深度学习和大数据分析的存内计算技术。
  • Oracle: 提供用于大数据分析和机器学习的存内计算技术。
  • SAP: 提供用于大数据分析和机器学习的存内计算技术。
  • 其它正在研究存内计算的公司可以点击该链接查看:https://www.ventureradar.com/keyword/In-Memory%20Computing

这些公司都在不断推进存内计算技术的发展,以满足不同领域的需求。存内计算技术正处于从学术到工业产品落地的关键时期,随着技术的不断进步和应用场景的不断催生,预计存内计算技术将成为AI计算领域的主要架构。

存内计算的未来

存内计算作为一种颠覆性的计算方式,将在未来发挥越来越重要的作用。随着存内计算技术的不断发展,未来存内计算技术将会在以下方面得到进一步的应用和发展:

  • 存算一体芯片:存算一体芯片是存内计算技术的一种重要实现方式,它将存储单元和计算单元集成在一起,以减少数据传输和能耗,提高计算效率。存算一体芯片的应用前景广泛,特别适用于人工智能、大数据处理、图像处理、自然语言处理等领域。

  • 存内计算算法:存内计算算法是存内计算技术的另一重要组成部分,它是实现存内计算的关键。存内计算算法的发展将会对存内计算技术的应用和发展产生重要影响。

  • 存内计算应用:存内计算技术的应用领域非常广泛,包括人工智能、大数据处理、图像处理、自然语言处理等领域. 随着存内计算技术的不断发展,存内计算技术将会在这些领域得到更广泛的应用和发展。

存内计算技术的未来发展充满了机遇和挑战,但是相信随着技术的不断进步和应用场景的不断拓展,存内计算技术将会在计算机技术的未来发挥越来越重要的作用。

资料来源

[1] Top In-Memory Computing Companies
Top ranked companies for keyword search: In-Memory AND Computing
[2] 存内计算最强科普
[3] 存内计算正式进入主流
[4] 存内计算技术发展趋势分析

这篇关于存内计算:释放潜能的黑科技的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/851311

相关文章

如何用Java结合经纬度位置计算目标点的日出日落时间详解

《如何用Java结合经纬度位置计算目标点的日出日落时间详解》这篇文章主详细讲解了如何基于目标点的经纬度计算日出日落时间,提供了在线API和Java库两种计算方法,并通过实际案例展示了其应用,需要的朋友... 目录前言一、应用示例1、天安门升旗时间2、湖南省日出日落信息二、Java日出日落计算1、在线API2

poj 1113 凸包+简单几何计算

题意: 给N个平面上的点,现在要在离点外L米处建城墙,使得城墙把所有点都包含进去且城墙的长度最短。 解析: 韬哥出的某次训练赛上A出的第一道计算几何,算是大水题吧。 用convexhull算法把凸包求出来,然后加加减减就A了。 计算见下图: 好久没玩画图了啊好开心。 代码: #include <iostream>#include <cstdio>#inclu

uva 1342 欧拉定理(计算几何模板)

题意: 给几个点,把这几个点用直线连起来,求这些直线把平面分成了几个。 解析: 欧拉定理: 顶点数 + 面数 - 边数= 2。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#include <cstring>#include <cmath>#inc

uva 11178 计算集合模板题

题意: 求三角形行三个角三等分点射线交出的内三角形坐标。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#include <cstring>#include <cmath>#include <stack>#include <vector>#include <

XTU 1237 计算几何

题面: Magic Triangle Problem Description: Huangriq is a respectful acmer in ACM team of XTU because he brought the best place in regional contest in history of XTU. Huangriq works in a big compa

从戴尔公司中国大饭店DTF大会,看科技外企如何在中国市场发展

【科技明说 | 科技热点关注】 2024戴尔科技峰会在8月如期举行,虽然因事未能抵达现场参加,我只是观看了网上在线直播,也未能采访到DTF现场重要与会者,但是通过数十年对戴尔的跟踪与观察,我觉得2024戴尔科技峰会给业界传递了6大重要信号。不妨简单聊聊:从戴尔公司中国大饭店DTF大会,看科技外企如何在中国市场发展? 1)退出中国的谣言不攻自破。 之前有不良媒体宣扬戴尔将退出中国的谣言,随着2

音视频入门基础:WAV专题(10)——FFmpeg源码中计算WAV音频文件每个packet的pts、dts的实现

一、引言 从文章《音视频入门基础:WAV专题(6)——通过FFprobe显示WAV音频文件每个数据包的信息》中我们可以知道,通过FFprobe命令可以打印WAV音频文件每个packet(也称为数据包或多媒体包)的信息,这些信息包含该packet的pts、dts: 打印出来的“pts”实际是AVPacket结构体中的成员变量pts,是以AVStream->time_base为单位的显

计算数组的斜率,偏移,R2

模拟Excel中的R2的计算。         public bool fnCheckRear_R2(List<double[]> lRear, int iMinRear, int iMaxRear, ref double dR2)         {             bool bResult = true;             int n = 0;             dou

GPU 计算 CMPS224 2021 学习笔记 02

并行类型 (1)任务并行 (2)数据并行 CPU & GPU CPU和GPU拥有相互独立的内存空间,需要在两者之间相互传输数据。 (1)分配GPU内存 (2)将CPU上的数据复制到GPU上 (3)在GPU上对数据进行计算操作 (4)将计算结果从GPU复制到CPU上 (5)释放GPU内存 CUDA内存管理API (1)分配内存 cudaErro

Java - BigDecimal 计算分位(百分位)

日常开发中,如果使用数据库来直接查询一组数据的分位数,就比较简单,直接使用对应的函数就可以了,例如:         PERCENT_RANK() OVER(PARTITION BY 分组列名 ORDER BY 目标列名) AS 目标列名_分位数         如果是需要在代码逻辑部分进行分位数的计算,就需要我们自己写一个工具类来支持计算了 import static ja