Arista与英伟达IB网络竞争格局分析

2024-08-26 13:20

本文主要是介绍Arista与英伟达IB网络竞争格局分析,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 23433d37c69f097f4b22eb66953a120d.jpeg

悄然崛起的英伟达新对手

   

英伟达都有哪些对手?

当然首选AMD和英特尔。AMD具备AI加速卡业务,融合CPU和GPU设计能力;英特尔作为x86架构的开创者,如今也涉足AI加速卡领域。它们的产品在参数上与英伟达对标,同时在定位和售价方面展开激烈竞争。

英伟达的竞争对手博通和Marvell组成统一战线,推出创新定制芯片,逐步取代传统通用AI加速卡,给英伟达带来新的挑战。

而在网络领域,英伟达也迎来了自己的对手。

英伟达独占AI网络

自21世纪初,云计算与大数据的兴起推动了数据中心的繁荣。在这一进程中,InfiniBand发挥了举足轻重的作用。特别是从2023年起,以ChatGPT为代表的大型AI模型开始依赖于InfiniBand,进一步提升了这一网络技术的社会关注度。

现代数字计算机自诞生以来就一直采用冯·诺依曼体系结构,该体系结构中有CPU(算术逻辑单元和控制单元)、内存(RAM、硬盘)和I/O(输入/输出)设备。20世纪90年代初,为了支持越来越多的外部设备,Intel率先在标准PC架构中引入了外围组件互连(PCI)总线设计。

随着互联网的快速发展,在线业务和用户规模的不断增长对IT系统容量提出了巨大挑战。在摩尔定律的支持下,CPU、内存、硬盘等部件都在飞速进步,而PCI总线的更新换代速度却比较慢,大大限制了I/O性能,成为了整个系统的瓶颈。

为了解决I/O瓶颈问题,Intel、微软和SUN联合制定了“下一代I/O(NGIO)”技术标准,IBM、康柏和惠普则牵头制定了“未来I/O(FIO)”,并于1998年联合制定了PCI-X标准。这些标准旨在提高计算机的I/O性能,从而提高计算机的整体性能。

InfiniBand贸易协会(IBTA)成立于1999年,由FIO开发者论坛和NGIO论坛合并成立。2000年,InfiniBand架构规范1.0版本正式发布。


在1999年5月,几位从英特尔和伽利略科技公司出走的员工在以色列成立了一家叫Mellanox的芯片公司。后来,NGIO与FIO合并,Mellanox也加入了InfiniBand阵营,并于2001年推出了第一款InfiniBand产品。

随着英特尔转向PCIe和微软退出InfiniBand,网络技术正转向计算机集群互联应用领域。新成立的Mellanox逐渐崛起,成为InfiniBand发展过程中的中流砥柱。

InfiniBand技术在2012年以后,随着高性能计算(HPC)需求的不断增长,取得了长足进步,市场份额不断提升。2015年,InfiniBand技术在TOP500榜单中的份额首次突破50%,达到51.4%(257个系统) 。这标志着InfiniBand技术首次成功挑战以太网技术,成为超级计算机首选的内部互连技术 。

1ad2c86ee7fc79e96fab6e0d294dc058.jpeg

而Mellanox也在不断成长:2010年,Mellanox与Voltaire合并,Mellanox和QLogic成为InfiniBand的主要供应商;2013年,Mellanox 进一步进军网络领域,收购硅光技术公司 Kotura 和并行光互连芯片制造商 IPtronics,进一步巩固其行业地位;到 2015 年,Mellanox 已占据全球 InfiniBand 市场80% 的份额。业务范围从芯片扩展到网卡、交换机/网关、远程通信系统、线缆和模块,成为世界级网络供应商。

AI崛起,InfiniBand价值凸显,Mellanox凭借在这项技术上的垄断地位,成为厂商竞相追逐的焦点。

InfiniBand在AI领域的重要性不可忽视。对于构建AI超级计算机,我们可以将其视为由众多图形处理单元(GPUs)组成的集群,这些单元负责执行大量复杂的计算任务。同时,还有一些中央处理单元(CPUs)负责协调整个系统的运行,以及一些DRAM芯片和NAND芯片来存储数据。总体来看,成本分配大约为:50-60%用于GPUs,10-15%用于CPUs和DRAM芯片,5-10%用于NAND芯片。

尽管如此,所有这些芯片仍需相互连接,这便依赖于InfiniBand或以太网电缆这类“网络”技术。它们在硬件成本中所占比例约为10-15%,其目的在于提供尽可能高的带宽,以确保数据能够迅速传输。若无法实现更高的带宽,那么无论在GPUs上投入多少成本,最终都将变得毫无意义。

作为AI领域的先驱,英伟达洞悉行业趋势,果断将重心转向AI。2019年,英伟达以惊人的690亿美元收购Mellanox,超越竞争对手英特尔和微软,后者分别出价600亿和550亿美元。这笔巨额交易为英伟达进军网络技术市场铺平了道路。

黄仁勋,英伟达CEO,阐述收购Mellanox的缘由:“两家全球顶级高性能计算巨头的融合,我们致力加速计算,而Mellanox则专精互连与存储。”

黄仁勋的GPU与网络技术捆绑销售策略,出人意料地取得了巨大成功。据统计,截至今年1月,英伟达年收入翻倍至609亿美元,计算和网络部门销售额飙升215%,占总业务的78%。尽管GPU部分吸引了大量关注,但网络业务同样功不可没。在公司最近的财报电话会议上,黄仁勋透露,InfiniBand收入同比增长五倍,相当于整个计算和网络业务增长速度的两倍。这一模式的成功表明,GPU与网络技术的紧密结合将为英伟达带来更多的商业机会。

英伟达结合Mellanox网络技术,打造出卓越的“计算引擎”,在计算基础设施领域,展现出无可匹敌的领先地位。

英伟达的大威胁

过去,业界普遍采用英伟达的InfiniBand网络解决方案来加速人工智能和机器学习应用。然而,这一选择受限于InfiniBand作为目前最成熟大规模部署网络技术的固有优势,同时也暴露出其局限性:首先,英伟达收购使其成为独家产品;其次,高昂的成本使得普通企业难以承受。

黄仁勋,英伟达CEO,曾以轻松幽默的方式指出,尽管InfiniBand仅占集群成本的20%,却在很大程度上提升了人工智能训练性能,达到收回成本的效果,因此被看作是“免费”的。然而,这样的观点过于简化。实际上,客户需先投入相当于集群成本20%的资金,才能充分发挥集群的潜力,从而创造出120%的性能。

相较而言,基于以太网的集群成本仅需额外10%,甚至更低。尽管在性能上难以与InfiniBand匹敌,但其低价吸引了一部分用户。如今,高性能网络竞争集中在InfiniBand与高速以太网之间。资源充足的厂商倾向于选择InfiniBand,而注重性价比的厂商可能更青睐高速以太网。

尽管如此,财力雄厚的大企业也在寻求更经济、更合适的网络方案,英伟达与InfiniBand面临持续挑战。

【独家】2023年7月,Linux基金会隆重宣布成立超级以太网联盟!该联盟汇聚了业界翘楚,包括AMD、Arista、Broadcom、思科、Eviden、HPE、英特尔、Meta和微软等巨头,共同致力于优化以太网技术,满足高性能计算和人工智能系统对低延迟和可扩展性的巨大需求。让我们拭目以待,这一行业颠覆性变革即将拉开序幕!

该联盟致力于创新,其首要任务是开发并定义一种新的传输层协议——超以太网传输(UET)。这种协议专为满足人工智能和高性能计算(HPC)工作负载的需求而设计,将提供更优质的网络传输服务。

在高级层面,超以太网联盟致力于通过微创手术式的方法优化以太网,仅对实现目标的关键部分进行调整。自成立之初,该联盟就专注于提升以太网技术的软件和物理层面,同时保持其基本架构不变,以确保成本效益和跨平台兼容性。

"我们的技术目标聚焦于开发超以太网通信的规范、应用接口和源代码,塑造协议、接口和数据结构的统一框架。不仅如此,我们积极探索更新现有链路传输协议,创新遥测、信令、安全及拥塞机制,以满足大型AI计算集群的复杂需求。考虑到人工智能与高性能计算各异的工作负载特性,我们还特别设计了UET以提供针对性的部署配置方案。"

得益于超级以太网联盟,以太网在AI工作负载方面的挑战得到解决,进一步推动其在传统HPC工作负载中的广泛应用。这为以太网网络公司提供了反击InfiniBand的良机。

9617c08821130f58c35309d3c45d8d55.jpeg

超级以太网联盟成员之一,以太网络公司Arista Networks在今年2月的财报电话会议中,其首席执行官Jayshree Ullal解释了InfiniBand和以太网之间的区别:“如你所知,从历史上看,当单独考虑InfiniBand和以太网时各有优势。

传统上,InfiniBand被认为是无损的,而以太网被认为有一些损失特性。然而当你实际将一个完整的GPU集群连同光学设备等一同考虑,并查看所有数据包大小上的任务完成时间一致性时,数据——包括来自博通的第三方数据——显示在现实环境中比较这些技术,以太网的任务完成时间大约快10%。

所以,你可以孤立地看待这些技术,也可以在实际集群中看待它们。而在实际集群中,我们已经看到以太网的改进。请记住,这只是我们今天所知的以太网。一旦我们有了超级以太网联盟和一些改进,比如数据包喷洒、动态负载平衡和拥塞控制,我相信这些数字会变得更好。”

Arista以太网在任务完成速度上超越InfiniBand约10%,这一出人意料的表现,尤其鉴于InfiniBand在当前GPU集群中的广泛应用。Jefferies分析师George Notter在会议后如是说。

他认为,英伟达成功的关键在于将GPU与InfiniBand捆绑销售。如今,由于GPU积压订单减少,使用InfiniBand的动机也可能减弱。这对Arista和博通(一家以太网网络公司)来说无疑是个好消息。

在四个主要的AI以太网集群中,Arista成功战胜了InfiniBand。从试验到试点,每年连接数千个GPU,这一成果由Arista首席执行官Jayshree Ullal解释。

Arista上季度业绩亮眼,3个月收入同比增长16%,每股收益大增44%。分析师预计,随着AI基础设施投资的持续增加,这一增长势头将进一步强化。

微软和Meta是Arista约40%的业务来源,这两家公司已宣布明年将继续加大资本支出。Jefferies分析师George Notter最近将Arista评级从持有上调至买入,并指出:“GPU基础设施(包括以太网)部署热潮将持续不衰。”

博通,一家网络技术巨头,在“部署热潮”中同样收获颇丰。截至2月4日的三个月,其收入同比增长34%,高达120亿美元,其中网络收入更是激增46%,达到33亿美元。这一成绩的取得,得益于博通两大超大规模客户对AI加速器的强烈需求,首席执行官Hock Tan在财报电话会议上如是解释。

网络硬件需求超预期,大型企业和AI数据中心客户强劲需求推动博通网络业务增长。全年增长预期上调至35%,今年收入预计达500亿美元,同比增长40%。

国外媒体nextplatform提出了一个有趣的数学问题:Arista Networks 在 AI 集群互连销售中每赚取 7.5 亿美元,英伟达可能会损失 15 亿至 22.5 亿美元。在过去的 12 个月中,粗略估计英伟达在 InfiniBand 网络方面的销售额为 64.7 亿美元,而数据中心的 GPU 计算销售额为 397.8 亿美元,在四比一的分红率和稳定的市场条件下,英伟达可以保留约 13 亿美元,而超级以太网联盟可以保留 17 亿至 26 亿美元,如果一切保持不变,InfiniBand 的销售目标将达到 120 亿美元。

超级以太网联盟的成员有机会在市场上占据重要地位,他们将采取与Linux对Unix的策略相似的方式来争夺市场份额,即通过从系统中移除收入。这种方式并非简单地将收入从一种技术转换为另一种技术,而是将节省下来的资金重新投入到GPU中,进一步提升竞争力。

挑战英伟达

英伟达在网络领域面临挑战,其核心业务GPU正受到AMD、英特尔、博通等巨头的竞争。尽管市值高达3万亿美元,但压力仍然不小。

在网络市场中,Arista虽然目前规模尚小,与英伟达数十亿美元的营收相比,短期内难以匹敌。然而,巨头们对AI集群网络垄断的担忧为Arista提供了快速发展的契机。随着时间的推移,Arista有望成为英伟达的新竞争对手。

 

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

这篇关于Arista与英伟达IB网络竞争格局分析的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1108679

相关文章

Go标准库常见错误分析和解决办法

《Go标准库常见错误分析和解决办法》Go语言的标准库为开发者提供了丰富且高效的工具,涵盖了从网络编程到文件操作等各个方面,然而,标准库虽好,使用不当却可能适得其反,正所谓工欲善其事,必先利其器,本文将... 目录1. 使用了错误的time.Duration2. time.After导致的内存泄漏3. jsO

Linux系统配置NAT网络模式的详细步骤(附图文)

《Linux系统配置NAT网络模式的详细步骤(附图文)》本文详细指导如何在VMware环境下配置NAT网络模式,包括设置主机和虚拟机的IP地址、网关,以及针对Linux和Windows系统的具体步骤,... 目录一、配置NAT网络模式二、设置虚拟机交换机网关2.1 打开虚拟机2.2 管理员授权2.3 设置子

揭秘Python Socket网络编程的7种硬核用法

《揭秘PythonSocket网络编程的7种硬核用法》Socket不仅能做聊天室,还能干一大堆硬核操作,这篇文章就带大家看看Python网络编程的7种超实用玩法,感兴趣的小伙伴可以跟随小编一起... 目录1.端口扫描器:探测开放端口2.简易 HTTP 服务器:10 秒搭个网页3.局域网游戏:多人联机对战4.

Spring事务中@Transactional注解不生效的原因分析与解决

《Spring事务中@Transactional注解不生效的原因分析与解决》在Spring框架中,@Transactional注解是管理数据库事务的核心方式,本文将深入分析事务自调用的底层原理,解释为... 目录1. 引言2. 事务自调用问题重现2.1 示例代码2.2 问题现象3. 为什么事务自调用会失效3

找不到Anaconda prompt终端的原因分析及解决方案

《找不到Anacondaprompt终端的原因分析及解决方案》因为anaconda还没有初始化,在安装anaconda的过程中,有一行是否要添加anaconda到菜单目录中,由于没有勾选,导致没有菜... 目录问题原因问http://www.chinasem.cn题解决安装了 Anaconda 却找不到 An

Spring定时任务只执行一次的原因分析与解决方案

《Spring定时任务只执行一次的原因分析与解决方案》在使用Spring的@Scheduled定时任务时,你是否遇到过任务只执行一次,后续不再触发的情况?这种情况可能由多种原因导致,如未启用调度、线程... 目录1. 问题背景2. Spring定时任务的基本用法3. 为什么定时任务只执行一次?3.1 未启用

SpringBoot使用OkHttp完成高效网络请求详解

《SpringBoot使用OkHttp完成高效网络请求详解》OkHttp是一个高效的HTTP客户端,支持同步和异步请求,且具备自动处理cookie、缓存和连接池等高级功能,下面我们来看看SpringB... 目录一、OkHttp 简介二、在 Spring Boot 中集成 OkHttp三、封装 OkHttp

Linux系统之主机网络配置方式

《Linux系统之主机网络配置方式》:本文主要介绍Linux系统之主机网络配置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、查看主机的网络参数1、查看主机名2、查看IP地址3、查看网关4、查看DNS二、配置网卡1、修改网卡配置文件2、nmcli工具【通用

使用Python高效获取网络数据的操作指南

《使用Python高效获取网络数据的操作指南》网络爬虫是一种自动化程序,用于访问和提取网站上的数据,Python是进行网络爬虫开发的理想语言,拥有丰富的库和工具,使得编写和维护爬虫变得简单高效,本文将... 目录网络爬虫的基本概念常用库介绍安装库Requests和BeautifulSoup爬虫开发发送请求解

C++ 各种map特点对比分析

《C++各种map特点对比分析》文章比较了C++中不同类型的map(如std::map,std::unordered_map,std::multimap,std::unordered_multima... 目录特点比较C++ 示例代码 ​​​​​​代码解释特点比较1. std::map底层实现:基于红黑