NVIDIA H200与AMD MI300X:前者高利润率是否合理?

2024-09-03 00:52

本文主要是介绍NVIDIA H200与AMD MI300X:前者高利润率是否合理?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

近年来,人工智能芯片巨头NVIDIA与AMD的竞争愈发激烈。尽管NVIDIA在AI计算解决方案市场占据主导地位,但在2023年末,AMD推出号称全球最快的AI芯片Instinct MI300X后,开始对NVIDIA构成了挑战。然而,经过一段时间的市场检验,Richard's Research Blog的一项分析表明,虽然AMD的MI300X成本显著高于NVIDIA的H200,但在推理生产应用方面,H200的性能却超过了MI300X超过40%,这使得NVIDIA较高的利润率显得合理。

AMD MI300X:更多晶体管、更大内存容量、更先进的封装……以及更高的成本

分析进一步比较了这两款最畅销产品的芯片规格,并探讨了它们的成本效益。NVIDIA的H200采用的是台积电的N4工艺节点,拥有800亿个晶体管;而AMD的MI300X则使用了1530亿个晶体管,并采用了台积电的5纳米工艺制造。在内存配置上,NVIDIA的H200拥有141GB的HBM3e内存,而AMD的MI300X则配备了192GB的HBM3内存。至于封装技术,NVIDIA的H200使用的是台积电的CoWoS 2.5D技术,而AMD的MI300X则升级到了CoWoS/SoIC 3D技术,总共包含20颗芯片/堆栈,这大大增加了复杂性。

根据分析,在相同的工艺下,逻辑计算芯片中的晶体管数量与总芯片尺寸/总成本大致成比例。因此,配备几乎两倍晶体管数量的AMD MI300X,成本估计是NVIDIA H200的两倍左右。同时,考虑到MI300X比H200多出36%的内存容量以及更高的封装复杂度,其制造成本显然要高出许多。另外,由于NVIDIA目前在市场上是主要的HBM用户,所以可能享受较低的采购成本优势。

NVIDIA 80%的利润率:乍一看很高,但实际上有道理

另一方面,根据MLPerf测试的结果,在实际部署用于推理生产的应用中,H200的表现优于MI300X超过40%。这意味着如果AMD希望保持类似的性价比(这也是云服务商客户所要求的),那么MI300X的价格必须比H200低大约30%。此情景并未考虑其他因素,例如NVIDIA与二级供应商的熟悉程度、CUDA架构及相关软件等。

因此,分析进一步指出,尽管NVIDIA高达80%的毛利率乍一看很高,但实际上这为竞争对手留下了生存空间。如果NVIDIA将其产品定价在70%的毛利率以下,则竞争对手可能会面临负运营利润的困境。

除了通过先进的硬件和软件技术实现更好的产品性能和更低的成本外,NVIDIA还在诸如研发和昂贵光罩规模化的非技术经济因素上表现出色,这些都会影响到运营支出(OPEX)和成本分配。同时,NVIDIA对其客户的长期承诺、信心及上市时间也起到了关键作用。

从最新的财报来看,NVIDIA表示Hopper系列的需求依然强劲,而Blackwell芯片有望在第四季度带来数十亿美元的收入。相比之下,AMD的Instinct MI300系列成为了主要的增长动力,预计今年将带来超过45亿美元的销售额。

这篇关于NVIDIA H200与AMD MI300X:前者高利润率是否合理?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1131563

相关文章

shell脚本快速检查192.168.1网段ip是否在用的方法

《shell脚本快速检查192.168.1网段ip是否在用的方法》该Shell脚本通过并发ping命令检查192.168.1网段中哪些IP地址正在使用,脚本定义了网络段、超时时间和并行扫描数量,并使用... 目录脚本:检查 192.168.1 网段 IP 是否在用脚本说明使用方法示例输出优化建议总结检查 1

电脑多久清理一次灰尘合? 合理清理电脑上灰尘的科普文

《电脑多久清理一次灰尘合?合理清理电脑上灰尘的科普文》聊起电脑清理灰尘这个话题,我可有不少话要说,你知道吗,电脑就像个勤劳的工人,每天不停地为我们服务,但时间一长,它也会“出汗”——也就是积累灰尘,... 灰尘的堆积几乎是所有电脑用户面临的问题。无论你的房间有多干净,或者你的电脑是否安装了灰尘过滤器,灰尘都

如何测试计算机的内存是否存在问题? 判断电脑内存故障的多种方法

《如何测试计算机的内存是否存在问题?判断电脑内存故障的多种方法》内存是电脑中非常重要的组件之一,如果内存出现故障,可能会导致电脑出现各种问题,如蓝屏、死机、程序崩溃等,如何判断内存是否出现故障呢?下... 如果你的电脑是崩溃、冻结还是不稳定,那么它的内存可能有问题。要进行检查,你可以使用Windows 11

Codeforces Round #113 (Div. 2) B 判断多边形是否在凸包内

题目点击打开链接 凸多边形A, 多边形B, 判断B是否严格在A内。  注意AB有重点 。  将A,B上的点合在一起求凸包,如果凸包上的点是B的某个点,则B肯定不在A内。 或者说B上的某点在凸包的边上则也说明B不严格在A里面。 这个处理有个巧妙的方法,只需在求凸包的时候, <=  改成< 也就是说凸包一条边上的所有点都重复点都记录在凸包里面了。 另外不能去重点。 int

easyui同时验证账户格式和ajax是否存在

accountName: {validator: function (value, param) {if (!/^[a-zA-Z][a-zA-Z0-9_]{3,15}$/i.test(value)) {$.fn.validatebox.defaults.rules.accountName.message = '账户名称不合法(字母开头,允许4-16字节,允许字母数字下划线)';return fal

【408DS算法题】039进阶-判断图中路径是否存在

Index 题目分析实现总结 题目 对于给定的图G,设计函数实现判断G中是否含有从start结点到stop结点的路径。 分析实现 对于图的路径的存在性判断,有两种做法:(本文的实现均基于邻接矩阵存储方式的图) 1.图的BFS BFS的思路相对比较直观——从起始结点出发进行层次遍历,遍历过程中遇到结点i就表示存在路径start->i,故只需判断每个结点i是否就是stop

linux 判断某个命令是否安装

linux 判断某个命令是否安装 if ! [ -x "$(command -v git)" ]; thenecho 'Error: git is not installed.' >&2exit 1fi

如何判断一个数组中是否包含一个字符或字符串

第一种方法:遍历数组 String[] arr1 = {"1","2","3","4","6","7"}; for (int i = 0; i < arr1.length; i++) { if("5".equals(arr1[i])) { System.out.println("包含"); }else { System.out.println("不包含"); } } 第二种方法:先把数组

postgres数据库中如何看查询是否走索引,以及在什么情况下走索引

在 PostgreSQL 中,可以通过 EXPLAIN 或 EXPLAIN ANALYZE 查看查询计划,以判断查询是否使用了索引。除此之外,了解索引的使用条件对于优化查询性能也很重要。 1. 如何查看查询是否使用索引 使用 EXPLAIN 查看查询计划 EXPLAIN 显示 PostgreSQL 如何执行查询,包括是否使用索引。 EXPLAIN SELECT * FROM users WH

模拟退火判断一个圆是否可以放在一个多边形内

/*给定n个点的一个多边形,一个圆的半径,判断圆是否可以放在多边形里*//* ***********************************************Author :rabbitCreated Time :2014/7/3 22:46:38File Name :2.cpp**********************************************