re:Invent2023大会隆重推出自研芯片Graviton4和Trainium2

一、前言

北京时间2023年11月28日亚马逊云科技re:Invent大会盛大开幕。亚马逊云科技首席执行官Adam Selipsky在re:Invent大会的第二天，Adam Selipsky重分别围绕着云基础架构、计算、存储、生成式AI等方向：

（1）发布了高性能、低延迟的对象存储服务 —— Amazon S3 Express One Zone；

（2）发布了全新一代 Graviton 处理器 —— Amazon Graviton4；

（3）发布了首个基于 Graviton4 的实例 R8g Instances for EC2；

（4）发布了全新一代 Amazon Trainium2 芯片；

（5）发布了Amazon Bedrock 全新功能，包括模型的微调、检索增强生成（RAG）以及基于 Amazon Titan 大模型的预训练；

（6）正式推出 Agents for Amazon Bedrock；Guardrails for Amazon Bedrock；

（7）发布了企业生成式 AI 助手 Amazon Q;

（8）宣布了亚马逊云科技与 Anthropic 深化合作关系；

（9）宣布了亚马逊云科技成为首家推出 NVIDIA GH200 NVL32 实例的云厂商；

由于总体内容太多，本文重点围绕着亚马逊云科技新发布的全新一代 Graviton 处理器 ——Amazon Graviton4来揭开它的神秘面纱。

二、体验Graviton系列产品

直达链接：AWS Graviton 处理器-高性价比的云工作负载-AWS云服务

如果你运气比较好的话，打开该链接，可以免费体验一把：

下图是一个了解亚马逊云科技Graviton处理器的好方式：

（一）创建普通的EC2实例

点击黄色的按钮：开始使用基于Graviton EC2实例

然后会跳转到EC2的控制台：

点击启动实例：

下拉可以查看免费的套餐：

如果没有密钥对的话，可以创建一个：

点击创建新密钥对即可创建：

创建成功后会立马下载：

网络配置：

存储配置：

然后点击右侧的启动实例：

很快就会成功，并且弹出下面的成功界面：

（二）创建Graviton处理器的EC2实例

需要注意的是：在架构中，我们需要选择64位(ARM)架构：

然后才能选择t4g.small实例类型：

如果你选择了非ARM架构，就会提示如下错误：

密钥对选择刚才创建的就行：

安全组也可以选择上面使用的：

配置随便选一个：

准备就绪后，点击启动实例

很快可以看到成功的提示：

可以看到本次的IP就变化了，因为这是另一台。

（三）远程到服务器

方式1：创建成功时连接

我们可以立马链接到实例：（为了防止当前的界面跳转走，你可以右击在新窗口打开）

打开后，弹出链接提示界面：

然后就可以远程成功了：

方式2：SSH客户端

可以选择SSH客户端瞧瞧

如果你是windows用户，在你下载的目录地址栏中，可以输入cmd，然后回车，即可打开一个命令行

然后把提示的示例的ssh远程登录的命令粘贴进来，即可远程：

方式3：正确的方式

我相信，每个人都会遇到找不到的时候，亚马逊云科技的这个控制台还是很人性化的：

如下图所示，可以看到里面存在1个正在运行的实例，点开：

在打开的控制台，可以看到你拥有的服务器：

可以看到自己的公网IP，公网DNS，公网DNS的存在，让你节省一个域名；

点击实例ID：

点击右上角的连接按钮

然后会重新打开：

现在就不怕忘记了。

（四）配置安全组（防火墙）

可以解析看一下，DNS域名和我的公网IP是相互绑定的：

如果你ping一下，就会发现：

1、域名ping不通

2、甚至IP也ping不通

原因是因为防火墙，默认创建好服务时并不会打开所有的端口，ping的数据报被屏蔽了：

点击安全组的名字可以进入编辑安全规则（防火墙规则）：

a.选择要编辑的安全组：

b.在此界面可以编辑入站和出站的规则；

添加一条ICMP的规则：

保存好，再回到刚才的界面，刷新后，就可以看到ICMP的安全组信息：

然后就通了。

（五）安装Docker

curl -fsSL https://test.docker.com -o test-docker.shsudo sh test-docker.sh

从安装上面未看出有什么差别,使用起来也没觉得有什么不同，上手也比较快。

三、Graviton系列历史

2018年：Graviton1发布

亚马逊云科技首次推出基于ARM架构的Graviton实例，这些实例使用Graviton1处理器，该处理器基于ARM Cortex-A72架构。这一举措旨在提供一种更具成本效益的云计算选择，特别是适用于特定工作负载的场景，如Web服务器、容器等。

2019年：Graviton2发布

亚马逊云科技发布了Graviton2处理器，它是一种自家设计的处理器，基于ARM Neoverse N1架构。Graviton2带来了性能的显著提升和更高的能效比。这一处理器的发布标志着亚马逊云科技对ARM架构的投资，以提供更强大、更高性能且更高成本效益的云计算实例。

2021年：Graviton3发布

时隔两年，亚马逊云科技发布了Graviton3处理器，Graviton 3比Graviton 2快了25%，与科学计算和媒体编码有关的浮点运算性能翻了1倍，加密工作负载运算速度提升高达2倍，支持bfloat16。

2023年：Graviton4发布

时隔两年，相比 Graviton3，它的核心多出50%，内存带宽提升75%，Graviton4 芯片速度较 Graviton3 提升30%，对于数据库和 Java 应用等关键工作负载方面实现了更显著的性能提升，分别提升了40%和45%。

同时发布了首个基于 Graviton4 的实例 R8g Instances for EC2，R8g 是第一个基于 Graviton4 的实例，今天可提供预览。R8g 作为内存优化型实例，能够更好地支持大规模数据库、实时大数据分析等应用，可提供最佳的价格性能，且减少能源消耗。

亚马逊云科技最新的内存优化型Amazon EC2 R8g实例将支持Graviton4处理器，让客户能够大规模改进高性能数据库、内存缓存和大数据分析工作负载的运行。R8g实例将提供比当前R7g实例多3倍的大容量虚拟CPU和3倍的内存。Amazon表示，新的R8g实例目前已推出预览版，计划在未来几个月内全面上市。现在为几个月后的实战做好充足的准备。

四、总结

问你个问题：“亚马逊是一家什么公司？”。

关注过亚马逊历史的人可能都知道，二十六年前亚马逊是一家卖书的公司，十六年前亚马逊是一家电商公司。 自2002年亚马逊内部开始为其电子商务模块使用内部分布式计算资源。2006年亚马逊开始考虑云计算战略布局，正式成立亚马逊云科技，开始提供计算、存储、数据库、人工智能、以及机器学习等服务。

通过本届大会可以看出，亚马逊云科技在自研芯片领域的付出。虽然网络上平时对亚马逊云科技的自研芯片爆料比较少，但从2018年首次推出Graviton1芯片，到如今已经推出了4版Graviton芯片，每一代芯片都带来了显著的性能提升和能效改进，而每一次的升级迭代都标志着一座新里程碑的出现，展现了亚马逊云科技在硬件领域的雄厚实力。这不仅为用户提供了更多选择，更在一定程度上推动了整个行业的蓬勃发展。

通过在线参与本届大会，我深入了解了Graviton4芯片及其在云计算领域的应用。亚马逊云科技对于自研芯片的不懈追求以及Graviton4的发布，都展示了公司在技术创新方面的领先地位。我对于Graviton4的性能提升以及新推出的R8g实例的内存优化表示期待，这将为用户提供更好的云计算体验。

而伴随着云计算技术的不断发展，我期待看到更多创新的硬件和服务涌现。面向未来，亚马逊云科技有望继续引领行业发展，为用户提供更多高性能、低成本的云计算解决方案。作为技术爱好者，我也将继续关注云计算领域的最新动态，不断学习和应用新技术，为个人和团队的项目带来更多可能性。