华为 CANN

2024-06-01 11:12
文章标签 华为 cann

本文主要是介绍华为 CANN，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

华为 CANN

  • 1 介绍
    • 1.1 概述
    • 1.2 CANN 是华为昇腾计算产业的重要一环
    • 1.3 昇腾系列处理器
    • 1.4 昇腾 AI 产业
    • 1.5 从 AI 算法到产品化落地流程
    • 1.6 多样性计算架构
    • 1.7 人工智能各层级图示
    • 1.8 人工智能技术发展历史
  • 2 CANN vs CUDA
    • 支持平台
    • 优化方向
    • 编程接口
    • 生态系统与应用
    • 性能与功能
  • 3 CANN逻辑架构
    • 昇腾计算语言（Ascend Computing Language，简称AscendCL）
    • 昇腾计算服务层（Ascend Computing Service Layer）
    • 昇腾计算编译层（Ascend Computing Compilation Layer）
    • 昇腾计算执行层（Ascend Computing Execution Layer）
    • 昇腾计算基础层（Ascend Computing Base Layer）
  • 4 支持的深度学习框架与第三方库
  • 5 全栈开放
  • 重点事件
    • Nvidia 禁止其他平台运行 CUDA
  • 参考

1 介绍

1.1 概述

CANN 是华为推出的计算架构。NVIDIA 成功的的关键是创建了 CUDA 计算架构。国内目前有希望追上 CUDA 的，就是华为的 CANN。

财富本身和驾驭财富的能力都很重要！
算力本身和驾驭算力的能力都很重要！

CUDA 和 CANN 就是驾驭 AI 算力的利器！

CANN 是针对 AI 场景推出的异构计算架构，通过提供多层次的编程接口，支持用户快速构建基于昇腾平台的 AI 应用和业务。为了解决大量在开发和部署中遇到的问题及挑战，CANN 是基于以下核心思想而设计。

  • 支持端边云全场景协同，支持超过 10 种设备形态、EMUI、Andriod、openEuler、UOS、Ubuntu、Debian、Suse 等超过 14 种操作系统和多种 AI 计算框架。对于上层应用，无需关注关注操作系统的变化和硬件的演进。

  • 支持多种计算架构和计算框架，一套体系支持 CPU、NPU 等架构和多种 AI计算框架

  • 支持向后兼容和演进，向后兼容是为了保护开发者的已有开发投资。

  • 平台还有极强的伸缩性和适应性，适应不同的算力和内存的变化。

CANN 不仅仅是一个简单的软件平台，首先它是一个开发体系，包含了编程语言，编译及调试工具和编程模型，创造了基于异腾系列处理器的一个编程的框架，未来将持续演进
在这里插入图片描述
在这里插入图片描述

1.2 CANN 是华为昇腾计算产业的重要一环

昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，包括昇腾系列处理器、系列硬件、CANN（Compute Architecture for Neural Networks，异构计算架构）、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。
在这里插入图片描述
在这里插入图片描述

1.3 昇腾系列处理器

随着深度学习需求日益扩大，基于神经网络的 AI处理器技术创新蓬勃发展。

NPU(NeuralProcessing Unit，神经网络处理器)针对矩阵运算进行专门优化设计，解决了传统芯片在神经网络运算时效率低下的问题。异腾系列处理器是基于华为达芬奇架构的 NPU，华为达芬奇架构是面向 AI计算设计的架构，通过独创的 161616的 3D Cube 设计，每时钟周期可以进行 4096 个 16 位半精度浮点 MAC 运算，为人工智能提供强大的算力支持。基于统一的达芬奇架构，可以支持端边云不同场景的差异化算力需求，并具备从几十毫瓦 IP 到几百瓦芯片的平滑扩展，覆盖了端边云全场景部署的能力。昇腾处理器是全球首个覆盖全场景 A1芯片,构建了昇腾计算产品、使能上层软件和应用的底座,也是全产业链可持续创新和发展的驱动力。

1.4 昇腾 AI 产业

在这里插入图片描述

1.5 从 AI 算法到产品化落地流程

在这里插入图片描述

1.6 多样性计算架构

在这里插入图片描述

1.7 人工智能各层级图示

在这里插入图片描述

1.8 人工智能技术发展历史

在这里插入图片描述

2 CANN vs CUDA

华为 CANN（Compute Architecture for Neural Networks）与 NVIDIA 的 CUDA（Compute Unified Device Architecture）在多个方面存在显著的差异。以下是两者之间的对比：

支持平台

  • CUDA：由 NVIDIA 推出，主要支持 NVIDIA 的 GPU 系列。CUDA指令集架构（ISA）以及GPU内部的并行计算引擎是CUDA的核心，使GPU能够解决复杂的计算问题。

  • CANN：由华为推出，专为昇腾AI处理器设计。它支持多种AI框架，为AI处理器和编程提供了服务，是提升昇腾AI处理器计算效率的关键平台。

优化方向

  • CUDA：针对通用计算进行了优化，使得开发人员可以使用C语言（以及C++和FORTRAN）为CUDA架构编写程序，并在支持CUDA的处理器上以超高性能运行。

  • CANN：针对神经网络计算场景进行了优化，提供了高效易用的编程接口，帮助用户快速构建基于昇腾平台的AI应用和业务。因此，CANN在AI计算方面比CUDA更高效。

编程接口

  • CANN：提供Ascend C作为算子开发语言，支持C和C++标准规范，，对应用程序开发者屏蔽了底层多种芯片差异，提升了用户APP编程的易用性。同时，CANN还提供了标准的异腾计算AIR，支持多框架，方便用户在昇腾芯片上快速部署神经网络业务。

  • CUDA：有一套API和编程模型，基于C语言，提供CUDA C/C++作为编程接口，并支持FORTRAN等其他语言。

生态系统与应用

  • CUDA：已被广泛应用于各个领域，包括图像与视频处理、计算生物学和化学、流体力学模拟等。拥有庞大的开发者社区和丰富的学习资源，NVIDIA提供广泛的技术支持和优化工具。

  • CANN：作为华为昇腾AI生态的关键组成部分，CANN正在推动AI应用和业务在华为平台上的快速发展。华为昇腾社区提供支持，包括ModelZoo、工具包和开发支持，旨在构建全场景人工智能平台。

性能与功能

  • CUDA：通过线程组层次结构、共享存储器、屏障同步等核心抽象概念，以及优化的内存管理和并行算法库，提升计算性能。

  • CANN：通过自动流水、算子深度融合、自适应梯度切分和智能计算调优等技术，优化AI计算性能。

3 CANN逻辑架构

在这里插入图片描述

昇腾计算语言（Ascend Computing Language，简称AscendCL）

AscendCL接口是昇腾计算开放编程框架，是对底层昇腾计算服务接口的封装。它提供设备（Device）管理、上下文（Context）管理、流（Stream）管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理、图（Graph）管理等API库，供用户开发人工智能应用。

昇腾计算服务层（Ascend Computing Service Layer）

主要提供昇腾算子库AOL（Ascend Operator Library），通过神经网络（Neural Network，NN）库、线性代数计算库（Basic Linear Algebra Subprograms，BLAS）等高性能算子加速计算；昇腾调优引擎AOE（Ascend Optimization Engine），通过算子调优OPAT、子图调优SGAT、梯度调优GDAT、模型压缩AMCT提升模型端到端运行速度。同时提供AI框架适配器Framework Adaptor用于兼容TensorFlow、PyTorch等主流AI框架。

昇腾计算编译层（Ascend Computing Compilation Layer）

昇腾计算编译层通过图编译器（Graph Compiler）将用户输入中间表达（Intermediate Representation，IR）的计算图编译成昇腾硬件可执行模型；同时借助张量加速引擎TBE（Tensor Boost Engine）的自动调度机制，高效编译算子。

昇腾计算执行层（Ascend Computing Execution Layer）

负责模型和算子的执行，提供运行时库（Runtime）、图执行器（Graph Executor）、数字视觉预处理（Digital Vision Pre-Processing，DVPP）、人工智能预处理（Artificial Intelligence Pre-Processing，AIPP）、华为集合通信库（Huawei Collective Communication Library，HCCL）等功能单元。

昇腾计算基础层（Ascend Computing Base Layer）

主要为其上各层提供基础服务，如共享虚拟内存（Shared Virtual Memory，SVM）、设备虚拟化（Virtual Machine，VM）、主机-设备通信（Host Device Communication，HDC）等。

4 支持的深度学习框架与第三方库

在这里插入图片描述

5 全栈开放

在这里插入图片描述
华为昇腾坚持开源开放原则，目的是为了希望构建良好的产业生态，按能力分层开放。面向不同开发者提供不同开发工具和套件，使能开发者满足在极简开发和极致性能两方面的需求。

※ 面向最上层的业务应用开发者，他们把 AI变成服务，引入各行各业。对于这类开发者MindX 开放支持上层的 ModelArts 和 HiAI等应用使能服务，同时也可以支持第三方平台提供应用使能服务;MindX也逐步提供 SDK，SDK是面向同一类行业场景的完整开发工具包和对应的行业知识库，让针对一类行业的开发经验和行业知识可以积淀下来，快速复制。SDK 让开发者、ISV 只需极少量代码甚至不需要代码就可以实现 Al的功能。

※ 面向 AI 模型开发者，他们专注于算法开发，开源框架 MindSpore 可以支持高效开发，同时华为提供模型转换工具支持主流模型便捷的转换到 MindSpore。

※ 面向算子开发者，提供了 CANN 和 MindStudio 来支持底层开发。基于统一编程接口AscendCL(Ascend Computing Language，昇腾统一编程语言)的 CANN，实现分层开放能力。AscendCL封装了内存管理、AI任务管理、AI任务执行、业务流、事件、图引擎等通用接口，开发者只需要掌握一套 API，就可以全面使用昇腾硬件的能力。同时，AscendCl将开放环境与底层硬件相解耦，实现后向兼容，可以最大程度的保护开发者的数字资产。

重点事件

Nvidia 禁止其他平台运行 CUDA

Nvidia在CUDA 11.6的用户许可协议中明确指出，禁止在其他硬件平台上通过转换层运行CUDA

参考

1、昇腾社区–CANN是什么
2、昇腾社区–CANN
3、昇腾计算产业发展白皮书–华为-中国信通院-中国人工智能产业发展联盟
4、华为–昇腾计算产业概述
5、鲲鹏计算产业发展白皮书–2020
6、华为–迈向智能世界白皮书
7、德勤–全球人工智能发展白皮书–2020
8、Nvidia 对 CUDA 的最新限制引起中国 AI 界的关注
9、大力出奇迹，揭秘昇腾CANN的AI超能力
10、关于华为昇腾（Ascend）AI芯片，CANN计算架构，MindSpore深度学习框架，MindStudio开发工具
11、华为：绕过CUDA、平替英伟达，我来为中国AI公司提供芯片

这篇关于华为 CANN的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1020850。

相关文章

828华为云征文｜华为云Flexus X实例docker部署rancher并构建k8s集群

828华为云征文｜华为云Flexus X实例docker部署rancher并构建k8s集群

828华为云征文｜华为云Flexus X实例docker部署rancher并构建k8s集群 华为云最近正在举办828 B2B企业节，Flexus X实例的促销力度非常大，特别适合那些对算力性能有高要求的小伙伴。如果你有自建MySQL、Redis、Nginx等服务的需求，一定不要错过这个机会。赶紧去看看吧！ 什么是华为云Flexus X实例 华为云Flexus X实例云服务是新一代开箱即用、体
阅读更多...
华为OD机试真题-学生方阵-2024年OD统一考试（E卷）

华为OD机试真题-学生方阵-2024年OD统一考试（E卷）

题目描述 学校组织活动，将学生排成一个矩形方阵。 请在矩形方阵中找到最大的位置相连的男生数量。这个相连位置在一个直线上，方向可以是水平的，垂直的，成对角线的或者呈反对角线的。 注:学生个数不会超过10000 输入描述 输入的第一行为矩阵的行数和列数， 接下来的 n行为矩阵元素，元素间用""分隔。 输出描述 输出一个整数，表示矩阵中最长的位
阅读更多...
华为 HCIP-Datacom H12-821 题库 (13)

华为 HCIP-Datacom H12-821 题库 (13)

有需要题库的可以看主页置顶 1.可以携带外部路由的 tag 标签信息的是以下哪一类 LSA? A、4 类 LSA B、5 类 LSA  C、3 类 LSA  D、2 类 LSA 答案：B 解析： 暂无解析 2..两台路由器直连，并设定网络类型为 p2p 建立OSPF 邻居。那么两台路由器传输 OSPF 报文的目的 IP 地址是以下哪一项？ A、使用组播地址 224.0.0.6 B
阅读更多...
4G模块、WIFI模块、NBIOT模块通过AT指令连接华为云物联网服务器（MQTT协议）

4G模块、WIFI模块、NBIOT模块通过AT指令连接华为云物联网服务器（MQTT协议）

MQTT协议概述 MQTT（Message Queuing Telemetry Transport）是一种轻量级的消息传输协议，它被设计用来提供一对多的消息分发和应用之间的通讯，尤其适用于远程位置的设备和高延迟或低带宽的网络。MQTT协议基于客户端-服务器架构，客户端可以订阅任意数量的主题，并可以发布消息到这些主题。服务器（通常称为MQTT Broker）则负责接受来自客户端的连接请求，并转发消
阅读更多...
华为23年笔试题

华为23年笔试题

消息传输 题目描述 在给定的 m x n (1 <= m, n <= 1000) 网格地图 grid 中，分布着一些信号塔，用于区域间通信。 每个单元格可以有以下三种状态：  值 0 代表空地，无法传递信号；  值 1 代表信号塔 A，在收到消息后，信号塔 A 可以在 1ms 后将信号发送给上下左右四个方向的信号塔； 值 2 代表信号塔 B，在收到消息后，信号塔 B 可以在 2ms
阅读更多...
实现的动态规划问题华为笔试题C++实现

实现的动态规划问题华为笔试题C++实现

秋招刷力扣题，我觉得我对动态规划不是熟练，在此处做总结 动态规划（Dynamic Programming,DP）算法通常用于求解某种具有最优性质的问题。在这类问题中，可能会有许多可行解，每一个解都对应一个值，我们希望找到具有最优值的解。我觉得最大的问题就是对问题的分解，分解后的问题与分解前的问题具有相同的决策机制，将决策机制进行抽象，最终可以得到对应的解； 动态规划中开始介绍的爬楼梯等问题，答
阅读更多...
828华为云征文｜基于华为云Flexus云服务器X实例部搭建Halo博客平台

828华为云征文｜基于华为云Flexus云服务器X实例部搭建Halo博客平台

华为云征文｜基于华为云Flexus云服务器X实例部搭建Halo博客平台 前言一、Flexus云服务器X实例介绍1.1 Flexus云服务器X实例简介1.2 Flexus云服务器X实例特点1.3 Flexus云服务器X实例使用场景 二、Halo介绍2.1 Halo 简介2.2 Halo 特点 三、本次实践介绍3.1 本次实践简介3.2 本次环境规划 四、购买华为云Flexus云服务器X实例4.
阅读更多...
三方登录 - 华为登录

三方登录 - 华为登录

1.1. 开发准备 当应用需要使用以下开放能力的一种或多种时，为正常调试运行应用，需要预先添加公钥指纹 Account Kit（华为帐号服务）Call Kit（通话服务）Game Service Kit（游戏服务）Health Service Kit（运动健康服务）IAP Kit（应用内支付服务）Live View Kit（实况窗服务，当需要使用Push Kit时必须执行此步骤）Map Kit
阅读更多...
828华为云征文|基于Flexus云服务器X实例的应用场景-拥有一款自己的ssl监控工具

828华为云征文|基于Flexus云服务器X实例的应用场景-拥有一款自己的ssl监控工具

先看这里 写在前面效果图华为云Flexus云服务器X实例介绍特点可选配置购买 连接服务器Uptime-kuma简介开源信息部署准备工作：docker部署命令访问uptime-kuma 基本配置总结 写在前面 作为一个个人开发者，相信你手里肯定也有不少自己的服务，有的服务呢也是https的。 以前ssl各厂都是可以免费申请一年的，我们更换的频率还好，比较小；但是最近，各厂都
阅读更多...
828华为云征文｜基于华为云Flexus X实例搭建Nginx集群负载均衡

828华为云征文｜基于华为云Flexus X实例搭建Nginx集群负载均衡

目录 前言 一、Flexus云服务器X介绍 1.1 Flexus云服务器X实例简介 1.2 Flexus X实例购买 1.3 登录服务器 三、Springboot集群服务 3.1 部署9901节点服务 3.2 部署9902节点服务 四、Nginx负载均衡配置 五、集群负载调用测试 5.1 负载调用9901端口 5.2 负载调用9901端口 总结 前言 华为云Flexus X实例凭借其
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2