Mindspore 初学教程 - 3. Tensor 张量

2024-09-06 03:36
文章标签 教程 初学 张量 tensor mindspore

本文主要是介绍Mindspore 初学教程 - 3. Tensor 张量，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

张量（Tensor）是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数，这些线性关系的基本例子有内积、外积、线性映射以及笛卡儿积。其坐标在  n n n 维空间内，有  n r n^{r} nr 个分量的一种量，其中每个分量都是坐标的函数，而在坐标变换时，这些分量也依照某些规则作线性变换。 r r r 称为该张量的秩或阶（与矩阵的秩和阶均无关系）。

张量是一种特殊的数据结构，与数组和矩阵非常相似。张量（Tensor）是MindSpore 网络运算中的基本数据结构。

一、创建张量

张量的创建方式有多种，构造张量时，支持传入Tensor、float、int、bool、tuple、list 和 numpy.ndarray 类型。

  • 根据数据直接生成：可以根据基本数据类型创建张量，数据类型可以设置或者通过框架自动推断。
  • 从 NumPy 数组生成：可以从NumPy数组创建张量。
  • 使用 init 初始化器构造张量：使用init初始化器对张量进行初始化时，支持传入的参数有init、shape、dtype。通常来说 init 主要用于并行模式下的延后初始化，在正常情况下不建议使用init对参数进行初始化。
    • init: 支持传入initializer的子类。如 One() 和 Normal()。
    • shape: 支持传入 list、tuple、 int。
    • dtype: 支持传入mindspore.dtype。
  • 继承另一个张量的属性，形成新的张量
# 根据数据直接生成
def gen_tensor_base():data = [1, 0, 1, 0]x_data = Tensor(data)show_tensor_attr(x_data)# 从 NumPy 数组生成
def gen_tensor_numpy():data = [1, 0, 1, 0]np_array = np.array(data)x_np = Tensor(np_array)show_tensor_attr(x_np)# 使用 init 初始化器构造张量
def gen_tensor_init():tensor1 = mindspore.Tensor(shape=(2, 2), dtype=mindspore.float32, init=One())# Initialize a tensor from normal distributiontensor2 = mindspore.Tensor(shape=(2, 2), dtype=mindspore.float32, init=Normal())print("tensor1:")show_tensor_attr(tensor1)print("tensor2:")show_tensor_attr(tensor2)# 继承另一个张量的属性，形成新的张量
def gen_tensor_extend():data = [1, 0, 1, 0]x_data = Tensor(data)x_ones = ops.ones_like(x_data)print(f"Ones Tensor: \n {x_ones} \n")x_zeros = ops.zeros_like(x_data)print(f"Zeros Tensor: \n {x_zeros} \n")
![请添加图片描述](https://i-blog.csdnimg.cn/direct/347e9a5620314495a2dcb04577de97f6.png)

二、张量的属性

张量的属性包括形状、数据类型、转置张量、单个元素大小、占用字节数量、维数、元素个数和每一维步长。

  • 形状（shape）：Tensor的 shape，是一个 tuple。
  • 数据类型（dtype）：Tensor的 dtype，是 MindSpore 的一个数据类型。
  • 单个元素大小（itemsize）： Tensor 中每一个元素占用字节数，是一个整数。
  • 占用字节数量（nbytes）： Tensor 占用的总字节数，是一个整数。
  • 维数（ndim）： Tensor的秩，也就是len(tensor.shape)，是一个整数。
  • 元素个数（size）： Tensor 中所有元素的个数，是一个整数。
  • 每一维步长（strides）： Tensor 每一维所需要的字节数，是一个tuple。
def show_tensor_attr(tensor:Tensor):# tensor 的 形状tensor_shape = tensor.shape# tensor 的 数据类型tensor_dtype = tensor.dtype# tensor 单个元素占用的字节数tensor_itemsize = tensor.itemsize# tensor 占用的字节数tensor_nbytes = tensor.nbytes# tensor 的秩，不同于矩阵的秩，这里指的是 len(tensor.shape)tensor_ndim = tensor.ndim# tensor 的 元素的数量tensor_size = tensor.size# tensor 每一维所需要的字节数tensor_strides = tensor.stridesfor name, value in locals().items():print(f"{name}: {value}")print()

三、张量索引

Tensor 索引与 Numpy 索引类似，索引从 0 开始编制，负索引表示按倒序编制，冒号 : 和 ... 用于对数据进行切片。

def show_tensor_index():tensor = Tensor(np.array([[0, 1], [2, 3]]).astype(np.float32))print("First row: {}".format(tensor[0]))print("value of bottom right corner: {}".format(tensor[1, 1]))print("Last column: {}".format(tensor[:, -1]))print("First column: {}".format(tensor[..., 0]))

在这里插入图片描述

四、张量运算

张量之间有很多运算，包括算术、线性代数、矩阵处理（转置、标引、切片）、采样等，张量运算和NumPy的使用方式类似，下面介绍其中几种操作。

4.1 普通算术

普通算术运算有：加（+）、减（-）、乘（*）、除（/）、取模（%）、整除（//）。

def base_calculate():x = Tensor(np.array([1, 2, 3]), mindspore.float32)y = Tensor(np.array([4, 5, 6]), mindspore.float32)# 加output_add = x + y# 减output_sub = x - y# 乘output_mul = x * y# 除output_div = y / x# 求余output_mod = y % x# 地板除 output_floordiv = y // xprint("add:", output_add)print("sub:", output_sub)print("mul:", output_mul)print("div:", output_div)print("mod:", output_mod)print("floordiv:", output_floordiv)

在这里插入图片描述

4.2 张量拼接

4.2.1 concat 拼接

concat 将给定维度上的一系列张量连接起来。

def show_concat(axis=0):data1 = Tensor(np.array([[0, 1], [2, 3]]).astype(np.float32))data2 = Tensor(np.array([[4, 5], [6, 7]]).astype(np.float32))output = ops.concat((data1, data2), axis=axis)print(output)print(output.shape, output.dtype)

在这里插入图片描述

4.2.2 stack 拼接

stack 是从另一个维度上将两个张量合并起来。

def show_stack():data1 = Tensor(np.array([[0, 1], [2, 3]]).astype(np.float32))data2 = Tensor(np.array([[4, 5], [6, 7]]).astype(np.float32))output = ops.stack([data1, data2])print(output)print("shape:\n", output.shape)

在这里插入图片描述

五、Tensor与NumPy转换

Tensor 可以和 NumPy 进行互相转换。

5.1 Tensor转换为NumPy

与张量创建相同，使用 Tensor.asnumpy() 将 Tensor 变量转换为 NumPy 变量。

def tensor2numpy():t = Tensor([1., 1., 1., 1., 1.])print(f"t: {t}", type(t))n = t.asnumpy()print(f"n: {n}", type(n))

在这里插入图片描述

5.2 NumPy转换为Tensor

使用 Tensor() 将 NumPy 变量转换为 Tensor 变量。

def numpy2tensor():n = np.ones(5)t = Tensor.from_numpy(n)np.add(n, 1, out=n)print(f"n: {n}", type(n))print(f"t: {t}", type(t))

在这里插入图片描述
注意： numpy 的值改变，Tensor 的值也会同步改变

六、稀疏张量

稀疏张量是一种特殊张量，其中绝大部分元素的值为零。在某些应用场景中（比如推荐系统、分子动力学、图神经网络等），数据的特征是稀疏的，若使用普通张量表征这些数据会引入大量不必要的计算、存储和通讯开销。这时就可以使用稀疏张量来表征这些数据。

MindSpore现在已经支持最常用的 CSR 和 COO 两种稀疏数据格式。常用稀疏张量的表达形式是<indices:Tensor, values:Tensor, shape:Tensor>。其中，indices表示非零下标元素， values 表示非零元素的值，shape表示的是被压缩的稀疏张量的形状。在这个结构下，mindSpore 定义了 两种稀疏张量结构：CSRTensor 和 COOTensor （其中 RowTensor 在 1.7 版本后已经弃用）。

6.1 CSRTensor

CSR（Compressed Sparse Row）稀疏张量格式有着高效的存储与计算的优势。其中，非零元素的值存储在values中，非零元素的位置存储在indptr（行）和indices（列）中。各参数含义如下：

  • indptr: 一维整数张量, 表示稀疏数据每一行的非零元素在values中的起始位置和终止位置, 索引数据类型支持int16、int32、int64。
  • indices: 一维整数张量，表示稀疏张量非零元素在列中的位置, 与values长度相等，索引数据类型支持int16、int32、int64。
  • values: 一维张量，表示CSRTensor相对应的非零元素的值，与indices长度相等。
  • shape: 表示被压缩的稀疏张量的形状，数据类型为Tuple，目前仅支持二维CSRTensor。

CSRTensor 的详细文档，请参考mindspore.CSRTensor。

def show_CSRTensor():indptr = Tensor([0, 2, 5, 6])indices = Tensor([0, 3, 1, 2, 4, 2])values = Tensor([1., 2., 3., 4., 5., 6.], dtype=mindspore.float32)shape = (3, 5)# Make a CSRTensorcsr_tensor = CSRTensor(indptr, indices, values, shape)print(csr_tensor.to_dense())print(csr_tensor.astype(mindspore.float64).dtype)

在这里插入图片描述
其中 indptr 为 [0, 2, 5, 6]，表示 indices [0, 2)为第 0 行的数据，indices [2, 5) 为第 1 行的数据，indices [5, 6) 为第 2 行的数据。例如：稠密张量第 0 行非零元素所在的列位置由 indices 中的第 [0, 2) 个元素 ( 即[0, 3] ) 给出，实际值由 values 中的第 [0, 2) 个元素( 即 [1., 2.] ) 给出；第1行非零元素所在的列位置位置由 indices 中的第 [2, 5) 个元素( 即 [1, 2, 4] )给出，实际值由 values 中的第 [2, 5) 个元素 ( 即 [3., 4., 5.] ) 给出；第 2 行非零元素所在的列位置位置由 indices 中的第 [5, 6) 个元素( 即[2] )给出，实际值由 values 中的第 [5, 6) 个元素 ( 即[6.] ) 给出；

6.2 COOTensor

COO（Coordinate Format）稀疏张量格式用来表示某一张量在给定索引上非零元素的集合，若非零元素的个数为N，被压缩的张量的维数为ndims。各参数含义如下：

  • indices: 二维整数张量，每行代表非零元素下标。形状：[N, ndims]， 索引数据类型支持int16、int32、int64。
  • values: 一维张量，表示相对应的非零元素的值。形状：[N]。
  • shape: 表示被压缩的稀疏张量的形状，目前仅支持二维COOTensor。

COOTensor的详细文档，请参考mindspore.COOTensor。

def show_COOTensor():indices = Tensor([[0, 1], [1, 2]], dtype=mindspore.int32)values = Tensor([1, 2], dtype=mindspore.float32)shape = (3, 4)# Make a COOTensorcoo_tensor = COOTensor(indices, values, shape)print(coo_tensor.to_dense())print(coo_tensor.astype(mindspore.float64).dtype)

在这里插入图片描述
其中索引(indices)指示了每一个非零元素的位置。对一个稠密 Tensor dense 来说，它对应的 COOTensor(indices, values, shape)，满足 dense[indices[i]] = values[i] 。

这篇关于Mindspore 初学教程 - 3. Tensor 张量的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1140883。

相关文章

Spring Security 从入门到进阶系列教程

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门（一）：登录与退出》 《Spring-Security-入门（二）：基于数据库验证》 《Spring-Security-入门（三）：密码加密》 《Spring-Security-入门（四）：自定义-Filter》 《Spring-Security-入门（五）：在 Sprin
阅读更多...
Makefile简明使用教程

Makefile简明使用教程

文章目录 规则makefile文件的基本语法：加在命令前的特殊符号：.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具，常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件
阅读更多...
SWAP作物生长模型安装教程、数据制备、敏感性分析、气候变化影响、R模型敏感性分析与贝叶斯优化、Fortran源代码分析、气候数据降尺度与变化影响分析

SWAP作物生长模型安装教程、数据制备、敏感性分析、气候变化影响、R模型敏感性分析与贝叶斯优化、Fortran源代码分析、气候数据降尺度与变化影响分析

查看原文>>>全流程SWAP农业模型数据制备、敏感性分析及气候变化影响实践技术应用 SWAP模型是由荷兰瓦赫宁根大学开发的先进农作物模型，它综合考虑了土壤-水分-大气以及植被间的相互作用；是一种描述作物生长过程的一种机理性作物生长模型。它不但运用Richard方程，使其能够精确的模拟土壤中水分的运动，而且耦合了WOFOST作物模型使作物的生长描述更为科学。 本文让更多的科研人员和农业工作者
阅读更多...
沁恒CH32在MounRiver Studio上环境配置以及使用详细教程

沁恒CH32在MounRiver Studio上环境配置以及使用详细教程

目录 1.  RISC-V简介 2.  CPU架构现状 3.  MounRiver Studio软件下载 4.  MounRiver Studio软件安装 5.  MounRiver Studio软件介绍 6.  创建工程 7.  编译代码 1.  RISC-V简介         RISC就是精简指令集计算机（Reduced Instruction SetCom
阅读更多...
前端技术(七)——less 教程

前端技术(七)——less 教程

一、less简介 1. less是什么？ less是一种动态样式语言，属于css预处理器的范畴，它扩展了CSS语言，增加了变量、Mixin、函数等特性，使CSS 更易维护和扩展LESS 既可以在 客户端 上运行 ，也可以借助Node.js在服务端运行。 less的中文官网:https://lesscss.cn/ 2. less编译工具 koala 官网 http://koala-app.
阅读更多...
【Shiro】Shiro 的学习教程（三）之 SpringBoot 集成 Shiro

【Shiro】Shiro 的学习教程（三）之 SpringBoot 集成 Shiro

目录 1、环境准备2、引入 Shiro3、实现认证、退出3.1、使用死数据实现3.2、引入数据库，添加注册功能后端代码前端代码 3.3、MD5、Salt 的认证流程 4.、实现授权4.1、基于角色授权4.2、基于资源授权 5、引入缓存5.1、EhCache 实现缓存5.2、集成 Redis 实现 Shiro 缓存 1、环境准备 新建一个 SpringBoot 工程，引入依赖：
阅读更多...
Windows环境利用VS2022编译 libvpx 源码教程

Windows环境利用VS2022编译 libvpx 源码教程

libvpx libvpx 是一个开源的视频编码库，由 WebM 项目开发和维护，专门用于 VP8 和 VP9 视频编码格式的编解码处理。它支持高质量的视频压缩，广泛应用于视频会议、在线教育、视频直播服务等多种场景中。libvpx 的特点包括跨平台兼容性、硬件加速支持以及灵活的接口设计，使其可以轻松集成到各种应用程序中。 libvpx 的安装和配置过程相对简单，用户可以从官方网站下载源代码
阅读更多...
PHP APC缓存函数使用教程

PHP APC缓存函数使用教程

APC，全称是Alternative PHP Cache，官方翻译叫”可选PHP缓存”。它为我们提供了缓存和优化PHP的中间代码的框架。 APC的缓存分两部分:系统缓存和用户数据缓存。(Linux APC扩展安装) 系统缓存 它是指APC把PHP文件源码的编译结果缓存起来，然后在每次调用时先对比时间标记。如果未过期，则使用缓存的中间代码运行。默认缓存 3600s(一小时)。但是这样仍会浪费大量C
阅读更多...
Qt多语种开发教程

Qt多语种开发教程

Qt作为跨平台的开发工具，早已应用到各行各业的软件开发中。 今天讲讲，Qt开发的正序怎么做多语言开发。就是说，你设置中文，就中文显示；设置英语就英文显示，设置繁体就繁体显示，设置发育就显示法语等。 开发环境(其实多语种这块根环境没太大关系)：win10，Qt.5.12.10 一.先用QtCreator创建一个简单的桌面程序 1.工程就随便命名“LanguageTest”，其他默认。 2.在设计师
阅读更多...
如何打造个性化大学生线上聊天交友系统？Java SpringBoot Vue教程，2025最新设计思路

如何打造个性化大学生线上聊天交友系统？Java SpringBoot Vue教程，2025最新设计思路

✍✍计算机编程指导师 ⭐⭐个人介绍：自己非常喜欢研究技术问题！专业做Java、Python、微信小程序、安卓、大数据、爬虫、Golang、大屏等实战项目。 ⛽⛽实战项目：有源码或者技术上的问题欢迎在评论区一起讨论交流！ ⚡⚡ Java实战 | SpringBoot/SSM Python实战项目 | Django 微信小程序/安卓实战项目 大数据实战项目 ⚡⚡文末获取源码 文章目录
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2