关于TVM模型的Relay IR的Node遍历

2024-03-12 06:12
文章标签 遍历 模型 node ir relay tvm

本文主要是介绍关于TVM模型的Relay IR的Node遍历，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

TVM Relay Node类型与遍历方法

  • 目的
  • 二、步骤
    • 1.遍历方法
    • 2.关于节点类型
  • 总结

目的

关于TVM模型的Relay IR的Node遍历

二、步骤

1.遍历方法

代码如下（示例）：

import tvm
from tvm import relay
from tvm.contrib.debugger import debug_executor
import numpy as np
import onnx
from tvm.contrib import graph_executor# 定义fvisit函数
def print_node_type(node):print(type(node))def compile_and_run_each_layer(path, input_shape, target):onnx_model = onnx.load(path)mod, params = relay.frontend.from_onnx(onnx_model, shape={'input': input_shape})# 编译模型with tvm.transform.PassContext(opt_level=3):lib = relay.build(mod, target, params=params)# 获取每个操作, node类型包括：tvm.relay.expr.Var，tvm.ir.op.Op，tvm.relay.expr.Constant，tvm.relay.expr.Call，tvm.relay.function.Function等node for node in relay.analysis.post_order_visit(mod['main'], print_node_type)

打印Resnet50的Node类型如下：

<class 'tvm.relay.expr.Var'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.function.Function'>

2.关于节点类型

在 TVM 框架中，relay 模块定义了用于构建和表示深度学习计算图的类和函数。下面是一些类的概述和它们在 Relay IR （中间表示）中的作用：

  1. tvm.relay.expr.Var: 这个类代表了计算图中的一个变量，通常用来表示输入数据或者模型参数。每一个 Var 实例都有一个唯一的名称和数据类型。例如，创建一个新的变量：
x = relay.var('x', relay.TensorType((1,), 'float32'))
  1. tvm.ir.op.Op: 这是所有 Relay算子的基类，它描述了一个操作的属性和行为。操作（Op）是构建神经网络层的基础，例如卷积、激活函数、池化等。举例来说，获取一个操作符的信息：
add_op_info = relay.op.get("add")
  1. tvm.relay.expr.Constant: 表示计算图中的常数值。一个 Constant 包含一个实际的张量值，通常用于表示模型中的权重和偏差。创建一个常量：
one = relay.const(1, 'float32')
  1. tvm.relay.expr.Call: 代表对一个函数或者操作的调用。在 Relay 中，模型中的每一个层（例如，卷积层、全连接层等）通常由一个 Call 节点表示。例如，创建一个对 add 函数的调用：
y = relay.add(x, one)
  1. tvm.relay.function.Function: 这个类表示一个 Relay 函数，它有参数列表和函数体。一般用于定义模型的前向传播，将输入变量映射到输出。创建一个简单的函数：
 `fn = relay.Function([x], y)`

在 Relay IR 中，这些类和实例是用于构建和表示深度学习模型的不同部分。通过这些构建块，可以表示复杂的计算图，进而进行优化和编译，以在不同的硬件上高效运行。

总结

TVM入门

这篇关于关于TVM模型的Relay IR的Node遍历的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/800368。

相关文章

Java的IO模型、Netty原理解析

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容：标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO（blocking I/O）NI
阅读更多...
基于Flask框架添加多个AI模型的API并进行交互

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》：本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应
阅读更多...
nvm如何切换与管理node版本

nvm如何切换与管理node版本

《nvm如何切换与管理node版本》：本文主要介绍nvm如何切换与管理node版本问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录nvm切换与管理node版本nvm安装nvm常用命令总结nvm切换与管理node版本nvm适用于多项目同时开发，然后项目适配no
阅读更多...
C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

《C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)》本文主要介绍了C#集成DeepSeek模型实现AI私有化的方法,包括搭建基础环境,如安装Ollama和下载DeepS... 目录前言搭建基础环境1、安装 Ollama2、下载 DeepSeek R1 模型客户端 ChatBo
阅读更多...
SpringBoot快速接入OpenAI大模型的方法(JDK8)

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot
阅读更多...
Node.js net模块的使用示例

Node.js net模块的使用示例

《Node.jsnet模块的使用示例》本文主要介绍了Node.jsnet模块的使用示例,net模块支持TCP通信,处理TCP连接和数据传输,具有一定的参考价值,感兴趣的可以了解一下... 目录简介引入 net 模块核心概念TCP (传输控制协议)Socket服务器TCP 服务器创建基本服务器服务器配置选项服
阅读更多...
mac安装nvm(node.js)多版本管理实践步骤

mac安装nvm(node.js)多版本管理实践步骤

《mac安装nvm(node.js)多版本管理实践步骤》：本文主要介绍mac安装nvm(node.js)多版本管理的相关资料,NVM是一个用于管理多个Node.js版本的命令行工具,它允许开发者在... 目录NVM功能简介MAC安装实践一、下载nvm二、安装nvm三、安装node.js总结NVM功能简介N
阅读更多...
0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型，3步搞定一个应
阅读更多...
Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll
阅读更多...
Spring AI Alibaba接入大模型时的依赖问题小结

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录（一）pom.XML文件：（二）application.yml配置文件（一）pom.xml文件：首
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2