本文主要是介绍CANN2022训练营第一季,学习笔记——初级应用开发3,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
CANN2022训练营第一季,学习笔记(含打卡截图)——初级应用开发3
学习笔记
模型转换工具(ATC工具)
将TensorFlow/Caffe等开源网络的模型通过ATC工具转为昇腾AI处理器支持格式的模型(Model.om file)
流程:开始→环境准备(获取ATC工具、设置环境变量)→模型准备→ATC模型转换(可以根据需要进行配置)→结束
ACL简介(见第二节课内容)
用于加速推理的应用开发框架(不是新手训练用的)。其向上可以供第三方框架、开发第三方lib库调用,向下可以调用GE执行器、运行管理器等
一、开发图片分类运用学习
ACL主要接口调用流程(实验ACL开发应用的基本流程):
ACL初始化→运行管理资源申请→算子调用/模型推理(算子调用:生成算子文件、加载算子文件、执行算子 或者 模型推理:模型加载、模型执行、模型卸载)
→运行管理资源释放→ACL去初始化
课程内容
1、ACL运行资源管理
申请运行资源
注意!!要按顺序依次申请(就像逻辑运行一样要有顺序)
顺序为:Device、Context、Stream,然后根据需要调用aclrtGetRunMode接口获取软件栈的运行模型(当同一个应用既支持在Host运行也支持在Device运行时,在编程时就需要根据运行模式来判断后续的接口调用逻辑,这时需要提前获取运行模式)
运行管理资源释放
注意!!释放和申请的顺序相反(类比C++中多个构造函数和多个析构函数的调用顺序)!!
顺序为:Stream、Context、Device
- Device管理相关接口
aclrtGetDeviceCount接口:获取可用的Device数量,同步接口(即同步等待接口,须接口完成动作返回后才可继续向下执行。
aclrtGetRunMode接口:获取当前昇腾软件栈的运行模式,同步接口
aclrtSetDevice接口:制定用于运算的Device,同时隐式创建默认Context,该默认Context中包含2个Stream,1个默认Stream和1个执行内部同步的Stream。同步接口。
aclrtResetDevice接口:复位当前运算的Device,释放Device上的资源,包括默认Context、 默认Stream以及默认Context下创建的所有Stream, 同步接口。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。
aclrtGetDevice接口:获取当前正在使用的Device的ID。同步接口。 - Context管理相关接口
aclrtCreateContext接口:显式创建一个 Context,该Context中包含2个Stream, 1个默认Stream和1个执行内部同步的Stream,同步接口。
aclrtDestroyContext接口:销毁一个Context,释放Context的资源,只能销毁通过aclrtCreateContext接口显式创建的Context。同步接口。
aclrtSetCurrentContext接口:设置线程的Context。同步接口。
aclrtGetCurrentContext接口:获取线程的Context。同步接口。 - Stream管理相关接口
aclrtCreateStream接口:创建一个Stream。同步接口。
aclrtDestroyStream接口:销毁指定Stream,只能销毁通过aclrtCreateStream接口创建的Stream。同步接口。
未完待续……
2、ACL内存管理&数据传送
3、ACL数据预处理
4、ACL模型加载与执行
5、ACL单算子加载与执行
6、ACL案例讲解
二、编译及运行应用
步骤:①准备模型 ②准备数据 ③编译程序 ④运行程序
三、获取运行日志
重点:日志目录默认为:“CANN软件安装目录/ascend/log”,应用运行之后,可以在该目录下查阅日志
日志中的关键信息:
这篇关于CANN2022训练营第一季,学习笔记——初级应用开发3的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!