开发者实战 | 用英特尔独立显卡训练AI智能收银机分类模型

本文主要是介绍开发者实战 | 用英特尔独立显卡训练AI智能收银机分类模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章作者:罗宏裕,张晶;

英特尔独立显卡技术指导:唐文凯

outside_default.png

本文将介绍在英特尔® 独立显卡上训练 AI 智能收银机分类模型的全流程,在下一篇中将介绍基于 OpenVINO™ 工具套件在 AIxBoard 上部署训练好的模型,快速实现 AI 智能收银机解决方案基于英特尔平台从模型训练到部署的端到端的关键技术验证。

在阅读本文前,请先在 Ubuntu 22.04 上安装英特尔锐炫 独立显卡驱动程序。

01

什么是 AI 智能收银机

 “看”一眼就能结账的 AI 智能收银机极大提升了零售店智能化水平和结算效率,推动无人结算零售店时代的到来。以食堂应用场景为例,就餐者自助取餐选菜后,直接将餐盘放在智能结算台上, AI 可以自动识别菜品的种类以及对应价格,然后自动计算出整餐金额,整个过程不到一秒钟。

dcd77e9ab96289597d42dca1114fb574.jpeg

本文将以 AI 食物图片分类为例,详细介绍在英特尔锐炫 独立显卡上训练 PyTorch 版 ResNet 50模型的整个过程。

02

英特尔锐炫 独立显卡简介

英特尔锐炫 显卡基于 Xe-HPG 微架构, Xe HPG GPU 中的每个 Xe 内核都配置了一组 256 位矢量引擎,旨在加速传统图形和计算工作负载,以及新的 1024 位矩阵引擎或 Xe 矩阵扩展,旨在加速人工智能工作负载。

01503456b6d528408498560ae1cf804b.jpeg

03

搭建基于英特尔锐炫 独立显卡

训练 PyTorch 模型的开发环境

3.1 环境要求

在 Ubuntu 22.04 上基于英特尔独立显卡训练 PyTorch 模型,需要依次安装:

1.英特尔独立显卡的驱动程序

2.英特尔® oneAPI Base Toolkit 2023.0

3.torch 1.13.0a0 和 torchvision 0.14.1a0

4.intel-extension-for-pytorch

3.2 安装英特尔独立显卡的驱动程序

请参考《在 Ubuntu 22.04上安装英特尔锐炫 独立显卡驱动程序》完成英特尔独立显卡的驱动安装。安装成功后,可以在 About 窗口 Graphics 一栏看到英特尔独立显卡的型号。

0f4a5eb03dc2282ea3c9baf31105a810.jpeg

3.3 下载并安装

英特尔® oneAPI Base Toolkit

第一步,通过下面的命令下载英特尔® oneAPI Base Toolkit并启动安装程序:

wget https://registrationcenter-download.intel.com/akdlm/irc_nas/19079/l_BaseKit_p_2023.0.0.25537.sh
sudo sh ./l_BaseKit_p_2023.0.0.25537.sh

向右滑动查看完整代码

5428af6737c4d3c881f0d1b7ca38db51.jpeg

第二步,保持默认选项,完成英特尔® oneAPIBase Toolkit安装

d90a60d98e29db37a2f1bcff0e3ea873.jpeg

3.4 安装

intel-extension-for-pytorch

使用命令安装torch、torchvision和intel-extension-for-pytorch:

python -m pip install torch==1.13.0a0 torchvision==0.14.1a0 intel_extension_for_pytorch==1.13.10+xpu -f https://developer.intel.com/ipex-whl-stable-xpu

向右滑动查看完整代码

cae68889de11c6ba640bd7a155c81787.jpeg

3.5 安装xpu-smi(可选)

英特尔® XPU 管理器是一个免费的开源工具,类似 nvidia-smi,用于监测英特尔独立显卡的运行信息(例如,温度、功耗、频率、显存容量等),也可以用于诊断独立显卡的问题。

安装包下载网站:

https://github.com/intel/xpumanager/releases 

4ca2cf60024f46553755bd930745bba3.jpeg

 然后,通过下面的命令进行安装

sudo apt install ./xpu-smi_1.2.5_20230313.033847.f458af77.u22.04_amd64.deb

向右滑动查看完整代码

b756b7b6a4518bde781806ae3aa4a510.jpeg

xpu-smi 的使用示例如下所示:

xpu-smi dump -d 0 -m 0,1,2,3,4,5,6

向右滑动查看完整代码

b1cc8a2676cf644da3f6bad9b86f5d95.jpeg

到此,在 Ubuntu 平台上用英特尔独立显卡训练 PyTorch 模型的开发环境配置完毕。

第一步,请通过以下命令激活oneAPI环境:

source /opt/intel/oneapi/setvars.sh

向右滑动查看完整代码

f561b9ffb954d0cbde1e1e912a274d9c.jpeg

第二步,请通过以下命令激活 DPC++ 编译器和 oneMKL 环境:

source /opt/intel/oneapi/compiler/latest/env/vars.sh
source /opt/intel/oneapi/mkl/latest/env/vars.sh

向右滑动查看完整代码

1d3ab5b3c6c8b13952f5793552844e0d.jpeg

第三步,

请下载 training_on_Intel_dGPU_bf16_ipex.py 并运行,该范例代码使用了 PyTorch 自带的 Food101 数据集和 resnet50 预训练模型参数。

下载地址:             

https://gitee.com/ppov-nuc/training_on_intel_GPU/blob/main/training_on_Intel_dGPU_bf16_ipex.py

核心代码片段:

model = torchvision.models.resnet50(weights='IMAGENET1K_V2',num_classes=101)
model = model.to('xpu')
criterion = torch.nn.CrossEntropyLoss()
optimizer = torch.optim.SGD(model.parameters(), lr = LR, momentum=0.9)
model.train()
model, optimizer = ipex.optimize(model, optimizer=optimizer, dtype=torch.bfloat16)
# 训练循环
for epoch in range(epochs):tloss,vloss = 0.0, 0.0top1,top5 = 0.0, 0.0pbar = tqdm(enumerate(train_loader),total=len(train_loader), bar_format=TQDM_BAR_FORMAT)for i, (data, target) in pbar:model.train()data = data.to('xpu')target = target.to('xpu')with torch.xpu.amp.autocast():output = model(data)loss = criterion(output, target)loss.backward()optimizer.step()optimizer.zero_grad()tloss = (tloss*i + loss.item()) / (i+1)if i == len(pbar) - 1:pred,targets,vloss = [], [], 0n = len(val_loader)# 评估训练精度model.eval()with torch.xpu.amp.autocast():for d, (images, labels) in enumerate(val_loader):images = images.to('xpu') labels = labels.to('xpu')y = model(images)pred.append(y.argsort(1, descending=True)[:, :5])targets.append(labels) vloss += criterion(y, labels).item()

向右滑动查看完整代码

运行结果,如下图所示:

a47d896d317fbd3a39ea516d92f324e2.jpeg

05

总结

本文详细介绍了在 Ubuntu 22.04下使用英特尔独立显卡进行 PyTorch 模型训练,此外,基于单卡英特尔 A750 和 Ubuntu 22.04 的环境,笔者还分别测试了基于 Food101 数据集的 Resnet50 模型和 Resnet101 模型各自的 BF16 格式和 FP32 格式的最大 batch_size 及其训练时的最大显存使用率,方便读者对 batch_size 进行修改,具体结果如下表所示。

_

BF16

FP32

Resnet50

batch_size:128

显存使用率:92.09%

batch_size:64

显存使用率:90.41%

Resnet101

batch_size:96

显存使用率:98.95%

batch_size:48

显存使用率:96.77%

--END--

你也许想了解(点击蓝字查看)⬇️➡️ 以AI作画,祝她节日快乐;简单三步,OpenVINO™ 助你轻松体验AIGC
➡️ 还不知道如何用OpenVINO™作画?点击了解教程。➡️ 如何给开源项目做贡献? | 开发者节日福利➡️ 几行代码轻松实现对于PaddleOCR的实时推理,快来get!➡️ 使用OpenVINO 在“端—边—云”快速实现高性能人工智能推理➡️ 图片提取文字很神奇?试试三步实现OCR!➡️【Notebook系列第六期】基于Pytorch预训练模型,实现语义分割任务➡️使用OpenVINO™ 预处理API进一步提升YOLOv5推理性能
扫描下方二维码立即体验 
OpenVINO™ 工具套件 2022.3

点击 阅读原文 立即体验OpenVINO 2022.3

f27454eda38fe621c4e25c463e23d7dc.png

文章这么精彩,你有没有“在看”?

这篇关于开发者实战 | 用英特尔独立显卡训练AI智能收银机分类模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/542160

相关文章

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Pandas使用SQLite3实战

《Pandas使用SQLite3实战》本文主要介绍了Pandas使用SQLite3实战,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录1 环境准备2 从 SQLite3VlfrWQzgt 读取数据到 DataFrame基础用法:读

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容:标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO(blocking I/O)NI

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》:本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应

Python实战之屏幕录制功能的实现

《Python实战之屏幕录制功能的实现》屏幕录制,即屏幕捕获,是指将计算机屏幕上的活动记录下来,生成视频文件,本文主要为大家介绍了如何使用Python实现这一功能,希望对大家有所帮助... 目录屏幕录制原理图像捕获音频捕获编码压缩输出保存完整的屏幕录制工具高级功能实时预览增加水印多平台支持屏幕录制原理屏幕

Spring AI ectorStore的使用流程

《SpringAIectorStore的使用流程》SpringAI中的VectorStore是一种用于存储和检索高维向量数据的数据库或存储解决方案,它在AI应用中发挥着至关重要的作用,本文给大家介... 目录一、VectorStore的基本概念二、VectorStore的核心接口三、VectorStore的

最新Spring Security实战教程之Spring Security安全框架指南

《最新SpringSecurity实战教程之SpringSecurity安全框架指南》SpringSecurity是Spring生态系统中的核心组件,提供认证、授权和防护机制,以保护应用免受各种安... 目录前言什么是Spring Security?同类框架对比Spring Security典型应用场景传统

最新Spring Security实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)

《最新SpringSecurity实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)》本章节介绍了如何通过SpringSecurity实现从配置自定义登录页面、表单登录处理逻辑的配置,并简单模拟... 目录前言改造准备开始登录页改造自定义用户名密码登陆成功失败跳转问题自定义登出前后端分离适配方案结语前言

OpenManus本地部署实战亲测有效完全免费(最新推荐)

《OpenManus本地部署实战亲测有效完全免费(最新推荐)》文章介绍了如何在本地部署OpenManus大语言模型,包括环境搭建、LLM编程接口配置和测试步骤,本文给大家讲解的非常详细,感兴趣的朋友一... 目录1.概况2.环境搭建2.1安装miniconda或者anaconda2.2 LLM编程接口配置2