本文主要是介绍【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
前言
欢迎大家关注有三AI的视频课程系列,我们的视频课程系列共分为5层境界,内容和学习路线图如下:
第1层:掌握学习算法必要的预备知识,包括Python编程,深度学习基础,数据使用,框架使用。
第2层:掌握CV算法最底层的能力,包括模型设计基础,图像分类,模型分析。
第3层:掌握CV算法最核心的方向,包括图像分割,目标检测,图像生成,目标跟踪。
第4层:掌握CV算法最核心的应用,包括人脸图像,图像质量,视频分析,图像编辑。
第5层:掌握算法落地的关键技术,包括模型优化,模型部署。
其中部分课程的主体内容已经更新完毕,比如数据使用/模型分析/图像分类/图像分割/目标检测/图像生成/图像翻译/图像增强/视频分类/模型部署/模型优化/人脸图像检测与识别/人脸属性编辑;部分课程正在重制更新中,比如人脸三维重建;部分课程正在计划上线中,比如通用图像编辑/视觉Transformer/强化学习/半监督与无监督,请大家及时关注!
最新的完整介绍如下:【总结】最系统化的CV内容,有三AI所有免费与付费的计算机视觉课程汇总(2022年12月)
2023年开始,每周都会有一门课程在当周有9折特惠,本周特惠课程是《深度学习之模型部署-移动端与服务端实践》,特惠价格是314元,目标是帮助大家掌握好深度学习模型在各类平台中的部署问题。
为什么要学习这门课
深度学习模型必须要经过部署到实际的生产环境中,才能产生真正的应用价值。在各类落地场景中,有的是服务端的场景,追求的是更高的精度,更大的模型,更复杂的功能。
有的是嵌入式平台,诸如手机等各类移动端设备、车载设备,追求的是低延迟,小模型。
因此我们进行模型部署的时候,需要各有侧重。当前模型优化和部署的工具非常多,包括TensorRT、NCNN、MNN等;当前的硬件平台也非常多,包括CPU、GPU,Arm、NPU、FPGA等。
为了帮助大家学习深度学习模型部署,有三AI推出《深度学习之模型部署》课程,力争对大部分主流框架,以及典型部署平台进行介绍与实战。
子欲学算法,模型部署是最后的一环!这就是我们这一门课期望帮大家搞定的问题!下面请听课程的详细介绍!
课程内容介绍
本课程内容包括各类深度学习模型部署框架与平台,实践内容非常丰富。
本次课程中一共已经包含了6个平台和框架案例,分别为原生Pytorch在Android手机端部署,NCNN的通用部署,Tengine在EAIDK嵌入式平台上的部署,TensorRT在服务器端的模型优化与部署,微信小程序的前后端完整部署,MNN在Android手机端部署,后续还会增加其他硬件平台与部署框架。
课程大纲如下:
课程大纲
以下为课程案例集中展示:
下面简单了解一下各部分的内容:
(1) 模型部署基础。讲解模型部署的流程与常见的方式,约10分钟,本小节内容可以免费收听。
(2) NCNN部署。NCNN是由腾讯优图实验室推出的为手机端极致优化的高性能神经网络前向计算框架,支持主流的平台和常见的视觉任务。本部分课程包括NCNN框架介绍和模型部署,主要包括NCNN框架特点,环境配置,模型格式转换,NCNN推理案例实现与代码解析,并附带完整的工程代码,约40分钟。
(3) Tengine嵌入式平台部署。Tengine涵盖了模型的加载解析,格式转换,计算图的调度和优化,在多种架构的芯片上高效运行,具有通用,开放,高性能等特点,本部分课程讲解Tengine框架介绍,在EDIDK嵌入式平台上的模型部署,并附带完整的工程代码,约40分钟。
(4) 微信小程序部署。部署到线上现在最轻便且最方便传播的当属微信小程序了,微信小程序依托于微信,不需要下载安装即可使用,本课程内容包括微信小程序部署服务端开发与前端开发的内容,并附带完整的工程代码,约70分钟。
(5) TensorRT模型优化与部署,TensorRT是一个高性能的深度学习推理(Inference)优化器,可以为深度学习应用提供低延迟、高吞吐率的部署推理。本部分课程内容主要包含Tensorrt入门、环境配置与安装、Python/C++接口网络加速实战等,并附带完整的工程代码,约90分钟。
(6) 原生Pytorch Android部署,本部分内容介绍Android Studio的基本使用,安卓控件使用,图片读取与摄像头调用、展示,pytorch模型转换,模型测试与安卓端部署,并附带完整的工程代码,约120分钟。
(7) MNN Android部署,本部分内容介绍MNN框架的编译安装,模型转化与量化加速、手机端部署实例3个部分,并附带完整的工程代码,约60分钟。
以上就是当前更新的内容,后续更新内容请大家及时关注,本课程讲师为有三AI团队。
龙鹏,笔名言有三,技术社区《有三AI》创始人。先后就读于华中科技大学(2008-2012),中国科学院半导体研究所神经网络实验室(2012-2015),先后就职于奇虎360人工智能研究院(2015.7-2017.5),陌陌科技深度学习实验室(2017.5-2019.3),深度学习算法专家,阿里云MVP,华为云MVP。
拥有超过7年的计算机视觉从业经验,拥有丰富的传统图像算法和深度学习计算机视觉项目经验,著有书籍《深度学习之图像识别:核心技术与案例实战》(机械工业出版社2019.4),《深度学习之模型设计:核心算法与案例实践》(电子工业出版社2020.6),《深度学习之人脸图像处理:核心算法与案例实战》(机械工业出版社2020.7),《深度学习之摄影图像处理:核心算法与案例精粹》(人民邮电出版社2021.4),拥有10余项发明技术专利与学术论文。
擅长领域:Caffe,Tensorflow,Pytorch等主流深度学习平台。神经网络与深度学习理论,深度学习模型设计与优化,计算机视觉的基础领域,AI美学,2D与3D人脸算法,生成对抗网络GAN等领域。
鲁健恒,大学老师,有三AI线上与线下课程讲师,《深度学习之模型设计》系列课程主讲人,SCI期刊IEEE ACCESS审稿人。专注于计算机视觉与人工智能领域,近期围绕人工智能领域,拥有4个发明专利授权,2个实用新型专利授权,以及1个软件著作权。
有三AI研发组负责人,一个时刻担心秃头的大龄程序员。大型公司8年工作经验,专注CV领域模型优化、模型部署。擅长代码实战。
本课程特色与适合人群
本课程是模型部署课程,属于有三AI整个课程体系中的高阶课程,学习后将掌握深度学习模型部署的整个能力,但是对大家的能力有一些要求,包括:
(1) 熟练掌握深度学习模型训练与推理能力。包括Pytorch,CNN模型设计,CV基础方向。
(2) 拥有扎实的编程功底。熟练掌握Python,C++,Java等语言。
(3) 拥有基本的前后端开发能力。熟练使用Linux,了解服务端Python部署框架Flask等,熟悉html,CSS等语言,了解javascript语言等。
本课程适合人群:
(1) 所有学习人工智能/深度学习算法,并有志于从事该领域的人员。
(2) 从事深度学习模型技术应用落地的技术人员。
(3) 对模型的部署落地感兴趣,希望增加自己项目经验的技术人员。
如何获取课程
订阅本课程的方法有两个:
其一:单独订阅本视频专栏,随着后续内容继续增加会进行价格调整,感兴趣的请提前订阅,链接如下:
其二:参加有三AI-CV秋季划模型算法组,可以获得所有模型相关的课程,介绍如下:
有三AI计算机视觉学习季划
有三AI季划是我们推出的终身计算机视觉培养计划,有三作为主要导师直接带领,囊括答疑,微信群交流,线下活动,多本自写的书籍,图文课件与代码,直播与直播,知识星球社区,内容组与研发组权限,了解详细请阅读以下文章:
【CV秋季划】模型算法与落地很重要,如何循序渐进地学习好(2022年言有三一对一辅导)?
往期相关
【总结】最系统化的CV内容,有三AI所有免费与付费的计算机视觉课程汇总(2022年12月)
这篇关于【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!