window10+TensorRT-8.2.5.1+yolov5 v6.2 c++部署

2023-12-12 11:30

本文主要是介绍window10+TensorRT-8.2.5.1+yolov5 v6.2 c++部署,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、准备工具

1.1、visual studio下载安装

参考:vs2019社区版下载教程(详细)_Redamancy_06的博客-CSDN博客_vs2019社区版

1.2、显卡驱动+cuda+cudnn安装

参考:win10系统+3060显卡驱动+cuda11.5+cudnn8.3安装_Bubble_water的博客-CSDN博客

一定要安装好visual studio软件之后再安装cuda(或者重装cuda),并且选择visual studio integration,否则后期配置会出现麻烦还需要自己复制一些东西去解决问题

1.3、tensorrt安装

参考:有道云笔记

1.4、cmake下载安装

cmake版本3.25.1,可以根据自己的情况选择安装自己需要的版本

官方网址:

https://cmake.org/download

下载地址:

https://github.com/Kitware/CMake/releases/download/v3.25.1/cmake-3.25.1-windows-x86_64.msihttps://github.com/Kitware/CMake/releases/download/v3.25.1/cmake-3.25.1-windows-x86_64.msi

 

 

 

 

 

 1.5、opencv下载:

自己源码编译,参考:win10+vs2017+opencv4.0.1+opencv_contrib-4.0.1详细教程_Bubble_water的博客-CSDN博客

或者直接下载官方编译好的文件,按照自己需要的版本下载:

Releases · opencv/opencv · GitHub
 

二、yolov5和tensorrtx源码下载
2.1、将下载下来的yolov5和tensorrtx仓库切换到6.2版本
yolov5仓库:https://github.com/ultralytics/yolov5,将其下载下来

将https://github.com/tronkko/dirent源码下载下来,cmakelist.txt里面会需要这个文件

切换到v6.2tag:

git checkout v6.2

如下图所示:

 2.2、tensorrtx仓库:https://github.com/wang-xinyu/tensorrtx,将其下载下来

切换到yolov5-v6.2tag:

git checkout yolov5-v6.2

如下图所示:

 四、cmake编译工程

4.1、修改tensorrtx\yolov5\CMakeLists.txt里面的内容如下:

cmake_minimum_required(VERSION 2.6)project(yolov5) #1
set(OpenCV_DIR "E:\\workspace\\dll\\opencv4\\build")  #2
set(OpenCV_INCLUDE_DIRS ${OpenCV_DIR}\\include) #3
set(OpenCV_LIB_DIRS ${OpenCV_DIR}\\x64\\vc16\\lib) #4
set(OpenCV_Debug_LIBS "opencv_world454d.lib") #5
set(OpenCV_Release_LIBS "opencv_world454.lib") #6
set(TRT_DIR "E:\\workspace\\dll\\tensorrt\\TensorRT-8.2.5.1\\TensorRT-8.2.5.1")  #7
set(TRT_INCLUDE_DIRS ${TRT_DIR}\\include) #8
set(TRT_LIB_DIRS ${TRT_DIR}\\lib) #9
set(Dirent_INCLUDE_DIRS "E:\\yolov5\\dirent\\include") #10add_definitions(-std=c++11)
add_definitions(-DAPI_EXPORTS)option(CUDA_USE_STATIC_CUDA_RUNTIME OFF)
set(CMAKE_CXX_STANDARD 11)
set(CMAKE_BUILD_TYPE Debug)set(THREADS_PREFER_PTHREAD_FLAG ON)
find_package(Threads)# setup CUDA
find_package(CUDA REQUIRED)
message(STATUS "    libraries: ${CUDA_LIBRARIES}")
message(STATUS "    include path: ${CUDA_INCLUDE_DIRS}")include_directories(${CUDA_INCLUDE_DIRS})####
enable_language(CUDA)  # add this line, then no need to setup cuda path in vs
####
include_directories(${PROJECT_SOURCE_DIR}/include) #11
include_directories(${TRT_INCLUDE_DIRS}) #12
link_directories(${TRT_LIB_DIRS}) #13
include_directories(${OpenCV_INCLUDE_DIRS}) #14
link_directories(${OpenCV_LIB_DIRS}) #15
include_directories(${Dirent_INCLUDE_DIRS}) #16# -D_MWAITXINTRIN_H_INCLUDED for solving error: identifier "__builtin_ia32_mwaitx" is undefined
set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS} -std=c++11 -Wall -Ofast -D_MWAITXINTRIN_H_INCLUDED")# setup opencv
find_package(OpenCV QUIETNO_MODULENO_DEFAULT_PATHNO_CMAKE_PATHNO_CMAKE_ENVIRONMENT_PATHNO_SYSTEM_ENVIRONMENT_PATHNO_CMAKE_PACKAGE_REGISTRYNO_CMAKE_BUILDS_PATHNO_CMAKE_SYSTEM_PATHNO_CMAKE_SYSTEM_PACKAGE_REGISTRY
)message(STATUS "OpenCV library status:")
message(STATUS "    version: ${OpenCV_VERSION}")
message(STATUS "    lib path: ${OpenCV_LIB_DIRS}")
message(STATUS "    Debug libraries: ${OpenCV_Debug_LIBS}")
message(STATUS "    Release libraries: ${OpenCV_Release_LIBS}")
message(STATUS "    include path: ${OpenCV_INCLUDE_DIRS}")#add_executable(yolov5 ${PROJECT_SOURCE_DIR}/yolov5.cpp ${PROJECT_SOURCE_DIR}/common.hpp ${PROJECT_SOURCE_DIR}/yololayer.cu ${PROJECT_SOURCE_DIR}/yololayer.h)   #17add_executable(yolov5 ${PROJECT_SOURCE_DIR}/yolov5.cpp ${PROJECT_SOURCE_DIR}/yololayer.cu ${PROJECT_SOURCE_DIR}/yololayer.h ${PROJECT_SOURCE_DIR}/preprocess.cu ${PROJECT_SOURCE_DIR}/preprocess.h)   #4  ${PROJECT_SOURCE_DIR}/preprocess.cu ${PROJECT_SOURCE_DIR}/preprocess.h  这是后来加的用于解决错误2,下面也有说明target_link_libraries(yolov5 "nvinfer" "nvinfer_plugin") #18
target_link_libraries(yolov5 debug ${OpenCV_Debug_LIBS}) #19
target_link_libraries(yolov5 optimized ${OpenCV_Release_LIBS}) #20
target_link_libraries(yolov5 ${CUDA_LIBRARIES}) #21
target_link_libraries(yolov5 Threads::Threads)  

4.2、cmake运行

 选择自己的vs编译器版本和系统版本

 

 

 

 

 

 将tensorrtx\yolov5\gen_wts.py复制到https://github.com/ultralytics/yolov5训练源码文件夹下面

运行

#python gen_wts.py文件路径 -w pt权重文件路径

python gen_wts.py -w yolov5s.pt

运行结果如下:

 打开自己刚才build下面的Release文件夹,运行

需要将opencv_world454.dll放到Release文件夹下面,将wts序列化保持成tensorrt的engine格式

命令如下:

 ./yolov5.exe -s "E:\yolov5\yolov5\yolov5s.wts" yolov5s.engine s

 检测测试,说明成功了。接下来就是自己根据自己的情况进行封装程序了

 

 

 参考:

  • tensorrtx/run_on_windows.md at master · wang-xinyu/tensorrtx · GitHub
  • Tensorrtx+yolov5+windows10+vs2015+cuda11.1关键问题及步骤记录_如雾如电的博客-CSDN博客
  • windows上配置TensorRT yolov5 -6.0部署 tensorrtx视频流推理_野马AS的博客-CSDN博客
  • win10 tensorrtx yolov5使用方法_三毛的二哥的博客-CSDN博客_tensorrtx yolov5
  • win10 使用TensorRT部署 yolov5-v4.0(C++)_SongpingWang的博客-CSDN博客_yolov5 4.0
  • 【TensorRT】记一次使用C++接口TensorRT部署yolov5 v6.1模型的过程-pudn.com
  • Win10—YOLOv5实战+TensorRT部署+VS2019编译(小白教程~易懂易上手)---超详细_畅想未来2020的博客-CSDN博客_win yolo5编译
  • windows上配置TensorRT yolov5 -6.1部署 tensorrtx视频流推理-CFANZ编程社区
  • yolov5部署之七步完成tensorRT模型推理加速_Christo3的博客-CSDN博客_yolov5 tensorrt
  • YoloV5在tensorRT上加速(Windows)(C++)(webcam)_点PY的博客-CSDN博客_yolov5中webcam是什么

这篇关于window10+TensorRT-8.2.5.1+yolov5 v6.2 c++部署的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/484468

相关文章

闲置电脑也能活出第二春?鲁大师AiNAS让你动动手指就能轻松部署

对于大多数人而言,在这个“数据爆炸”的时代或多或少都遇到过存储告急的情况,这使得“存储焦虑”不再是个别现象,而将会是随着软件的不断臃肿而越来越普遍的情况。从不少手机厂商都开始将存储上限提升至1TB可以见得,我们似乎正处在互联网信息飞速增长的阶段,对于存储的需求也将会不断扩大。对于苹果用户而言,这一问题愈发严峻,毕竟512GB和1TB版本的iPhone可不是人人都消费得起的,因此成熟的外置存储方案开

【C++ Primer Plus习题】13.4

大家好,这里是国中之林! ❥前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。有兴趣的可以点点进去看看← 问题: 解答: main.cpp #include <iostream>#include "port.h"int main() {Port p1;Port p2("Abc", "Bcc", 30);std::cout <<

C++包装器

包装器 在 C++ 中,“包装器”通常指的是一种设计模式或编程技巧,用于封装其他代码或对象,使其更易于使用、管理或扩展。包装器的概念在编程中非常普遍,可以用于函数、类、库等多个方面。下面是几个常见的 “包装器” 类型: 1. 函数包装器 函数包装器用于封装一个或多个函数,使其接口更统一或更便于调用。例如,std::function 是一个通用的函数包装器,它可以存储任意可调用对象(函数、函数

C++11第三弹:lambda表达式 | 新的类功能 | 模板的可变参数

🌈个人主页: 南桥几晴秋 🌈C++专栏: 南桥谈C++ 🌈C语言专栏: C语言学习系列 🌈Linux学习专栏: 南桥谈Linux 🌈数据结构学习专栏: 数据结构杂谈 🌈数据库学习专栏: 南桥谈MySQL 🌈Qt学习专栏: 南桥谈Qt 🌈菜鸡代码练习: 练习随想记录 🌈git学习: 南桥谈Git 🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈�

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

【C++】_list常用方法解析及模拟实现

相信自己的力量,只要对自己始终保持信心,尽自己最大努力去完成任何事,就算事情最终结果是失败了,努力了也不留遗憾。💓💓💓 目录   ✨说在前面 🍋知识点一:什么是list? •🌰1.list的定义 •🌰2.list的基本特性 •🌰3.常用接口介绍 🍋知识点二:list常用接口 •🌰1.默认成员函数 🔥构造函数(⭐) 🔥析构函数 •🌰2.list对象

06 C++Lambda表达式

lambda表达式的定义 没有显式模版形参的lambda表达式 [捕获] 前属性 (形参列表) 说明符 异常 后属性 尾随类型 约束 {函数体} 有显式模版形参的lambda表达式 [捕获] <模版形参> 模版约束 前属性 (形参列表) 说明符 异常 后属性 尾随类型 约束 {函数体} 含义 捕获:包含零个或者多个捕获符的逗号分隔列表 模板形参:用于泛型lambda提供个模板形参的名

6.1.数据结构-c/c++堆详解下篇(堆排序,TopK问题)

上篇:6.1.数据结构-c/c++模拟实现堆上篇(向下,上调整算法,建堆,增删数据)-CSDN博客 本章重点 1.使用堆来完成堆排序 2.使用堆解决TopK问题 目录 一.堆排序 1.1 思路 1.2 代码 1.3 简单测试 二.TopK问题 2.1 思路(求最小): 2.2 C语言代码(手写堆) 2.3 C++代码(使用优先级队列 priority_queue)

【C++高阶】C++类型转换全攻略:深入理解并高效应用

📝个人主页🌹:Eternity._ ⏩收录专栏⏪:C++ “ 登神长阶 ” 🤡往期回顾🤡:C++ 智能指针 🌹🌹期待您的关注 🌹🌹 ❀C++的类型转换 📒1. C语言中的类型转换📚2. C++强制类型转换⛰️static_cast🌞reinterpret_cast⭐const_cast🍁dynamic_cast 📜3. C++强制类型转换的原因📝

C++——stack、queue的实现及deque的介绍

目录 1.stack与queue的实现 1.1stack的实现  1.2 queue的实现 2.重温vector、list、stack、queue的介绍 2.1 STL标准库中stack和queue的底层结构  3.deque的简单介绍 3.1为什么选择deque作为stack和queue的底层默认容器  3.2 STL中对stack与queue的模拟实现 ①stack模拟实现