嘉楠勘智k230开发板上手记录(五)--nncase部署yolov5s

2024-01-03 19:59

本文主要是介绍嘉楠勘智k230开发板上手记录(五)--nncase部署yolov5s,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

虽然没有找到hhb的官方示例,但是我找到了nncase的,在src/big/nncase/examples中

一、环境搭建

examples也有个readme,不过里面的环境搭建跟sdk中的有点差别,不过大差不差,docker容器已经启动了,需要在容器中安装nncase

cd /root/k230/k230_sdk-main/src/big/nncase/
pip install x86_64/*.whl
pip install nncase-kpu==2.2.0.20230728

虽然x86_64中提供的whl是2.1版本的,但是安装会自动下载2.2版本的安装

二、编译模型--CMakeList

移动到examples下

1. 生成kmodel模型
python3 ./scripts/yolov5s_onnx.py --target k230 --model models/yolov5s.onnx --dataset calibration_dataset

2. 验证生成的kmodel模型精度
export PATH=$PATH:/usr/local/lib/python3.8/dist-packages/
python3 scripts/yolov5s_onnx_simu.py  --model models/yolov5s.onnx --model_input object_detect/data/input_fp32.bin  --kmodel tmp/yolov5s_onnx/test.kmodel --kmodel_input object_detect/data/input_uint8.bin

3. 编译
./build_app.sh

 可以在k230_bin下有可执行文件

三、用Makefile

前两步跟上面一样。另外希望官方可以出个Makefile的教程,我是参考CMakeList生成的link.txt写的Makefile

3. 新建一个文件Makefile
# 项目名称
TARGET_OBJECT := object_detect.elf
TARGET_CLASSIFY := image_classify.elf# 指定交叉编译器
CC := /root/k230/k230_sdk-main/toolchain/riscv64-linux-musleabi_for_x86_64-pc-linux-gnu/bin/riscv64-unknown-linux-musl-gcc
CXX := /root/k230/k230_sdk-main/toolchain/riscv64-linux-musleabi_for_x86_64-pc-linux-gnu/bin/riscv64-unknown-linux-musl-g++# 版本
VERSION := 1.00# 源码目录
SRC_DIR_OBJECT := ./object_detect
SRC_DIR_CLASSIFY := ./image_classify# 源文件列表
SRCS_OBJECT := $(wildcard $(SRC_DIR_OBJECT)/*.c) $(wildcard $(SRC_DIR_OBJECT)/*.cpp) $(wildcard $(SRC_DIR_OBJECT)/*.cc)
SRCS_CLASSIFY := $(wildcard $(SRC_DIR_CLASSIFY)/*.c) $(wildcard $(SRC_DIR_CLASSIFY)/*.cpp) $(wildcard $(SRC_DIR_CLASSIFY)/*.cc)# 构建输出目录
BUILD_DIR_OBJECT := ./build/$(SRC_DIR_OBJECT)
BUILD_DIR_CLASSIFY := ./build/$(SRC_DIR_CLASSIFY)# 对象文件列表
OBJS_OBJECT := $(patsubst $(SRC_DIR_OBJECT)/%.c, $(BUILD_DIR_OBJECT)/%.o, $(filter %.c, $(SRCS_OBJECT))) \$(patsubst $(SRC_DIR_OBJECT)/%.cpp, $(BUILD_DIR_OBJECT)/%.o, $(filter %.cpp, $(SRCS_OBJECT))) \$(patsubst $(SRC_DIR_OBJECT)/%.cc, $(BUILD_DIR_OBJECT)/%.o, $(filter %.cc, $(SRCS_OBJECT)))OBJS_CLASSIFY := $(patsubst $(SRC_DIR_CLASSIFY)/%.c, $(BUILD_DIR_CLASSIFY)/%.o, $(filter %.c, $(SRCS_CLASSIFY))) \$(patsubst $(SRC_DIR_CLASSIFY)/%.cpp, $(BUILD_DIR_CLASSIFY)/%.o, $(filter %.cpp, $(SRCS_CLASSIFY))) \$(patsubst $(SRC_DIR_CLASSIFY)/%.cc, $(BUILD_DIR_CLASSIFY)/%.o, $(filter %.cc, $(SRCS_CLASSIFY)))# 指定头文件搜索路径 
k230_sdk := /root/k230/k230_sdk-main
# set opencv
INCLUDES := -I$(k230_sdk)/src/big/utils/lib/opencv/include/opencv4/
LIB_PATH := -L$(k230_sdk)/src/big/utils/lib/opencv/lib/ -L$(k230_sdk)/src/big/utils/lib/opencv/lib/opencv4/3rdparty
# set mmz
LIB_PATH += -L$(k230_sdk)/src/big/mpp/userapps/lib
# set nncase
INCLUDES += -I$(k230_sdk)/src/big/nncase/riscv64 -I$(k230_sdk)/src/big/nncase/riscv64/nncase/include -I$(k230_sdk)/src/big/nncase/riscv64/nncase/include/nncase/runtime
LIB_PATH += -L$(k230_sdk)/src/big/nncase/riscv64/nncase/lib/
# 源目录
INCLUDES += -I$(k230_sdk)# 指定库文件名称
LIB_NAMES  :=  -lnncase.rt_modules.k230 -lNncase.Runtime.Native -lfunctional_k230 -lsys -lopencv_imgcodecs -lopencv_imgproc -lopencv_core  -llibjpeg-turbo -llibopenjp2 -llibpng -lzlib -llibtiff -llibwebp -lcsi_cv #    -lnncase.rt_modules.k230 -lNncase.Runtime.Native -lfunctional_k230 -lsys -lopencv_imgcodecs -lopencv_imgproc -lopencv_core -llibjpeg-turbo -llibopenjp2 -llibpng -llibtiff -llibwebp -lzlib -lcsi_cv 
# 编译参数
CFLAGS := -fopenmp -march=rv64imafdcv -mabi=lp64d -mcmodel=medany  -O2 -s -T /root/k230/k230_sdk-main/src/big/nncase/examples/cmake/link.lds# 编译
all: $(BUILD_DIR_CLASSIFY)/$(TARGET_CLASSIFY)  $(BUILD_DIR_OBJECT)/$(TARGET_OBJECT)$(BUILD_DIR_OBJECT)/$(TARGET_OBJECT): $(OBJS_OBJECT) $(CXX) --static $^  $(LIB_PATH) $(LIB_NAMES) $(CFLAGS)  -o $@ $(BUILD_DIR_OBJECT)/%.o: $(SRC_DIR_OBJECT)/%.cc | create_build@echo "-------------------------------------- Compiling $< --------------------------------------"$(CXX) $(CFLAGS) -c --static $<  $(LIB_PATH) $(LIB_NAMES)  $(INCLUDES)   -o $@ $(BUILD_DIR_CLASSIFY)/$(TARGET_CLASSIFY): $(OBJS_CLASSIFY) $(CXX)  $(CFLAGS) --static $^  $(LIB_PATH) $(LIB_NAMES)  -o $@ $(BUILD_DIR_CLASSIFY)/%.o: $(SRC_DIR_CLASSIFY)/%.cc | create_build@echo "-------------------------------------- Compiling $< --------------------------------------"$(CXX) $(CFLAGS) -c --static $<  $(LIB_PATH) $(LIB_NAMES)  $(INCLUDES)   -o $@ .PHONY: clean create_build
clean:@echo "test1"rm -rf $(BUILD_DIR_OBJECT) $(BUILD_DIR_CLASSIFY)create_build:mkdir -p $(BUILD_DIR_OBJECT)mkdir -p $(BUILD_DIR_CLASSIFY)

注意 --static &< 一定要在前面,不然会出错。具体原因参考 gcc(g++)编译的顺序问题_Sunny04的博客-CSDN博客

,按照这篇博客的说法,越是底层的库,越是往后面写,例如-lopencv_imgcodecs -lopencv_imgproc,opencv_imgcodecs有调用opencv_imgproc中的函数,两个顺序乱掉就会出现undefined reference to的错误

4. 写个build_makefile_app.sh
#!/bin/bash# 将脚本中的每一行命令在执行之前打印出来
set -x# set cross build toolchain
make clean
makek230_bin=build/k230_bin
mkdir -p ${k230_bin}if [ -f build/image_classify/image_classify.elf ]; thenimage_classify=${k230_bin}/image_classifyrm -rf ${image_classify}cp -a image_classify/data/ ${image_classify}cp build/image_classify/image_classify.elf ${image_classify}cp tmp/mbv2_tflite/test.kmodel ${image_classify}
fiif [ -f build/object_detect/object_detect.elf ]; thenobject_detect=${k230_bin}/object_detectrm -rf ${object_detect}cp -a object_detect/data/ ${object_detect}rm ${object_detect}/*.bincp build/object_detect/object_detect.elf ${object_detect}cp tmp/yolov5s_onnx/test.kmodel ${object_detect}
fi
5. 运行结果

 运行build_makefile_app.sh

./build_makefile_app.sh

 会在当前目录下生成build/k230_bin文件夹

 

上传到k230的大核运行

 

这篇关于嘉楠勘智k230开发板上手记录(五)--nncase部署yolov5s的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/566877

相关文章

Java使用SLF4J记录不同级别日志的示例详解

《Java使用SLF4J记录不同级别日志的示例详解》SLF4J是一个简单的日志门面,它允许在运行时选择不同的日志实现,这篇文章主要为大家详细介绍了如何使用SLF4J记录不同级别日志,感兴趣的可以了解下... 目录一、SLF4J简介二、添加依赖三、配置Logback四、记录不同级别的日志五、总结一、SLF4J

在Spring Boot中浅尝内存泄漏的实战记录

《在SpringBoot中浅尝内存泄漏的实战记录》本文给大家分享在SpringBoot中浅尝内存泄漏的实战记录,结合实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录使用静态集合持有对象引用,阻止GC回收关键点:可执行代码:验证:1,运行程序(启动时添加JVM参数限制堆大小):2,访问 htt

MySQL 中查询 VARCHAR 类型 JSON 数据的问题记录

《MySQL中查询VARCHAR类型JSON数据的问题记录》在数据库设计中,有时我们会将JSON数据存储在VARCHAR或TEXT类型字段中,本文将详细介绍如何在MySQL中有效查询存储为V... 目录一、问题背景二、mysql jsON 函数2.1 常用 JSON 函数三、查询示例3.1 基本查询3.2

Spring Boot项目部署命令java -jar的各种参数及作用详解

《SpringBoot项目部署命令java-jar的各种参数及作用详解》:本文主要介绍SpringBoot项目部署命令java-jar的各种参数及作用的相关资料,包括设置内存大小、垃圾回收... 目录前言一、基础命令结构二、常见的 Java 命令参数1. 设置内存大小2. 配置垃圾回收器3. 配置线程栈大小

Python获取中国节假日数据记录入JSON文件

《Python获取中国节假日数据记录入JSON文件》项目系统内置的日历应用为了提升用户体验,特别设置了在调休日期显示“休”的UI图标功能,那么问题是这些调休数据从哪里来呢?我尝试一种更为智能的方法:P... 目录节假日数据获取存入jsON文件节假日数据读取封装完整代码项目系统内置的日历应用为了提升用户体验,

Spring Boot 配置文件之类型、加载顺序与最佳实践记录

《SpringBoot配置文件之类型、加载顺序与最佳实践记录》SpringBoot的配置文件是灵活且强大的工具,通过合理的配置管理,可以让应用开发和部署更加高效,无论是简单的属性配置,还是复杂... 目录Spring Boot 配置文件详解一、Spring Boot 配置文件类型1.1 applicatio

tomcat多实例部署的项目实践

《tomcat多实例部署的项目实践》Tomcat多实例是指在一台设备上运行多个Tomcat服务,这些Tomcat相互独立,本文主要介绍了tomcat多实例部署的项目实践,具有一定的参考价值,感兴趣的可... 目录1.创建项目目录,测试文China编程件2js.创建实例的安装目录3.准备实例的配置文件4.编辑实例的

MySQL INSERT语句实现当记录不存在时插入的几种方法

《MySQLINSERT语句实现当记录不存在时插入的几种方法》MySQL的INSERT语句是用于向数据库表中插入新记录的关键命令,下面:本文主要介绍MySQLINSERT语句实现当记录不存在时... 目录使用 INSERT IGNORE使用 ON DUPLICATE KEY UPDATE使用 REPLACE

SpringBoot配置Ollama实现本地部署DeepSeek

《SpringBoot配置Ollama实现本地部署DeepSeek》本文主要介绍了在本地环境中使用Ollama配置DeepSeek模型,并在IntelliJIDEA中创建一个Sprin... 目录前言详细步骤一、本地配置DeepSeek二、SpringBoot项目调用本地DeepSeek前言随着人工智能技

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步