ncnn专题
ncnn之resnet图像分类网络模型部署
文章目录 一、ONNX模型导出二、模型转换ONNX2NCNN2.1 net.param文件2.2 net.bin文件 三、ncnn模型推理四、编译与运行 一、ONNX模型导出 将 PyTorch 模型导出为 ONNX 格式，代码如下： import torchimport torchvision.models as modelsimport torch.onnx as o
ncnn之yolov5(7.0版本)目标检测pnnx部署
一、pnxx介绍与使用 pnnx安装与使用参考： https://github.com/pnnx/pnnxhttps://github.com/Tencent/ncnn/wiki/use-ncnn-with-pytorch-or-onnxhttps://github.com/Tencent/ncnn/tree/master/tools/pnnx 支持python的首选pip，否则就源码编译。
使用sherpa-ncnn进行中文语音识别（ubuntu22）
语音大模型专栏总目录 获取该开源项目的渠道，是我在b站上，看到了由csukuangfj制作的一套语音识别视频。以下地址均为csukuangfj在视频中提供，感谢分享！ 新一代Kaldi + RISC-V: VisionFive2 上的实时中英文语音识别_哔哩哔哩_bilibili 开源项目地址：GitHub - k2-fsa/sherpa-ncnn: Real-time sp
【ncnn】源码阅读理解（二）——layer层
可以参考：https://blog.csdn.net/sinat_31425585/article/details/100586033 这里是根据配置文件，创建相关的layer，就是定义相关的层，声明内存空间等。这里和darknet差别还是很大的。darknet的源码更容易阅读。ncnn做了几层封装，第一眼看到的时候，肯定是😵的。 整个流程： 第一部分 通过类的名字const char*
【ncnn】win10 vs2015编译ncnn项目
1. 编译protobuf 这是google开源的一个项目，ncnn用来序列保存网络模型的。 1.1 下载protobuf，从这个博客 1.2 编译protobuf 看网络上的文章，这里有两种方式可以编译protobuf。 采用cmake-gui采用vs2015命令行 因为编译opencv的时候用的cmake-gui，这里用vs命令行试一下。 参考：https://blog.csdn.n
【ncnn android】算法移植（十）——DBface ncnn模型输出nan/性能简单测试
问题 已经将DBface转成ncnn模型，并在c++上测试通过，但是移植到android平台之后，结果一直不对，只能一段一段的检查，发现ncnn模型输出为nan。 猜想 输入给的不对。c++上推理采用的是cv::Mat作为输入。android平台采用bitmap预处理不对，因为有image/255 - mean / stdncnn模型没有正确载入对ncnn的模型进行逐层检查版本对应不上 只能一
【ncnn android】算法移植（九）——DBface android移植
这里主要记录将DBface移植到android平台上的记录。 1. requirements 192.7142，android studio的版本ndk的版本为：19.2.5345600是不行的，21.1.6352462 2. 其他 android安装apk的时候，“安装异常” 在"project"—“android”----“Gradle Scripts”—"gradle.propert
【ncnn android】算法移植（八）——终于移植成功了DBface
1. 效果 先上效果，密集。 2.路线 pytorch2onnx解决bilinear2d上采样问题编译ncnn创建项目，导入libncnn，完善DBface的推理代码解决nms有重框的问题 3. 具体事项 图像预处理：((image / 255 - mean) / std).astype(np.float32) 项目初始调试成功的时候，结果和DBface.pytorch推理的结果有很大
【ncnn android】算法移植（七）——pytorch2onnx代码粗看
目的： 了解torch2onnx的流程了解其中的一些技术细节 1. 程序细节 get_graph 将pytorch的模型转成onnx需要的graph graph, torch_out = _trace_and_get_graph_from_model(model, args, training) trace, torch_out, inputs_states = torch.jit.g
【ncnn android】算法移植（六）——onnx2ncnn源码阅读理解/设计思路
上一篇写道：onnx2ncnn的时候，不支持sigmoid，upsample层，于是想着阅读onnx2ncnn的源码。目的： 理解ncnn中onnx2ncnn的主要流程自定义upsample层（最高要求） 1. 相关资料 Open Neural Network Exchange - ONNX ，onnx的文档https://github.com/Tencent/ncnn，注意ncnn的不同版
【ncnn android】算法移植（四）——ubuntu上搭建环境，测试
1. 安装protobuf 链接: https://blog.csdn.net/u010918487/article/details/82947157https://blog.csdn.net/kdchxue/article/details/81046192 2. 编译ncnn $ cd <ncnn-root-dir>$ mkdir -p build$ cd build# cmake
【ncnn android】算法移植（三）——vs2015调试onnx2ncnn
说明: 上一篇已经说了，编译onnx2ncnn有两种方式。两种方式都会生成onnx2ncnn.exe。如果只是要使用直接用这个exe就行了。如果需要看源码，这里用vs2015进行debug调试 1. cmake gui编译ncnn 用cmake gui才能得到vs的项目。参考:https://blog.csdn.net/u011622208/article/details/106255681
【yolox】——5分钟用ncnn测试yolox
ncnn, yolox 上一篇文章分享了yolox的原理和代码解读。这里我们用ncnn进行yolox推理测试。因为ncnn本身可以下载编译好的动态库，yolox又提供了推理脚本。所以整个过程我们可以在5分钟左右走完。 3min clone yolox …下载ncnn_ubuntu_shared, 这里我下载的是ncnn-20210720-ubuntu-1804-shared.zip在u
【cmake】——get_filename_component/add_library(ncnn SHARED IMPORTED)
cmake 1. add_library(ncnn SHARED IMPORTED) 最简单的方法是添加 include_directories(${CMAKE_SOURCE_DIR}/inc)link_directories(${CMAKE_SOURCE_DIR}/lib)add_executable(foo ${FOO_SRCS})target_link_libraries(f
tensorflow转NCNN
关于NCNN见NCNN cmake VS2017 编译 目前腾讯的NCNN没有tensorflow2ncnn的工具，目前有一种解决方案是把tensorflow的.pb模型转为coreml模型，接着转为onnx模型，最后转成NCNN。 下面提供一个tensorflow转NCNN的方法，据说在基于MobileNetV2修改的模型上测试通过，模型输出正确；我自己训练的基于ResNet结构的简单分类模
学习笔记|如何移植NCNN
在计算机视觉和深度学习领域，NCNN（Netural Network Computer Vision）是一个轻量级的神经网络计算框架，被广泛应用于各类嵌入式设备和移动平台。今天，让我们一同跟随共创社团队的步伐，揭秘他们如何进行NCNN的交叉编译，并在ELF 1开发板上演绎实践，以此验证模型推理性能。 1、从GitHub下载NCNN源码：https://github.com/Tence
人脸识别之bbox【det_10g】-ncnn(c++)
模型描述 det_10g是insightface 人脸框图和人脸关键点的分类，最终能够得到人脸框图bbox，分值还有人脸五官（眼x2、鼻子x1、嘴巴x2） 由于我这里没有采用最终结果，通过onnx转换为ncnn，所以后面的步骤结果丢弃了，具体可以看另外一篇博文：模型onnx转ncnn小记-CSDN博客 输入处理 在python的时候输入和ncnn（c++）入参还是有些区别 由于模型的
模型onnx转ncnn小记
前期准备 Netron 模型准备：onnx模型,这里使用模型face【det_10g.onnx】 大佬文档引用：手工优化ncnn模型结构 - 知乎 ncnn算子描述参考：ncnn 算子操作描述-CSDN博客 模型优化 安装 pip install onnx-simplifier 先把我要转的模型优化合并下，去除多余的op python -m onnxsim det_10g.o
关于YOLO8学习（六）安卓部署ncnn模型--图片检测
前文 关于YOLO8学习（一）环境搭建，官方检测模型部署到手机 关于YOLO8学习（二）数据集收集，处理 关于YOLO8学习（三）训练自定义的数据集 关于YOLO8学习（四）模型转换为ncnn 关于YOLO8学习（五）安卓部署ncnn模型–视频检测 简介 前文第五章，讲述了部署自定义模型后，进行安卓视频检测人脸。 本文将会讲解： （1）使用前文可以运行的demo，讲解如何使用模型对图片进
关于YOLO8学习（五）安卓部署ncnn模型--视频检测
前文 关于YOLO8学习（一）环境搭建，官方检测模型部署到手机 关于YOLO8学习（二）数据集收集，处理 关于YOLO8学习（三）训练自定义的数据集 关于YOLO8学习（四）模型转换为ncnn 简介 本文将会讲解： （1）使用前文生成的ncnn模型，部署到安卓端，并且实现视频中，人脸的检测 效果图 开发环境 win10、python 3.11、cmake、pytorch2.0.
关于YOLO8学习（四）模型转换为ncnn
前文 关于YOLO8学习（一）环境搭建，官方检测模型部署到手机 关于YOLO8学习（二）数据集收集，处理 关于YOLO8学习（三）训练自定义的数据集 简介 本文将会讲解： （1）如何通过PyCharm，进行pt模型的转换，最后输出一个适合手机端使用的模型 开发环境 win10、python 3.11、cmake、pytorch2.0.1+cu117、pycharm、ultralyti
UnityWebGL使用sherpa-ncnn实时语音识别
k2-fsa/sherpa-ncnn：在没有互联网连接的情况下使用带有 ncnn 的下一代 Kaldi 进行实时语音识别。支持iOS、Android、Raspberry Pi、VisionFive2、LicheePi4A等。 (github.com) 如果是PC端可以直接使用ssssssilver大佬的 https://github.com/ssssssilver/sherpa-ncnn-uni
【NCNN】第一讲：NCNN在CMakeLists中的配置
直接上代码 # 设置cmake版本，如果cmake版本过高，可能会出现错误cmake_minimum_required(VERSION 3.5.1)project(NCNN_test)# 设置C++编译版本set(CMAKE_CXX_STANDARD 11)# 设置程序编译出的可执行文件set(MAIN_FILE main.cpp)set(EXECUTABLE_OUTPUT_PATH
配置ncnn的项目属性表
跟配置opencv属性表-CSDN博客类似，新建一个ncnn的props，将以下内容写入即可完成配置， <?xml version="1.0" encoding="utf-8"?><Project ToolsVersion="4.0" xmlns="http://schemas.microsoft.com/developer/msbuild/2003"><ImportGroup Label="P
NCNN人脸检测和关键点检测
参考以下连接获取原始 retinaface模型： mirrors / wzj5133329 / retinaface_caffe · GitCode https://github.com/deepinsight/insightface/tree/master/RetinaFace retinaface(mxnet)的CAFFE模型 https://github.com/Charrin/Re