【嵌入式】智能系统优化：【C++】驱动的【机器学习】与【数据挖掘】技术

2024-06-08 15:52
文章标签 c++ 技术 学习 驱动 机器 智能 嵌入式 数据挖掘 系统优化

本文主要是介绍【嵌入式】智能系统优化：【C++】驱动的【机器学习】与【数据挖掘】技术，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

ecde6503e5cb4996a0ff258b3d1ffc28.png

目录

一、嵌入式系统简介

二、C++在嵌入式系统中的优势

三、机器学习在嵌入式系统中的挑战

四、C++实现机器学习模型的基本步骤

五、实例分析：使用C++在嵌入式系统中实现手写数字识别

1. 数据准备

2. 模型训练与压缩

3. 模型部署

六、优化与分析

1. 模型优化

模型量化

模型剪枝

2. 系统优化

内存管理

计算资源分配

电源管理

七、性能评估与优化策略

1. 性能评估指标

2. 性能优化策略

八、实际应用案例 -嵌入式图像分类系统

概述

步骤

1. 数据准备

2. 模型部署

3. 实时推理

九、总结与展望

63748e72dc314943857316f3b1f6a386.gif#pic_center

随着物联网（IoT）和智能设备的普及，嵌入式系统变得越来越重要。而随着人工智能（AI）和机器学习（ML）技术的发展，将这些技术应用于嵌入式系统中可以实现许多智能应用，如智能家居、自动驾驶和工业自动化等。然而，由于嵌入式系统的资源有限，将AI和ML应用到嵌入式系统中面临许多挑战。

一、嵌入式系统简介

a75256bf614b4ba68d12d5f6ad533168.png

嵌入式系统是一种专用计算机系统，通常嵌入到大型系统中，执行特定任务。典型的嵌入式系统包括微控制器（MCU）、单板计算机（SBC）和专用AI加速器。嵌入式系统的主要特点包括：

  • 资源受限：CPU、内存和存储资源较少。
  • 实时性要求：需要在严格的时间限制内完成任务。
  • 专用性强：专为特定任务或设备设计。

二、C++在嵌入式系统中的优势

C++因其高效性和面向对象的特性，在嵌入式系统中得到了广泛应用。其优势包括：

  • 高性能：C++的编译后代码执行效率高，适合资源受限的嵌入式系统。
  • 面向对象：便于代码模块化和重用。
  • 丰富的库支持：标准库和第三方库丰富，便于实现复杂功能。

三、机器学习在嵌入式系统中的挑战

将机器学习模型部署到嵌入式系统中需要克服多种挑战：

  • 模型压缩：减少模型的大小和计算复杂度。
  • 实时性：确保模型推理的实时响应。
  • 资源管理：优化内存和计算资源的使用。

四、C++实现机器学习模型的基本步骤

  1. 数据准备：获取并预处理数据。
  2. 模型训练：在PC或服务器上训练模型。
  3. 模型压缩：使用量化、剪枝等技术压缩模型。
  4. 模型部署：将模型移植到嵌入式系统中。
  5. 实时推理：在嵌入式设备上进行实时推理。

五、实例分析：使用C++在嵌入式系统中实现手写数字识别

以下实例将展示如何在嵌入式系统中使用C++和TensorFlow Lite实现手写数字识别。

c1e2a01d6f8549498683cd2f261d7e47.png

1. 数据准备

我们使用MNIST数据集进行手写数字识别。首先，需要将数据集转换为适合嵌入式系统使用的格式。

#include <fstream>
#include <vector>
#include <iostream>void read_mnist(const std::string &filename, std::vector<std::vector<uint8_t>> &images) {std::ifstream file(filename, std::ios::binary);if (file.is_open()) {int magic_number = 0;int number_of_images = 0;int rows = 0;int cols = 0;file.read((char*)&magic_number, sizeof(magic_number));magic_number = __builtin_bswap32(magic_number);file.read((char*)&number_of_images, sizeof(number_of_images));number_of_images = __builtin_bswap32(number_of_images);file.read((char*)&rows, sizeof(rows));rows = __builtin_bswap32(rows);file.read((char*)&cols, sizeof(cols));cols = __builtin_bswap32(cols);for (int i = 0; i < number_of_images; ++i) {std::vector<uint8_t> image(rows * cols);file.read((char*)image.data(), rows * cols);images.push_back(image);}}
}

2. 模型训练与压缩

在PC上使用Python和TensorFlow训练一个简单的卷积神经网络（CNN）模型，并将其转换为适合嵌入式系统的格式。

import tensorflow as tf
from tensorflow.keras.datasets import mnist
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Conv2D, Flatten
import numpy as np# 加载数据集
(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train, x_test = x_train / 255.0, x_test / 255.0# 构建模型
model = Sequential([Conv2D(32, kernel_size=(3, 3), activation='relu', input_shape=(28, 28, 1)),Flatten(),Dense(128, activation='relu'),Dense(10, activation='softmax')
])# 编译和训练模型
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
model.fit(x_train, y_train, epochs=5)# 模型量化
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
tflite_model = converter.convert()# 保存模型
with open('model.tflite', 'wb') as f:f.write(tflite_model)

3. 模型部署

使用TensorFlow Lite将模型部署到嵌入式系统中，并进行推理。

#include "tensorflow/lite/c/common.h"
#include "tensorflow/lite/kernels/register.h"
#include "tensorflow/lite/model.h"
#include "tensorflow/lite/interpreter.h"
#include "tensorflow/lite/kernels/register.h"
#include "tensorflow/lite/kernels/register_ref.h"
#include <vector>
#include <iostream>void run_inference(const std::vector<uint8_t> &input_image) {// 加载模型const char* model_path = "model.tflite";auto model = tflite::FlatBufferModel::BuildFromFile(model_path);tflite::ops::builtin::BuiltinOpResolver resolver;std::unique_ptr<tflite::Interpreter> interpreter;tflite::InterpreterBuilder(*model, resolver)(&interpreter);// 分配张量interpreter->AllocateTensors();int input = interpreter->inputs()[0];uint8_t* input_data = interpreter->typed_tensor<uint8_t>(input);// 将图像数据复制到输入张量std::copy(input_image.begin(), input_image.end(), input_data);// 运行推理interpreter->Invoke();// 获取输出int output = interpreter->outputs()[0];float* output_data = interpreter->typed_tensor<float>(output);// 打印结果for (int i = 0; i < 10; ++i) {std::cout << "Probability of " << i << ": " << output_data[i] << std::endl;}
}

六、优化与分析

在实际应用中，我们需要不断优化模型和系统，以满足嵌入式设备的资源限制和性能需求。以下是一些常见的优化策略和分析方法。

1. 模型优化

模型优化可以通过多种方式进行，包括量化、剪枝和知识蒸馏。

模型量化

模型量化可以显著减少模型的大小和计算量，提高推理速度。

# 模型量化
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
quantized_model = converter.convert()# 保存量化后的模型
with open('quantized_model.tflite', 'wb') as f:f.write(quantized_model)

模型剪枝

模型剪枝可以通过删除不重要的权重来减少模型的大小。

import tensorflow_model_optimization as tfmot# 定义剪枝参数
pruning_params = {'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay(initial_sparsity=0.50,final_sparsity=0.90,begin_step=0,end_step=1000)
}# 使用剪枝API
model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude(model, **pruning_params)# 编译模型
model_for_pruning.compile(optimizer='adam',loss='sparse_categorical_crossentropy',metrics=['accuracy'])# 训练模型
model_for_pruning.fit(x_train, y_train, epochs=2, validation_data=(x_test, y_test))# 删除剪枝标记并保存模型
model_for_export = tfmot.sparsity.keras.strip_pruning(model_for_pruning)
model_for_export.save('pruned_model.h5')

2. 系统优化

在嵌入式系统中，除了优化模型外，还需要优化系统的各个方面，包括内存管理、计算资源分配和电源管理。

内存管理

在嵌入式系统中，内存资源通常非常有限，因此高效的内存管理是至关重要的。

// 示例代码：高效内存管理
#include <vector>
#include <iostream>// 使用内存池管理动态内存分配
class MemoryPool {
public:MemoryPool(size_t size) : size_(size), memory_(new char[size]), offset_(0) {}~MemoryPool() {delete[] memory_;}void* allocate(size_t size) {if (offset_ + size > size_) {throw std::bad_alloc();}void* ptr = memory_ + offset_;offset_ += size;return ptr;}void deallocate(void* ptr, size_t size) {// 简单实现，不做实际操作}private:size_t size_;char* memory_;size_t offset_;
};// 示例使用
int main() {MemoryPool pool(1024);int* a = static_cast<int*>(pool.allocate(sizeof(int) * 10));for (int i = 0; i < 10; ++i) {a[i] = i;std::cout << a[i] << " ";}std::cout << std::endl;pool.deallocate(a, sizeof(int) * 10);return 0;
}

计算资源分配

在多核嵌入式系统中，可以使用并行计算来提高模型推理的速度。

// 示例代码：多线程并行计算
#include <thread>
#include <vector>
#include <iostream>void process_data(int id, const std::vector<int>& data) {for (auto val : data) {std::cout << "Thread " << id << ": " << val << std::endl;}
}int main() {std::vector<int> data = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10};std::thread t1(process_data, 1, std::ref(data));std::thread t2(process_data, 2, std::ref(data));t1.join();t2.join();return 0;
}

电源管理

在电池供电的嵌入式系统中，电源管理至关重要。可以通过动态电压和频率调节（DVFS）来降低功耗。

// 示例代码：电源管理（伪代码）
#include <iostream>void adjust_frequency(int level) {// 根据需要调整CPU频率std::cout << "Adjusting CPU frequency to level: " << level << std::endl;
}int main() {int workload = 50; // 示例工作负载if (workload < 20) {adjust_frequency(1); // 低频率} else if (workload < 70) {adjust_frequency(2); // 中等频率} else {adjust_frequency(3); // 高频率}return 0;
}

七、性能评估与优化策略

评估和优化模型在嵌入式系统上的性能是确保系统能够满足实际应用需求的重要步骤。

1. 性能评估指标

  • 推理时间：模型从输入到输出的时间。
  • 内存使用：模型运行时的内存占用。
  • 能耗：模型运行时的功耗。

2. 性能优化策略

  • 使用硬件加速：利用硬件平台的AI加速器。
  • 优化编译器：使用针对特定硬件优化的编译器和库，如TensorFlow Lite Micro。
  • 并行处理：在多核系统中使用并行计算提高推理速度。

八、实际应用案例 -嵌入式图像分类系统

4df95d93e16647e78fff05e95b201ece.png

构建一个嵌入式图像分类系统，使用Raspberry Pi和TensorFlow Lite进行实时图像分类。

概述

在本案例中，我们将使用Raspberry Pi和TensorFlow Lite部署一个手写数字识别模型。本文将详细展示如何在嵌入式系统中实现图像分类的每一步，包括数据准备、模型部署和实时推理。

步骤

  1. 数据准备：获取MNIST数据集并转换为适合嵌入式系统使用的格式。
  2. 模型训练与量化：使用预训练的TensorFlow Lite模型。
  3. 模型部署：将模型部署到Raspberry Pi上。
  4. 实时推理：在Raspberry Pi上进行实时图像分类。

1. 数据准备

在C++中读取MNIST数据集，并将其格式化为适合模型输入的形式。

#include <iostream>
#include <fstream>
#include <vector>void read_mnist(const std::string &filename, std::vector<std::vector<uint8_t>> &images) {std::ifstream file(filename, std::ios::binary);if (file.is_open()) {int magic_number = 0;int number_of_images = 0;int rows = 0;int cols = 0;file.read((char*)&magic_number, sizeof(magic_number));magic_number = __builtin_bswap32(magic_number);file.read((char*)&number_of_images, sizeof(number_of_images));number_of_images = __builtin_bswap32(number_of_images);file.read((char*)&rows, sizeof(rows));rows = __builtin_bswap32(rows);file.read((char*)&cols, sizeof(cols));cols = __builtin_bswap32(cols);for (int i = 0; i < number_of_images; ++i) {std::vector<uint8_t> image(rows * cols);file.read((char*)image.data(), rows * cols);images.push_back(image);}}
}int main() {std::vector<std::vector<uint8_t>> images;read_mnist("train-images-idx3-ubyte", images);std::cout << "Read " << images.size() << " images." << std::endl;return 0;
}

2. 模型部署

使用TensorFlow Lite的C++ API将量化后的模型部署到Raspberry Pi上。

#include "tensorflow/lite/c/common.h"
#include "tensorflow/lite/kernels/register.h"
#include "tensorflow/lite/model.h"
#include "tensorflow/lite/interpreter.h"
#include <vector>
#include <iostream>
#include <memory>void run_inference(const std::vector<uint8_t> &input_image) {// 加载模型const char* model_path = "model.tflite";auto model = tflite::FlatBufferModel::BuildFromFile(model_path);tflite::ops::builtin::BuiltinOpResolver resolver;std::unique_ptr<tflite::Interpreter> interpreter;tflite::InterpreterBuilder(*model, resolver)(&interpreter);// 分配张量interpreter->AllocateTensors();int input = interpreter->inputs()[0];uint8_t* input_data = interpreter->typed_tensor<uint8_t>(input);// 将图像数据复制到输入张量std::copy(input_image.begin(), input_image.end(), input_data);// 运行推理interpreter->Invoke();// 获取输出int output = interpreter->outputs()[0];float* output_data = interpreter->typed_tensor<float>(output);// 打印结果for (int i = 0; i < 10; ++i) {std::cout << "Probability of " << i << ": " << output_data[i] << std::endl;}
}int main() {std::vector<uint8_t> image_data(28 * 28); // 假设我们有一个28x28的灰度图像数据// 在此处加载图像数据run_inference(image_data);return 0;
}

 

3. 实时推理

在Raspberry Pi上进行实时推理，需要处理实时获取的图像数据并进行推理。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <vector>
#include "tensorflow/lite/interpreter.h"
#include "tensorflow/lite/kernels/register.h"
#include "tensorflow/lite/model.h"void preprocess_image(const cv::Mat &image, std::vector<uint8_t> &output_image) {cv::Mat resized_image;cv::resize(image, resized_image, cv::Size(28, 28));cv::cvtColor(resized_image, resized_image, cv::COLOR_BGR2GRAY);output_image.assign(resized_image.data, resized_image.data + resized_image.total());
}void classify_image(const std::vector<uint8_t> &image_data) {const char* model_path = "model.tflite";auto model = tflite::FlatBufferModel::BuildFromFile(model_path);tflite::ops::builtin::BuiltinOpResolver resolver;std::unique_ptr<tflite::Interpreter> interpreter;tflite::InterpreterBuilder(*model, resolver)(&interpreter);interpreter->AllocateTensors();int input_index = interpreter->inputs()[0];uint8_t* input_data = interpreter->typed_tensor<uint8_t>(input_index);std::copy(image_data.begin(), image_data.end(), input_data);interpreter->Invoke();int output_index = interpreter->outputs()[0];float* output_data = interpreter->typed_tensor<float>(output_index);for (int i = 0; i < 10; ++i) {std::cout << "Class " << i << ": " << output_data[i] << std::endl;}
}int main() {cv::VideoCapture cap(0);if (!cap.isOpened()) {std::cerr << "Error opening video stream" << std::endl;return -1;}while (true) {cv::Mat frame;cap >> frame;if (frame.empty()) {break;}std::vector<uint8_t> image_data;preprocess_image(frame, image_data);classify_image(image_data);cv::imshow("Frame", frame);if (cv::waitKey(10) == 27) {break;}}cap.release();cv::destroyAllWindows();return 0;
}

九、总结与展望

在嵌入式系统中使用C++进行机器学习和数据挖掘，包括数据准备、模型训练与压缩、模型部署以及实时推理。未来，随着硬件和算法的不断进步，嵌入式机器学习将会有更加广阔的应用前景，推动物联网、智能制造和智能家居等领域的创新发展。

d6f8de9bc53d443f9b9584c9760c1871.png

 

 

这篇关于【嵌入式】智能系统优化：【C++】驱动的【机器学习】与【数据挖掘】技术的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1042634。

相关文章

HarmonyOS学习(七)——UI（五）常用布局总结

HarmonyOS学习(七)——UI（五）常用布局总结

自适应布局 1.1、线性布局（LinearLayout） 通过线性容器Row和Column实现线性布局。Column容器内的子组件按照垂直方向排列，Row组件中的子组件按照水平方向排列。 属性说明space通过space参数设置主轴上子组件的间距，达到各子组件在排列上的等间距效果alignItems设置子组件在交叉轴上的对齐方式，且在各类尺寸屏幕上表现一致，其中交叉轴为垂直时，取值为Vert
阅读更多...
Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya（不是本人，claude AI）在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容： 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用
阅读更多...
【前端学习】AntV G6-08 深入图形与图形分组、自定义节点、节点动画（下）

【前端学习】AntV G6-08 深入图形与图形分组、自定义节点、节点动画（下）

【课程链接】 AntV G6：深入图形与图形分组、自定义节点、节点动画（下）_哔哩哔哩_bilibili 本章十吾老师讲解了一个复杂的自定义节点中，应该怎样去计算和绘制图形，如何给一个图形制作不间断的动画，以及在鼠标事件之后产生动画。（有点难，需要好好理解） <!DOCTYPE html><html><head><meta charset="UTF-8"><title>06
阅读更多...
学习hash总结

学习hash总结

2014/1/29/   最近刚开始学hash，名字很陌生，但是hash的思想却很熟悉，以前早就做过此类的题，但是不知道这就是hash思想而已，说白了hash就是一个映射，往往灵活利用数组的下标来实现算法，hash的作用：1、判重；2、统计次数；
阅读更多...
【C++ Primer Plus习题】13.4

【C++ Primer Plus习题】13.4

大家好,这里是国中之林! ❥前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站。有兴趣的可以点点进去看看← 问题: 解答: main.cpp #include <iostream>#include "port.h"int main() {Port p1;Port p2("Abc", "Bcc", 30);std::cout <<
阅读更多...
C++包装器

C++包装器

包装器 在 C++ 中，“包装器”通常指的是一种设计模式或编程技巧，用于封装其他代码或对象，使其更易于使用、管理或扩展。包装器的概念在编程中非常普遍，可以用于函数、类、库等多个方面。下面是几个常见的 “包装器” 类型： 1. 函数包装器 函数包装器用于封装一个或多个函数，使其接口更统一或更便于调用。例如，std::function 是一个通用的函数包装器，它可以存储任意可调用对象（函数、函数
阅读更多...
嵌入式QT开发：构建高效智能的嵌入式系统

嵌入式QT开发：构建高效智能的嵌入式系统

摘要： 本文深入探讨了嵌入式 QT 相关的各个方面。从 QT 框架的基础架构和核心概念出发，详细阐述了其在嵌入式环境中的优势与特点。文中分析了嵌入式 QT 的开发环境搭建过程，包括交叉编译工具链的配置等关键步骤。进一步探讨了嵌入式 QT 的界面设计与开发，涵盖了从基本控件的使用到复杂界面布局的构建。同时也深入研究了信号与槽机制在嵌入式系统中的应用，以及嵌入式 QT 与硬件设备的交互，包括输入输出设
阅读更多...
C++11第三弹：lambda表达式 | 新的类功能 | 模板的可变参数

C++11第三弹：lambda表达式 | 新的类功能 | 模板的可变参数

🌈个人主页： 南桥几晴秋 🌈C++专栏： 南桥谈C++ 🌈C语言专栏： C语言学习系列 🌈Linux学习专栏： 南桥谈Linux 🌈数据结构学习专栏： 数据结构杂谈 🌈数据库学习专栏： 南桥谈MySQL 🌈Qt学习专栏： 南桥谈Qt 🌈菜鸡代码练习： 练习随想记录 🌈git学习： 南桥谈Git 🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈🌈�
阅读更多...
【专题】2024飞行汽车技术全景报告合集PDF分享（附原数据表）

【专题】2024飞行汽车技术全景报告合集PDF分享（附原数据表）

原文链接： https://tecdat.cn/?p=37628 6月16日，小鹏汇天旅航者X2在北京大兴国际机场临空经济区完成首飞，这也是小鹏汇天的产品在京津冀地区进行的首次飞行。小鹏汇天方面还表示，公司准备量产，并计划今年四季度开启预售小鹏汇天分体式飞行汽车，探索分体式飞行汽车城际通勤。阅读原文，获取专题报告合集全文，解锁文末271份飞行汽车相关行业研究报告。 据悉，业内人士对飞行汽车行业
阅读更多...
【C++】_list常用方法解析及模拟实现

【C++】_list常用方法解析及模拟实现

相信自己的力量，只要对自己始终保持信心，尽自己最大努力去完成任何事，就算事情最终结果是失败了，努力了也不留遗憾。💓💓💓 目录   ✨说在前面 🍋知识点一：什么是list？ •🌰1.list的定义 •🌰2.list的基本特性 •🌰3.常用接口介绍 🍋知识点二：list常用接口 •🌰1.默认成员函数 🔥构造函数（⭐） 🔥析构函数 •🌰2.list对象
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2