深度学习基础——端云协同视觉应用部署

2024-02-21 19:44

本文主要是介绍深度学习基础——端云协同视觉应用部署,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

        随着AI技术的流行和物联网(Internet of Things,loT)设备的普及,Al技术广泛应用于移动设备。Al技术严重依赖于大数据和算力,然而移动设备端一般数据量较少且计算资源有限,因此,
Al技术在端侧的应用受到了极大限制。为了解决这一问题,“端-边-云”协同的解决方法应运而生。

端边云概念

  • “端”是终端设备,如手机、可穿戴设备、各类传感器、摄像头等
  • “边”是云计算的边缘侧,分为基础设施边缘和设备边缘,如基站、边缘智能路由器等
  • “云”是传统云计算的中心节点,是边缘计算的管控端,如云服务器集群

端边云协同思想

        利用端侧设备和边缘服务器更接近Al计算数据源的优势,降低推理时延和传输成本,同时,端侧和边缘设备可以在云上实现互联互动,这就是“端-边-云”协同的基本思想

        为解决端侧推理难的问题,如TensorFlow Lite、PyTorch Mobile、Paddle-Lite和MindSpore-Lite等端侧推理框架相继推出

端云迁移学习

        迁移学习指的是一个预训练的模型,通过特定的方式再次训练后,重新应用于另一个特定任务中,迁移学习包括增量训练、在线学习,以及加载部分权重的学习方式

端云迁移学习的工作流程:

1.根据端侧的任务选择预训练的模型,或训练新的模型。

2.云侧将模型下发到端侧。

3.端侧基于本地数据对模型进行微调。

4.端侧使用微调后的模型进行推理。

        联邦学习是一种分布式学习技术,2016年由谷歌公司率先提出,随后,杨强等人对联邦学习进行了系统地研究并提出了许多方法和对应框架。
        联邦学习通常基于联邦平均(梯度聚合)联合多个端侧设备,基于差分隐私、同态加密、安全聚合等方法实现隐私保护,并通过梯度压缩等方法提高计算通信比。
        利用联邦元学习、联邦增量训练等技术,保持端侧模型个性化。
        通过元学习、共识算法、恶意样本检测等技术,规避恶意攻击和不可控因素

这篇关于深度学习基础——端云协同视觉应用部署的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/732875

相关文章

在Ubuntu上部署SpringBoot应用的操作步骤

《在Ubuntu上部署SpringBoot应用的操作步骤》随着云计算和容器化技术的普及,Linux服务器已成为部署Web应用程序的主流平台之一,Java作为一种跨平台的编程语言,具有广泛的应用场景,本... 目录一、部署准备二、安装 Java 环境1. 安装 JDK2. 验证 Java 安装三、安装 mys

Python中构建终端应用界面利器Blessed模块的使用

《Python中构建终端应用界面利器Blessed模块的使用》Blessed库作为一个轻量级且功能强大的解决方案,开始在开发者中赢得口碑,今天,我们就一起来探索一下它是如何让终端UI开发变得轻松而高... 目录一、安装与配置:简单、快速、无障碍二、基本功能:从彩色文本到动态交互1. 显示基本内容2. 创建链

Node.js 中 http 模块的深度剖析与实战应用小结

《Node.js中http模块的深度剖析与实战应用小结》本文详细介绍了Node.js中的http模块,从创建HTTP服务器、处理请求与响应,到获取请求参数,每个环节都通过代码示例进行解析,旨在帮... 目录Node.js 中 http 模块的深度剖析与实战应用一、引言二、创建 HTTP 服务器:基石搭建(一

Jenkins中自动化部署Spring Boot项目的全过程

《Jenkins中自动化部署SpringBoot项目的全过程》:本文主要介绍如何使用Jenkins从Git仓库拉取SpringBoot项目并进行自动化部署,通过配置Jenkins任务,实现项目的... 目录准备工作启动 Jenkins配置 Jenkins创建及配置任务源码管理构建触发器构建构建后操作构建任务

java中VO PO DTO POJO BO DO对象的应用场景及使用方式

《java中VOPODTOPOJOBODO对象的应用场景及使用方式》文章介绍了Java开发中常用的几种对象类型及其应用场景,包括VO、PO、DTO、POJO、BO和DO等,并通过示例说明了它... 目录Java中VO PO DTO POJO BO DO对象的应用VO (View Object) - 视图对象

Go信号处理如何优雅地关闭你的应用

《Go信号处理如何优雅地关闭你的应用》Go中的优雅关闭机制使得在应用程序接收到终止信号时,能够进行平滑的资源清理,通过使用context来管理goroutine的生命周期,结合signal... 目录1. 什么是信号处理?2. 如何优雅地关闭 Go 应用?3. 代码实现3.1 基本的信号捕获和优雅关闭3.2

正则表达式高级应用与性能优化记录

《正则表达式高级应用与性能优化记录》本文介绍了正则表达式的高级应用和性能优化技巧,包括文本拆分、合并、XML/HTML解析、数据分析、以及性能优化方法,通过这些技巧,可以更高效地利用正则表达式进行复杂... 目录第6章:正则表达式的高级应用6.1 模式匹配与文本处理6.1.1 文本拆分6.1.2 文本合并6

python中的与时间相关的模块应用场景分析

《python中的与时间相关的模块应用场景分析》本文介绍了Python中与时间相关的几个重要模块:`time`、`datetime`、`calendar`、`timeit`、`pytz`和`dateu... 目录1. time 模块2. datetime 模块3. calendar 模块4. timeit

若依部署Nginx和Tomcat全过程

《若依部署Nginx和Tomcat全过程》文章总结了两种部署方法:Nginx部署和Tomcat部署,Nginx部署包括打包、将dist文件拉到指定目录、配置nginx.conf等步骤,Tomcat部署... 目录Nginx部署后端部署Tomcat部署出现问题:点击刷新404总结Nginx部署第一步:打包

Nginx、Tomcat等项目部署问题以及解决流程

《Nginx、Tomcat等项目部署问题以及解决流程》本文总结了项目部署中常见的four类问题及其解决方法:Nginx未按预期显示结果、端口未开启、日志分析的重要性以及开发环境与生产环境运行结果不一致... 目录前言1. Nginx部署后未按预期显示结果1.1 查看Nginx的启动情况1.2 解决启动失败的