NVIDIA DeepStream SDK 说明及链接

2024-06-14 05:52

本文主要是介绍NVIDIA DeepStream SDK 说明及链接,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

NVIDIA DeepStream SDK

DeepStream 的多平台支持为您提供了一种更快、更简单的方式来开发视觉AI应用程序和服务。您甚至可以在本地、边缘和云中部署它们,只需单击一个按钮。

开始   在Launchpad上试用


什么是 NVIDIA DeepStream?

NVIDIA 的 DeepStream SDK 是一个基于 GStreamer 的完整流分析工具包,用于基于 AI 的多传感器处理、视频、音频和图像理解。它非常适合视觉 AI 开发人员、软件合作伙伴、初创公司和OEM构建 IVA 应用程序和服务。

您现在可以创建流处理管道,其中包含神经网络和其他复杂的处理任务,如跟踪、视频编码/解码和视频渲染。这些管道可以对视频、图像和传感器数据进行实时分析。

DeepStream 是 NVIDIA Metropolis, 不可或缺的一部分,该平台用于构建端到端服务和解决方案,将像素和传感器数据转化为可操作的见解。

福利

强大灵活的SDK

DeepStream SDK非常适合广泛行业的各种用例。

多种编程选项

使用C/C++、Python或Graph Composer简单直观的UI创建强大的视觉AI应用程序。

实时洞察

了解边缘丰富的多模态实时传感器数据。

托管人工智能服务

在云原生容器中部署AI服务,并使用库伯内特斯编排它们。

TCO降低

通过使用TAO工具包训练、调整和优化模型以及使用DeepStream部署模型来提高流密度。


独特能力

享受从边缘到云的无缝发展

DeepStream为您提供了一种更快、更简单的方式来构建基于AI的视频、音频和图像分析的无缝流媒体管道。它附带40多个hardware-accelerated插件和扩展,以优化前/后处理、推理、多目标跟踪、消息代理等。此外,它还提供了一些世界上性能最好的实时多对象跟踪器。

使用DeepStream的现成容器轻松构建云原生应用程序,这些应用程序可以部署在公共和私有云、由NVIDIA GPU驱动的工作站或NVIDIA Jetson上。其“一次开发,随处部署”方法简化了代码管理并提供了极大的可扩展性。DeepStream Container Builder工具还可以更轻松地使用NVIDIA NGC容器构建高性能、云原生AI应用程序,这些容器可以轻松大规模部署,并使用库伯内特斯和Helm Charts进行管理。

DeepStream REST-API可让您在运行时管理多个参数,简化SaaS解决方案的创建。使用标准REST-API接口,您可以构建用于控制和配置的Web门户,或集成到您现有的应用程序中。

了解更多

构建端到端AI解决方案

通过使用NVIDIA Metcity is构建端到端视觉AI系统,加快整体开发工作并解锁更高的实时性能。从生产质量的视觉AI模型开始,使用TAO Toolkit对其进行调整和优化,并使用DeepStream进行部署。

获得令人难以置信的灵活性——从快速原型设计到完整的生产级解决方案——并选择您的推理路径。通过原生集成到NVIDIA Triton™推理服务r,您可以在PyTorch和TensorFlow等原生框架中部署模型进行推理。使用NVIDIA TensorRT™用于高吞吐量推理,具有多GPU、多流和批处理支持选项,也有助于您实现最佳性能。

PipeTuner 1.0是一种新的开发人员工具,现在可以轻松调整广泛的参数,以优化AI管道以进行推理和跟踪

了解更多

加速视觉AI开发

DeepStream SDK捆绑了30多个示例应用程序,旨在帮助您启动开发工作。大多数示例提供C/C++、Python和Graph Composer版本,并在NVIDIA Jetson和dGPU平台上运行。通过支持Windows Subsystem forLinux(WSL2),您现在可以在Windows环境中进行开发,而无需访问远程Linux系统。

DeepStream Service Maker通过抽象GStreamer的复杂性来简化开发过程,从而轻松构建C++面向对象的应用程序。使用Service Maker只需几行代码即可构建完整的DeepStream管道

DeepStream库由CV-CUDA、NvImageCodec和PyNvVideoCodec提供支持,提供低级GPU加速操作,以优化视觉AI管道的前期和后期阶段。

Graph Composer为DeepStream开发人员提供强大的低代码开发选项,以创建复杂的管道并使用Container Builder快速部署它们。

了解更多

创建下一代人工智能应用程序

严格的调度控制、自定义调度器和高效的资源管理对于与机械臂和自动化质量控制线等确定性系统集成至关重要。

随着图形执行格式(GXF)的引入,与DeepStream管道处理的视觉流传感器相比,可以轻松地与运行在不同时域的控制信号集成。

新的参考应用程序可帮助您快速启动生成式AI应用程序的开发。对传感器融合的新支持BEVFusion增加了激光雷达和雷达输入,可以与相机输入融合,为开发人员带来了一系列新的用例。

了解更多

为Vision AI提供生产就绪的解决方案

DeepStream是英伟达人工智能企业的一部分,英伟达人工智能企业是一个端到端、安全、云原生的人工智能软件平台,经过优化,可将企业加速到人工智能的前沿。
英伟达人工智能企业为英伟达人工智能开源软件提供验证和集成,访问人工智能解决方案工作流程以加快生产时间,在任何地方部署人工智能的认证,以及企业级支持、安全性和应用编程接口稳定性,以降低开源软件的潜在风险。

了解更多


探索多种编程选项

C/C++

用C/C++创建应用程序,直接与GStreamer和DeepStream插件交互,并使用参考应用程序和模板。

了解更多关于C/C++

蟒蛇

DeepStream管道可以使用Gst Python构建,GStreamer框架的Python绑定。绑定和Python示例应用程序的源代码可在GitHub上获得。

了解有关Python的更多信息

Graph Composer

Graph Composer是一个低代码开发工具,增强了DeepStream用户体验。使用简单、直观的UI,处理管道通过拖放操作构建。

了解更多关于Graph Composer

提高准确性和实时性能

Jetson Orin NanoJetson Orin NXJetson Orin AGX™T4A2A10A30A100H100L40L4Quadro(A6000)A4000L4000ARM SBSA
应用型号跟踪器推断分辨率精密GPUGPUDLA1DLA2GPUDLA1DLA2GPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPU
人检测PeopleNet-ResNet34(v2.3.3)无跟踪器960x544INT8256372175175970329329912610
773181961964292951009122920402936187070113017466233613
PeopleNet-ResNet34(v2.3.3)NvDCF(性能)960x544INT82153151701706253103108665682063280642506103427815632855127714135788
车牌识别TrafficCamNet
LPDNet
LPRNet
NvDCF960x544
640x480
96x48
INT8
INT8
FP16
120180--370--382253107113272150280122807411404788670N/A
3D人体姿态估计PeopleNet-ResNet34 BodyPose3DNvDCF960x544
192x256
INT8
FP16
28-40--76--10167160128151255226200235148104313
动作识别ActionRecognitionNet(3DConv)无跟踪器224x224x3x32FP163451--147--173744505529961270<--atag--37/>8703136383193001910

RTX GPU性能仅针对旗舰产品进行报告。所有SKU都支持DeepStream。

DeepStream SDK可让您将AI应用于流式视频,同时优化视频解码/编码、图像缩放以及转换和边缘到云的连接,以实现完整的端到端性能优化。

要了解有关使用DeepStream的性能的更多信息,请查看留档。

阅读客户故事

优化班加罗尔机场的运营

Industry.AI使用包括DeepStream在内的英伟达大都会堆栈来提高机场的安全性和效率。使用视觉人工智能,它能够跟踪被遗弃的行李,标记长长的乘客队列,并提醒安全团队注意潜在问题。

阅读博客

加强配送中心运营

KoiReader使用包含DeepStream SDK的NVIDIA开发人员工具开发了一种人工智能驱动的机器视觉解决方案,以帮助百事可乐在动态分销环境中实现精度和效率。

了解更多关于KoiReader

扩展人工智能驱动的智能空间

FYMA使用NVIDIA DeepStream和NVIDIA Triton™来改进人工智能驱动的空间分析,帧速率超过以前的基准10倍,准确度提高3倍。

了解更多

一般常见问题

DeepStream是开源的吗?

DeepStream是一个闭源SDK。请注意,所有参考应用程序的源代码和几个插件都可用。

可以使用DeepStream SDK部署哪些应用程序?

DeepStream SDK可用于构建端到端人工智能驱动的应用程序来分析视频和传感器数据。一些流行的用例是零售分析、停车管理、管理物流、光学检测、机器人和运动分析。

哪些平台和操作系统与DeepStream兼容?

请参阅平台和操作系统兼容性表。

我可以使用DeepStream在TensorFlow或PyTorch中本地运行我的模型吗?

是的,现在通过集成Triton推理服务器,这是可能的。还有DeepStream6.1.1,应用程序可以使用gPRC与Triton推理服务器的独立/远程实例进行通信。

如何使用DeepStream从TAO Toolkit部署模型?

DeepStream支持开箱即用的几种流行网络。例如,DeepStream支持MaskRCNN。此外,DeepStream还附带了一个示例来运行流行的活在当下的模型,FasterRCNN、SSD和RetinaNet。

NVIDIA Ampere架构GPU是否支持DeepStream?

是的,DS 6.0或更高版本支持安培架构

DeepStream SDK是否支持音频分析?

是的,DeepStream SDK6.1.1支持音频。要开始使用,请下载软件并查看参考音频和自动语音识别(ASR)应用程序。阅读ASR DeepStream插件了解更多信息

这篇关于NVIDIA DeepStream SDK 说明及链接的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1059563

相关文章

Linux中shell解析脚本的通配符、元字符、转义符说明

《Linux中shell解析脚本的通配符、元字符、转义符说明》:本文主要介绍shell通配符、元字符、转义符以及shell解析脚本的过程,通配符用于路径扩展,元字符用于多命令分割,转义符用于将特殊... 目录一、linux shell通配符(wildcard)二、shell元字符(特殊字符 Meta)三、s

java脚本使用不同版本jdk的说明介绍

《java脚本使用不同版本jdk的说明介绍》本文介绍了在Java中执行JavaScript脚本的几种方式,包括使用ScriptEngine、Nashorn和GraalVM,ScriptEngine适用... 目录Java脚本使用不同版本jdk的说明1.使用ScriptEngine执行javascript2.

Redis分布式锁使用及说明

《Redis分布式锁使用及说明》本文总结了Redis和Zookeeper在高可用性和高一致性场景下的应用,并详细介绍了Redis的分布式锁实现方式,包括使用Lua脚本和续期机制,最后,提到了RedLo... 目录Redis分布式锁加锁方式怎么会解错锁?举个小案例吧解锁方式续期总结Redis分布式锁如果追求

结构体和联合体的区别及说明

《结构体和联合体的区别及说明》文章主要介绍了C语言中的结构体和联合体,结构体是一种自定义的复合数据类型,可以包含多个成员,每个成员可以是不同的数据类型,联合体是一种特殊的数据结构,可以在内存中共享同一... 目录结构体和联合体的区别1. 结构体(Struct)2. 联合体(Union)3. 联合体与结构体的

关于SpringBoot的spring.factories文件详细说明

《关于SpringBoot的spring.factories文件详细说明》spring.factories文件是SpringBoot自动配置机制的核心部分之一,它位于每个SpringBoot自动配置模... 目录前言一、基本结构二、常见的键EnableAutoConfigurationAutoConfigu

Zookeeper安装和配置说明

一、Zookeeper的搭建方式 Zookeeper安装方式有三种,单机模式和集群模式以及伪集群模式。 ■ 单机模式:Zookeeper只运行在一台服务器上,适合测试环境; ■ 伪集群模式:就是在一台物理机上运行多个Zookeeper 实例; ■ 集群模式:Zookeeper运行于一个集群上,适合生产环境,这个计算机集群被称为一个“集合体”(ensemble) Zookeeper通过复制来实现

安卓链接正常显示,ios#符被转义%23导致链接访问404

原因分析: url中含有特殊字符 中文未编码 都有可能导致URL转换失败,所以需要对url编码处理  如下: guard let allowUrl = webUrl.addingPercentEncoding(withAllowedCharacters: .urlQueryAllowed) else {return} 后面发现当url中有#号时,会被误伤转义为%23,导致链接无法访问

git使用的说明总结

Git使用说明 下载安装(下载地址) macOS: Git - Downloading macOS Windows: Git - Downloading Windows Linux/Unix: Git (git-scm.com) 创建新仓库 本地创建新仓库:创建新文件夹,进入文件夹目录,执行指令 git init ,用以创建新的git 克隆仓库 执行指令用以创建一个本地仓库的

log4j2相关配置说明以及${sys:catalina.home}应用

${sys:catalina.home} 等价于 System.getProperty("catalina.home") 就是Tomcat的根目录:  C:\apache-tomcat-7.0.77 <PatternLayout pattern="%d{yyyy-MM-dd HH:mm:ss} [%t] %-5p %c{1}:%L - %msg%n" /> 2017-08-10

android应用中res目录说明

Android应用的res目录是一个特殊的项目,该项目里存放了Android应用所用的全部资源,包括图片、字符串、颜色、尺寸、样式等,类似于web开发中的public目录,js、css、image、style。。。。 Android按照约定,将不同的资源放在不同的文件夹中,这样可以方便的让AAPT(即Android Asset Packaging Tool , 在SDK的build-tools目