Neural Compute Stick 2性能测试

2023-10-22 00:09

本文主要是介绍Neural Compute Stick 2性能测试,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

简介

对二代计算棒,官方宣布其性能是一代的8倍
计算棒图片

测试结果

测试代码使用的是官方提供的benchmark_app
Count:执行的次数
Duration:执行Count总共使用的时间
Latency:从该次数据输入到得到该结果的时间
Throughput:就是在同步,或者异步条件下所能达到的实际速度。
inference requests: 我目前认为是计算棒能加载几个网络模型,二代是能加载4个的。测试时有意进行了限制为2的测试,方便和一代对比。

USB2.0
Full device name: Intel Movidius Myriad 2 VPU
[Step 10/11] Measuring performance (Start inference asyncronously, 2 inference requests, limits: 1000 iterations)
Count:      1000 iterations
Duration:   25783.63 ms
Latency:    51.54 ms
Throughput: 38.78 FPS[Step 10/11] Measuring performance (Start inference syncronously, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   30224.62 ms
Latency:    30.22 ms
Throughput: 33.09 FPSFull device name: Intel Movidius Myriad X VPU
[Step 10/11] Measuring performance (Start inference asyncronously, 2 inference requests, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   6170.91 ms
Latency:    12.31 ms
Throughput: 162.05 FPS
[Step 10/11] Measuring performance (Start inference asyncronously, 4 inference requests, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   5580.84 ms
Latency:    22.27 ms
Throughput: 179.18 FPS[Step 10/11] Measuring performance (Start inference syncronously, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   11834.24 ms
Latency:    11.83 ms
Throughput: 84.51 FPSUSB3.0
Full device name: Intel Movidius Myriad 2 VPU
[Step 10/11] Measuring performance (Start inference asyncronously, 2 inference requests, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   25867.01 ms
Latency:    51.71 ms
Throughput: 38.66 FPS[Step 10/11] Measuring performance (Start inference syncronously, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   27204.58 ms
Latency:    27.20 ms
Throughput: 36.77 FPSFull device name: Intel Movidius Myriad X VPU
[Step 10/11] Measuring performance (Start inference asyncronously, 2 inference requests, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   4098.44 ms
Latency:    8.19 ms
Throughput: 244.00 FPS[Step 10/11] Measuring performance (Start inference asyncronously, 4 inference requests, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   3483.48 ms
Latency:    13.91 ms
Throughput: 287.07 FPS[Step 10/11] Measuring performance (Start inference syncronously, limits: 1000 iterations)[Step 11/11] Dumping statistics report
Count:      1000 iterations
Duration:   7649.50 ms
Latency:    7.63 ms
Throughput: 130.99 FPS

结论

在USB3.0条件下,二代计算棒大约是一代的7.5倍速度。和官宣相差不多。

这篇关于Neural Compute Stick 2性能测试的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/257817

相关文章

Vue3 的 shallowRef 和 shallowReactive:优化性能

大家对 Vue3 的 ref 和 reactive 都很熟悉,那么对 shallowRef 和 shallowReactive 是否了解呢? 在编程和数据结构中,“shallow”(浅层)通常指对数据结构的最外层进行操作,而不递归地处理其内部或嵌套的数据。这种处理方式关注的是数据结构的第一层属性或元素,而忽略更深层次的嵌套内容。 1. 浅层与深层的对比 1.1 浅层(Shallow) 定义

性能测试介绍

性能测试是一种测试方法,旨在评估系统、应用程序或组件在现实场景中的性能表现和可靠性。它通常用于衡量系统在不同负载条件下的响应时间、吞吐量、资源利用率、稳定性和可扩展性等关键指标。 为什么要进行性能测试 通过性能测试,可以确定系统是否能够满足预期的性能要求,找出性能瓶颈和潜在的问题,并进行优化和调整。 发现性能瓶颈:性能测试可以帮助发现系统的性能瓶颈,即系统在高负载或高并发情况下可能出现的问题

字节面试 | 如何测试RocketMQ、RocketMQ?

字节面试:RocketMQ是怎么测试的呢? 答: 首先保证消息的消费正确、设计逆向用例,在验证消息内容为空等情况时的消费正确性; 推送大批量MQ,通过Admin控制台查看MQ消费的情况,是否出现消费假死、TPS是否正常等等问题。(上述都是临场发挥,但是RocketMQ真正的测试点,还真的需要探讨) 01 先了解RocketMQ 作为测试也是要简单了解RocketMQ。简单来说,就是一个分

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

【测试】输入正确用户名和密码,点击登录没有响应的可能性原因

目录 一、前端问题 1. 界面交互问题 2. 输入数据校验问题 二、网络问题 1. 网络连接中断 2. 代理设置问题 三、后端问题 1. 服务器故障 2. 数据库问题 3. 权限问题: 四、其他问题 1. 缓存问题 2. 第三方服务问题 3. 配置问题 一、前端问题 1. 界面交互问题 登录按钮的点击事件未正确绑定,导致点击后无法触发登录操作。 页面可能存在

黑神话,XSKY 星飞全闪单卷性能突破310万

当下,云计算仍然是企业主要的基础架构,随着关键业务的逐步虚拟化和云化,对于块存储的性能要求也日益提高。企业对于低延迟、高稳定性的存储解决方案的需求日益迫切。为了满足这些日益增长的 IO 密集型应用场景,众多云服务提供商正在不断推陈出新,推出具有更低时延和更高 IOPS 性能的云硬盘产品。 8 月 22 日 2024 DTCC 大会上(第十五届中国数据库技术大会),XSKY星辰天合正式公布了基于星

业务中14个需要进行A/B测试的时刻[信息图]

在本指南中,我们将全面了解有关 A/B测试 的所有内容。 我们将介绍不同类型的A/B测试,如何有效地规划和启动测试,如何评估测试是否成功,您应该关注哪些指标,多年来我们发现的常见错误等等。 什么是A/B测试? A/B测试(有时称为“分割测试”)是一种实验类型,其中您创建两种或多种内容变体——如登录页面、电子邮件或广告——并将它们显示给不同的受众群体,以查看哪一种效果最好。 本质上,A/B测

从状态管理到性能优化:全面解析 Android Compose

文章目录 引言一、Android Compose基本概念1.1 什么是Android Compose?1.2 Compose的优势1.3 如何在项目中使用Compose 二、Compose中的状态管理2.1 状态管理的重要性2.2 Compose中的状态和数据流2.3 使用State和MutableState处理状态2.4 通过ViewModel进行状态管理 三、Compose中的列表和滚动

PR曲线——一个更敏感的性能评估工具

在不均衡数据集的情况下,精确率-召回率(Precision-Recall, PR)曲线是一种非常有用的工具,因为它提供了比传统的ROC曲线更准确的性能评估。以下是PR曲线在不均衡数据情况下的一些作用: 关注少数类:在不均衡数据集中,少数类的样本数量远少于多数类。PR曲线通过关注少数类(通常是正类)的性能来弥补这一点,因为它直接评估模型在识别正类方面的能力。 精确率与召回率的平衡:精确率(Pr

Verybot之OpenCV应用一:安装与图像采集测试

在Verybot上安装OpenCV是很简单的,只需要执行:         sudo apt-get update         sudo apt-get install libopencv-dev         sudo apt-get install python-opencv         下面就对安装好的OpenCV进行一下测试,编写一个通过USB摄像头采