机械狗还会给植物浇水?搭载OAK相机让机械狗拥有识别视觉的能力!

2024-03-18 18:36

本文主要是介绍机械狗还会给植物浇水?搭载OAK相机让机械狗拥有识别视觉的能力!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

编辑:OAK中国
首发:oakchina.cn
喜欢的话,请多多👍⭐️✍
内容可能会不定期更新,官网内容都是最新的,请查看首发地址链接。

Hello,大家好,这里是OAK中国,我是Ashely。

专注科技,专注分享。

今日和大家聊一聊仿生四足机器人,也就是我们平时说的四足机械狗,这也是我们一部分朋友们在关注和应用的领域。

▌怎么大厂都来造机械狗了?

在去年的世界机器人大会上(也就是2023年),有三只狗吸引了不少目光:CyberDog2、追觅DreameDog和兵器装备集团的“四足仿生机器人”。

CyberDog2更是作为雷军2023年度演讲上压轴出场,一时风头无两。1万多的售价,相比于快赶上一辆车售价的波士顿动力来说,可以说是非常有性价比了。
在这里插入图片描述
而这一赛道除了小米,国内还有不少企业也在加速布局。比如腾讯Robotics X实验室、云深处、宇树、追觅、蔚蓝等等。

多家企业的加入,大概可以窥探到这一赛道的价值。

四足机械狗作为一种仿生机器人,具有灵活的移动能力和稳定性,可以在各种复杂环境中执行任务。

比如用在灾难现成进行探索和救援,用狗代替人进入到危险区域,搜索幸存者或检测潜在的危险物品,帮助救援人员进行决策和行动。
在这里插入图片描述
再比如用在农业领域,机械狗可以用于巡视农田、监测植物生长情况、施肥、喷洒农药或收集农作物等。这有助于提高农业生产效率和减轻劳动负担。
在这里插入图片描述
而本期分享的这个用户应用,便是与农业领域相关。

只不过这只狗有点mini。
在这里插入图片描述

▌FREISA:麻雀虽小五脏俱全

FREISA 是 Four-legged Robot Ensure Intelligent Sprinkler Automation 的首字母缩写,是 B-AROL-O 团队的心血结晶。

这个团队曾参加了2022年的OpenCV Spatial AI大赛,用OAK-D-Lite相机、树莓派4B、乐高机械零件等组建了名为 ARNEIS 的包装机。

顺便说一句,ARNEIS这个项目也是开源的,感兴趣的朋友可以在这里查看【45】号项目。

【开源项目45】TOP10项目:智能分拣设备ARNEIS。 #OpenCV Spatial AI Contest

不过FREISA这个项目不是从头开始创建机器狗的,而是基于支持ROS和树莓派的开源 Mini Pupper 2。

【开源】OAK-D-Lite用于迷你机械狗视觉追踪

谈起项目的起源,其中一位团队成员 Gianluca Teti 说:“正如我们团队名称所暗示的那样,我们对葡萄园的熟悉激发了我们开发一种自动浇水系统,旨在协助农场。”这个想法是使用计算机视觉来浇灌植物,并提出一种能够执行这项工作的设备。
在这里插入图片描述这个团队在开始设想技术方案时,首先便排除了在轮子和轨道上运行的机器人的可能性,因为这种方式会让机器人在崎岖不平的地面上有较弱的躲避障碍的能力。他们还短暂地考虑过四轴飞行器,但认为它的电池和有效载荷会很差。之所以选择四足平台,是因为它能够驾驭复杂的地形。

“我们与团队发起了一次头脑风暴会议,以评估我们为该项目提供的硬件选项,”Gianluca 补充道,“我们的团队成员之一 Orso Eric 拥有一台 Mini Pupper 2。因此,我们全员同意在我们的项目中使用该特定模型。”

▌为何决定通过视觉来实现项目功能?

Mini Pupper 2 是一个开源机器人套件,在众筹活动的支持下诞生。四足机器人支持Raspberry Pi,该团队计划用它来处理FREISA的导航。为了确保它适合作为机器人植物浇水器,连接了具有3D人工智能性能的
相机。
在这里插入图片描述
谈起选择这款深度相机的原因,该团队表示
相机可以在专用硬件上运行计算机视觉管道,这将减轻树莓派资源的负担。
在这里插入图片描述
为了确保该项目真正适合其预期目的,该团队进行了一些研究。“我们采访了几位经验丰富的农民和园丁,”Gianluca说,“他们的见解表明,目视检查植物可以对其状况进行可靠的评估。”

考虑到这一点,该团队开始工作,训练两个神经网络来判别哪些植物需要浇水,哪些不需要。在这一点上,他们已经放弃了分析葡萄树的想法,因为他们注意到叶子会长得太高,机器人看不到它们,而且葡萄园的地形太不平坦。相反,他们决定将精力集中在一个种满番茄植物的家庭花园上。
在这里插入图片描述
“目的是通过分析植物的叶子和茎的状态来评估植物的状况,”Gianluca解释说,“我们的方法从收集大量图像开始,然后训练各种网络和模型。我们的基础设施由一台台式计算机组成,配备 AMD Ryzen 2600X CPU、48 GB RAM 和 NVidia GTX 1660 Super GPU,运行 Ubuntu 23.04,可通过 JupyterLab 容器远程访问。

▌验证成功

目前,该团队认为使用视觉效果就足够了,尽管还有进一步提高准确性的余地。“将其他传感器(例如测量湿度、温度等的传感器)集成到 FREISA 项目的框架中可能是有益的,”Gianluca 说,“FREISA项目的架构具有足够的适应性,可以很容易地容纳这些传感器作为补充·。”
在这里插入图片描述
好消息是,该项目利用了Docker(一个允许开发人员快速构建、测试和部署应用程序的软件平台)和OpenCV,并且已经有效。该机器人在骨盆位置有一个洒水器,上面有储水器,它能够自由移动以便给植物浇水。
在这里插入图片描述
“我们的机器人在识别目标植物、导航到目标植物和检查其叶子方面表现出良好的能力,然后精确调整其位置以有效地给植物浇水,”Gianluca 解释说。

FREISA在2023年的OpenCV AI竞赛中获得了大奖。尽管如此,该团队不会满足于现状。它已经确定了潜在的改进,例如使用
立体深度相机来估计目标的距离。

▌一个小补充

虽然没找到FREISA这个项目的演示效果视频,不过我们也有用户做这种类似的项目。

能给植物浇水的机械狗,只因装配了OAK-D深度相机,让四足机械狗拥有视觉能力!

只不过上面的视频,用的是第一代产品OAK-D相机。

如果大家现在想做这个方向的应用,其实可以用更新的产品,如二代升级款OAK-D-S2、还有防水款的OAK-D-S2-PoE、广角款的OAK-D-W等等。

还想观看更多OAK相机用在机械狗上的视频?为你罗列一部分了!

这只STELLA 四足机械狗有点过分灵活!#ICRA2023

斯坦福大学Pupper机械狗配激光雷达加OAK-D-Lite相机,做物体追踪。

最新机械狗mini puper搭载OAK相机手势控制测试!

▌参考资料

https://www.raspberrypi.com/news/freisa-the-plant-watering-robot-dog-magpimonday/
https://www.oakchina.cn/selection-guide/


OAK中国
| OpenCV AI Kit在中国区的官方代理商和技术服务商
| 追踪AI技术和产品新动态

戳「+关注」获取最新资讯↗↗

这篇关于机械狗还会给植物浇水?搭载OAK相机让机械狗拥有识别视觉的能力!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/823258

相关文章

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

基于UE5和ROS2的激光雷达+深度RGBD相机小车的仿真指南(五):Blender锥桶建模

前言 本系列教程旨在使用UE5配置一个具备激光雷达+深度摄像机的仿真小车,并使用通过跨平台的方式进行ROS2和UE5仿真的通讯,达到小车自主导航的目的。本教程默认有ROS2导航及其gazebo仿真相关方面基础,Nav2相关的学习教程可以参考本人的其他博客Nav2代价地图实现和原理–Nav2源码解读之CostMap2D(上)-CSDN博客往期教程: 第一期:基于UE5和ROS2的激光雷达+深度RG

EasyPlayer.js网页H5 Web js播放器能力合集

最近遇到一个需求,要求做一款播放器,发现能力上跟EasyPlayer.js基本一致,满足要求: 需求 功性能 分类 需求描述 功能 预览 分屏模式 单分屏(单屏/全屏) 多分屏(2*2) 多分屏(3*3) 多分屏(4*4) 播放控制 播放(单个或全部) 暂停(暂停时展示最后一帧画面) 停止(单个或全部) 声音控制(开关/音量调节) 主辅码流切换 辅助功能 屏

计算机视觉工程师所需的基本技能

一、编程技能 熟练掌握编程语言 Python:在计算机视觉领域广泛应用,有丰富的库如 OpenCV、TensorFlow、PyTorch 等,方便进行算法实现和模型开发。 C++:运行效率高,适用于对性能要求严格的计算机视觉应用。 数据结构与算法 掌握常见的数据结构(如数组、链表、栈、队列、树、图等)和算法(如排序、搜索、动态规划等),能够优化代码性能,提高算法效率。 二、数学基础

Clion不识别C代码或者无法跳转C语言项目怎么办?

如果是中文会显示: 此时只需要右击项目,或者你的源代码目录,将这个项目或者源码目录标记为项目源和头文件即可。 英文如下:

《计算机视觉工程师养成计划》 ·数字图像处理·数字图像处理特征·概述~

1 定义         从哲学角度看:特征是从事物当中抽象出来用于区别其他类别事物的属性集合,图像特征则是从图像中抽取出来用于区别其他类别图像的属性集合。         从获取方式看:图像特征是通过对图像进行测量或借助算法计算得到的一组表达特性集合的向量。 2 认识         有些特征是视觉直观感受到的自然特征,例如亮度、边缘轮廓、纹理、色彩等。         有些特征需要通

【python计算机视觉编程——7.图像搜索】

python计算机视觉编程——7.图像搜索 7.图像搜索7.1 基于内容的图像检索(CBIR)从文本挖掘中获取灵感——矢量空间模型(BOW表示模型)7.2 视觉单词**思想****特征提取**: 创建词汇7.3 图像索引7.3.1 建立数据库7.3.2 添加图像 7.4 在数据库中搜索图像7.4.1 利用索引获取获选图像7.4.2 用一幅图像进行查询7.4.3 确定对比基准并绘制结果 7.

参会邀请 | 第二届机器视觉、图像处理与影像技术国际会议(MVIPIT 2024)

第二届机器视觉、图像处理与影像技术国际会议(MVIPIT 2024)将于2024年9月13日-15日在中国张家口召开。 MVIPIT 2024聚焦机器视觉、图像处理与影像技术,旨在为专家、学者和研究人员提供一个国际平台,分享研究成果,讨论问题和挑战,探索前沿技术。诚邀高校、科研院所、企业等有关方面的专家学者参加会议。 9月13日(周五):签到日 9月14日(周六):会议日 9月15日(周日

海鸥相机存储卡格式化如何恢复数据

在摄影的世界里,‌每一张照片都承载着独特的记忆与故事。‌然而,‌当我们不慎将海鸥相机的存储卡格式化后,‌那些珍贵的瞬间似乎瞬间消逝,‌让人心急如焚。‌但请不要绝望,‌数据恢复并非遥不可及。‌本文将详细介绍在海鸥相机存储卡格式化后,‌如何高效地恢复丢失的数据,‌帮助您重新找回那些宝贵的记忆。‌ 图片来源于网络,如有侵权请告知 一、‌回忆备份情况 ‌海鸥相机存储卡格式化如何恢复数据?在意

【python计算机视觉编程——8.图像内容分类】

python计算机视觉编程——8.图像内容分类 8.图像内容分类8.1 K邻近分类法(KNN)8.1.1 一个简单的二维示例8.1.2 用稠密SIFT作为图像特征8.1.3 图像分类:手势识别 8.2贝叶斯分类器用PCA降维 8.3 支持向量机8.3.2 再论手势识别 8.4 光学字符识别8.4.2 选取特征8.4.3 多类支持向量机8.4.4 提取单元格并识别字符8.4.5 图像校正