人形机器人目标检测实例

时间： 2024-10-21 来源：D-Robotics官网

技术问答

功能介绍

基于深度学习的方法识别小球和底座，使用模型为YOLOv5s。

使用方法

准备工作

1. 具备TonyPi机器人，包含相机及RDK套件，并且能够正常运行。

2. 具备小球等相关道具。

编译与运行

1. 编译

启动机器人后，通过终端SSH或者VNC连接机器人，打开终端拉取相应代码并编译安装。

# 拉取目标检测代码与图像矫正代码

mkdir -p ~/tonypi_ws/src && cd ~/tonypi_ws/src

# RDK X5

git clone https://github.com/wunuo1/tonypi_obj_detection.git -b feature-x5

# RDK X3

git clone https://github.com/wunuo1/tonypi_obj_detection.git -b feature-x3

git clone https://github.com/wunuo1/tonypi_image_correction.git

# 编译

cd ..

# humble

source /opt/tros/humble/setup.bash

# foxy

source /opt/tros/setup.bash

colcon build

2. 运行物体检测功能

source ~/tonypi_ws/install/setup.bash

cp -r ~/tonypi_ws/install/tonypi_obj_detection/lib/tonypi_obj_detection/config/ .

# web端可视化障碍物（启动功能后在浏览器打开 ip:8000）

export WEB_SHOW=TRUE

ros2 launch tonypi_obj_detection target_detection.launch.py

原理简介

RDK X3通过摄像头获取机器人前方环境数据，图像数据通过训练好的YOLO模型进行推理得到物体的图像坐标值并发布。

接口说明话题

Sub话题

参数

注意

该功能包提供特定的实际场景中识别物体的模型，若自行采集数据集进行训练，请注意替换。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由雪飘梦飞转载自D-Robotics官网，原文标题为:人形机器人目标检测，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

基于NodeHub智能机器人应用中心是深度学习巡线小车实现示例

视觉巡线Demo基于纯视觉的方法实现赛车在赛道内运动，其中赛道中间有引导线辅助赛车保持在赛道内。NodeHub是地平线为广大机器人开发者提供的“智能机器人应用中心”，该应用中心包含多个类别不同功能的开源Node，能够快速安装和使用，通过串联不同的Node可以完成对三大模块的实现。

设计经验发布时间 : 2024-11-07

NodeHub包含各种开源Node，能够快速安装和使用，助您快速搭建室内服务机器人Demo！

NodeHub是地平线为广大开发者提供给的“智能机器人应用中心”，该应用中心中包含各种不同功能的开源Node，能够快速安装和使用，通过串联不同的Node可以完成室内服务机器人的搭建。该Demo包含了室内服务机器人所需的基础功能，包括地图建立、自主导航、垃圾检测以及人体骨骼关键点检测等，有助于您快速搭建室内服务机器人！

设计经验发布时间 : 2024-11-06

基于RDK X3的机械臂物体拾取操作实例

本文介绍RDK X3该功能包接收用户选择方块数字的请求，通过yolov5检测目标，在Z轴距离确定的情况下解算出物体的三维坐标，并请求仿真机械臂控制节点夹取物体的应用实例。

设计经验发布时间 : 2024-10-28

【IC】D-Robotics RDK X5机器人开发者套件，可提供高达10 Tops算力，加速智能化应用快速落地

D-Robotics RDK X5搭载Sunrise 5智能计算芯片，可提供高达10 Tops的算力，是一款面向智能计算与机器人应用的全能开发套件，接口丰富，极致易用，支持Transfomer、RWKV、Occupancy、Stereo Perception等多种复杂模型和最新算法，加速智能化应用快速落地。

产品发布时间 : 2024-09-20

地⽠RDK X5机器⼈开发者套件产品资料包

型号- X5MC00ICSTMA,RDK X5 4GB,RDK X5,RDK X5 8GB

商品及供应商介绍 - D-ROBOTICS - V1.0 - 2024/9/10 ZIP 中文下载

RDK X5 3D

型号- RDK X5 4GB,RDK X5 8GB

CAD模型库 - D-ROBOTICS - 2024-8-26 STP 英文下载

D-Robotics RDK™ X5 Product Brief

型号- RDK X5 4GB,RDK™ X5,RDK X5 8GB

数据手册 - D-ROBOTICS - V1.0 - 2024/9/5 PDF 英文下载

智能语音聊天机器人功能及使用指南

智能语音聊天机器人通过识别用户语音，调用ChatGPT API获取答复并播放，实现语音聊天。需地平线RDK、ChatGPT API Key及音频板等物料。准备、组装后，安装功能包并运行，配置音频和ChatGPT API Key。常见问题包括设备连接、音频驱动、配置文件及网络访问等。

设计经验发布时间 : 2024-10-18

基于RDK系统的双目深度估计算法示例

双目深度估计算法是使用地平线OpenExplorer在SceneFlow数据集上训练出来的StereoNet模型。算法输入为双目图像数据，分别是左右视图。算法输出为左视图的视差。此示例使用mipi双目相机作为图像数据输入源，利用BPU进行算法推理，发布包含双目图像左图和感知结果的话题消息，在PC端rviz2上渲染算法结果。

设计经验发布时间 : 2024-11-05

人形机器人物体抓取实例

介绍人形机器人物体抓取的设计方案及应用特点。

设计经验发布时间 : 2024-10-30

地瓜机器人与火山引擎联手打造基于大模型的“云-边-端”一体化机器人开发底座

地瓜机器人与字节跳动旗下云服务平台火山引擎达成合作，双方将在“机器人+大模型”领域强强联合，实现地瓜机器人软硬件通用底座与火山引擎边缘智能大模型网关“云-边-端”的全面打通，加速大模型在机器人场景的落地，拓展机器人的无限智能化潜能。作为拥有极致算力性价比与极简开发体验的地瓜机器人开发者套件，RDK X5可提供高达10 TOPS的端侧算力，接口丰富，极致易用。

原厂动态发布时间 : 2024-10-29

RDK X5平台上CLIP文本图片特征检索应用示例

文本图片特征检索功能介绍CLIP是由OpenAI提出的一种多模态机器学习模型。该模型通过对大规模图像和文本对进行对比学习, 能够同时处理图像和文本, 并将它们映射到一个共享的向量空间中。本示例展示在RDK平台上利用CLIP进行图片管理与文本搜图的功能。

设计经验发布时间 : 2024-11-05

在RDK X5平台上实现Mobile SAM量化部署的分割示例

mono_mobilesam package是基于Mobile SAM量化部署的使用示例。图像数据来源于本地图片回灌和订阅到的image msg。SAM依赖检测框输入进行分割, 并分割检测框中的目标, 无需指定目标的类别信息, 仅需提供框。最终将算法信息通过话题发布, 同时在Web页面渲染可视化。应用场景为结合检测框进行障碍物分割、水渍区域分割等。

设计经验发布时间 : 2024-11-04