RDK平台实现MIPI相机驱动的操作实例

时间： 2024-11-05 来源：D-Robotics官网

技术问答

功能介绍

对已适配的MIPI接口摄像头进行配置，并将采集的图像数据以ROS标准图像消息或者零拷贝（hbmem）图像消息进行发布，供需要使用图像数据的其他模块订阅。

物料清单

当前已支持以下MIPI摄像头。

注意：RDK Ultra 只支持imx219 sensor，分辨率最大1920x1080。

使用方法

硬件连接

以F37摄像头为例，与RDK X3连接方式如下图：

功能安装

在RDK系统的终端中运行如下指令，即可快速安装：

tros foxy版本

tros humbel版本

启动相机

在RDK系统的终端中运行如下指令，可使用默认相机配置，自适应启动已连接的相机：

tros foxy版本

tros humble版本

mipi_cam.launch.py配置默认输出960*544分辨率NV12图像，发布的话题名称为/hbmem_img。

如需使用其他分比率或者图像格式可以使用对应的launch文件，比如：

1. mipi_cam_640x480_bgr8.launch.py 提供640*480分辨率，BGR8格式的图像数据。

2. mipi_cam_640x480_bgr8_hbmem.launch.py 提供640*480分辨率，BGR8格式的零拷贝传输图像数据

3. mipi_cam_640x480_nv12_hbmem.launch.py 提供640*480分辨率，NV12格式的零拷贝传输图像数据

如程序输出如下信息，说明节点已成功启动

图像可视化

使用ROS rqt_image_view

这里采用rqt_image_view方式实现图像可视化，需要在PC端安装ROS2 Humble版本。由于发布的是原始数据，需要编码JPEG图像提高传输效率，另起一个终端用于订阅 MIPI 数据并编码为JPEG。

tros foxy版本

保证PC与RDK X3处于同一网段，以Foxy版本为例在PC上执行。

tros humble版本

保证PC与RDK X3处于同一网段，以Humble版本为例在PC上执行。

选择话题/image_raw/compressed,图像效果如下：

使用WEB浏览器

这里采用web端方式实现图像可视化，由于发布的是原始数据，需要编码JPEG图像，另起两个终端：一个进行订阅 MIPI 数据编码为JPEG，一个用于webservice发布。

tros foxy版本

打开一个新的终端

另起一个终端

tros humble版本

打开一个新的终端

另起一个终端

PC打开浏览器（chrome/firefox/edge）输入http://IP:8000（IP为地平线RDK IP地址），点击左上方Web端展示即可看到MIPI摄像头输出的实时画面。

接口说明

话题

发布话题

参数

常见问题

1. 使用不同的相机需要设置不同的video_device参数么？

不需要，该Node支持相机自适应，如果使用“支持相机”章节中列出的相机型号，运行时会自动适配。

2. 摄像头插拔注意事项

严禁在开发板未断电的情况下插拔摄像头，否则非常容易烧坏摄像头模组。

3. 如遇到hobot_sensor节点启动异常，可通过下述步骤进行问题排查：

3.1 检查硬件连接。

3.2 是否设置tros.b环境。

3.3 参数是否正确，具体参考Hobot_Sensors README.md。

4. 如遇到PC端ros2 topic list未识别到摄像头topic，做如下排查：

检查地平线RDK是否正常pub图像

tros foxy版本

tros humble版本

输出：

1. 检查PC和地平线RDK网络能否ping通；

2. PC和地平线RDK IP地址是否前三位相同。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由雪飘梦飞转载自D-Robotics官网，原文标题为:MIPI相机驱动，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

基于RDK X3的机械臂物体拾取操作实例

本文介绍RDK X3该功能包接收用户选择方块数字的请求，通过yolov5检测目标，在Z轴距离确定的情况下解算出物体的三维坐标，并请求仿真机械臂控制节点夹取物体的应用实例。

设计经验发布时间 : 2024-10-28

智能语音聊天机器人功能及使用指南

智能语音聊天机器人通过识别用户语音，调用ChatGPT API获取答复并播放，实现语音聊天。需地平线RDK、ChatGPT API Key及音频板等物料。准备、组装后，安装功能包并运行，配置音频和ChatGPT API Key。常见问题包括设备连接、音频驱动、配置文件及网络访问等。

设计经验发布时间 : 2024-10-18

基于NodeHub智能机器人应用中心是深度学习巡线小车实现示例

视觉巡线Demo基于纯视觉的方法实现赛车在赛道内运动，其中赛道中间有引导线辅助赛车保持在赛道内。NodeHub是地平线为广大机器人开发者提供的“智能机器人应用中心”，该应用中心包含多个类别不同功能的开源Node，能够快速安装和使用，通过串联不同的Node可以完成对三大模块的实现。

设计经验发布时间 : 2024-11-07

人手关键点检测算法示例

本文主要介绍了地瓜机器人的X3RDK的系统应用在人手关键点检测算法的示例以及使用说明，并给出具体功能代码。

设计经验发布时间 : 2024-10-28

双机械臂四转四驱机器人设计与实现

该研究设计了一种创新的双机械臂四转四驱机器人，旨在突破传统轮式机器人的限制。该机器人底盘采用四转四驱设计，显著提升了灵活性和负载能力，使其能够在复杂环境中精确移动和执行任务。双机械臂系统使机器人能够高效与现实生活互动，完成复杂任务。

应用方案发布时间 : 2024-10-29

NodeHub包含各种开源Node，能够快速安装和使用，助您快速搭建室内服务机器人Demo！

NodeHub是地平线为广大开发者提供给的“智能机器人应用中心”，该应用中心中包含各种不同功能的开源Node，能够快速安装和使用，通过串联不同的Node可以完成室内服务机器人的搭建。该Demo包含了室内服务机器人所需的基础功能，包括地图建立、自主导航、垃圾检测以及人体骨骼关键点检测等，有助于您快速搭建室内服务机器人！

设计经验发布时间 : 2024-11-06

多模态感知仿生机械手项目案例

本项目提供了一款五指仿生机器手，其仿照人手的外观与自由度，使其能够作为人形机器人的末端执行器，完成人手所能完成的任务。

应用方案发布时间 : 2024-10-29

NodeHub快速入门

NodeHub是地平线为机器人爱好者打造的智能机器人应用中心，旨在以更加简单、高效、开放的方式协助机器人爱好者开发自己的智能机器人。

技术探讨发布时间 : 2024-10-30

基于RDK X3开发板设计并实现的手持slam建图设计

这里使用RDK X3开发板设计并实现了一款SLAM手持建图设备，它使用RDK X3开发板的计算性能，通过激光雷达实现一个纯激光里程计，通过IMU对激光数据进行畸变矫正和对SLAM的姿态矫正，实现一个手持的SLAM建图功能。

设计经验发布时间 : 2024-11-04

RDK X3 机械臂捡垃圾经验分享

hobot_arm package 是基于 mono2d_trash_detection package 开发的2D垃圾目标检测+机械臂抓取的应用示例。在地平线的旭日X3派上利用BPU进行模型推理获得感知结果，利用幻尔机械臂作为下位机，进行垃圾抓取的示例。

设计经验发布时间 : 2024-10-30

人形机器人目标检测实例

基于深度学习的方法识别小球和底座，使用模型为YOLOv5s使用方法准备工作具备TonyPi机器人，包含相机及RDK套件，并且能够正常运行。

设计经验发布时间 : 2024-10-21

人形机器人物体抓取实例

介绍人形机器人物体抓取的设计方案及应用特点。

设计经验发布时间 : 2024-10-30

AI加速边缘计算，聚焦AIOT芯片，NPU SOC，离线语音MCU，高算力智能模组等

世强硬创联合地平线，阿普奇，启英泰伦，美格智能，普林芯驰，唯创知音，九芯电子，芯闻，VINKO，MERRY带来AI新产品，聚焦AIOT芯片，NPU SOC，离线语音MCU，高算力智能模组等，加速边缘计算。

活动发布时间 : 2023-06-08

【IC】D-Robotics RDK X5机器人开发者套件，可提供高达10 Tops算力，加速智能化应用快速落地

D-Robotics RDK X5搭载Sunrise 5智能计算芯片，可提供高达10 Tops的算力，是一款面向智能计算与机器人应用的全能开发套件，接口丰富，极致易用，支持Transfomer、RWKV、Occupancy、Stereo Perception等多种复杂模型和最新算法，加速智能化应用快速落地。

产品发布时间 : 2024-09-20