当前位置: 首页 > news >正文

LeRobot 框架的核心架构概念和组件(下)

本文档概述构成 LeRobot 框架的核心架构概念和组件。它介绍主要的子系统,并解释它们如何相互作用以实现机器人学习。

。。。。。。继续。。。。。。

机器人控制系统

机器人控制系统提供统一的接口来控制实体机器人。它支持不同的控制模式和机器人类型,并与数据集系统集成以进行数据采集。

目的和范围

机器人控制系统是 LeRobot 框架的核心组件,提供用于操作、标定和记录物理机器人数据的接口。该系统支持遥操作、记录演示数据集、重放动作以及在真实机器人上运行已训练的策略。它充当用户、物理机器人硬件和训练流程之间的桥梁。

架构概述

机器人控制系统以 control_robot.py 脚本为中心,该脚本支持多种控制模式,包括遥操作、记录、重放、标定和远程控制。该系统可与各种类型的机器人(机械手和移动机器人)和设备接口(电机和摄像头)进行交互。

控制模式

LeRobot 支持多种机器人操作控制模式:

添加图片注释,不超过 140 字(可选)

机器人控制系统提供多种由 control_robot.py 脚本管理的操作模式:每种控制模式都有各自的配置类和相应的函数来实现其行为:

标定模式

用于标定机器人电机并确保正确定位。这通常是设置新机器人或移动机器人时的第一步。

![添加图片注释,不超过 140 字(可选)](https://i-blog.csdnimg.cn/direct/ad50702d5c374281a5c571a97874cc93.png

遥控模式

允许手动控制机器人。在机械臂机器人中,这通常涉及通过移动引导臂来控制从动臂。

在这里插入图片描述

记录模式

记录遥操作或策略执行过程中的数据集。此模式可捕捉机器人状态、动作和摄像头图像,用于训练策略。

添加图片注释,不超过 140 字(可选)

重播模式

在机器人上重播录制的片段,以便验证录制的数据。

添加图片注释,不超过 140 字(可选)

远程机器人模式

用于在边缘设备上运行的远程控制机器人(例如 LeKiwi)。

添加图片注释,不超过 140 字(可选)

控制配置

每种控制模式都通过特定的配置类进行配置:

添加图片注释,不超过 140 字(可选)

机器人类型和硬件集成

机器人控制系统通过通用接口支持各种类型的机器人。每种类型的机器人都有特定的配置和硬件要求:

机械臂机器人

机械臂机器人(Koch、Aloha、SO-100、Moss)通常采用主从式架构:
主臂:用于远程操作,通常具有较低的摩擦力
从臂:执行实际任务,由主臂或策略控制

移动机器人

移动机器人(LeKiwi、Stretch)将移动性与操控性相结合:
LeKiwi:带有 SO-100 机械臂的移动基座,可远程操作
Stretch:集成移动机械臂,带有机械臂和夹持器

电机控制接口

机器人控制系统通过专用总线类与不同类型的电机连接:

DynamixelMotorsBus

与 Dynamixel 电机(Koch、Aloha 使用)的接口:

添加图片注释,不超过 140 字(可选)

FeetechMotorsBus

与 Feetech 电机接口(SO-100、Moss、LeKiwi 使用):

添加图片注释,不超过 140 字(可选)

摄像头集成

机器人控制系统支持多种摄像头类型:

OpenCVCamera

与大多数 USB 摄像头接口:

添加图片注释,不超过 140 字(可选)

RealSenseCamera

与 Intel RealSense 摄像头接口(用于深度感知):

添加图片注释,不超过 140 字(可选)

控制循环

核心控制逻辑在 control_loop 函数中实现,该函数处理不同的控制模式:

控制循环:

捕获观测值(机器人状态、摄像头图像)
以下任一:2.1)处理远程操作输入以生成动作;2.2)根据观测值使用策略预测动作
将动作发送给机器人
(可选)将数据记录到数据集
显示数据并记录信息

记录和数据集集成

记录模式与 LeRobotDataset 系统集成:

记录期间:

系统初始化数据集并(可选)加载策略
预热记录以使设备同步
对于每个episode:3.1)使用控制循环记录数据;3.2)留出时间在 episode 之间重置环境
最后,如果要求,它将数据集推送到 Hugging Face Hub

使用示例

标定机器人

添加图片注释,不超过 140 字(可选)

遥操作机器人

添加图片注释,不超过 140 字(可选)

记录数据集

添加图片注释,不超过 140 字(可选)

在一个机器人上运行策略

添加图片注释,不超过 140 字(可选)

操作一个远程机器人

添加图片注释,不超过 140 字(可选)

记录期间的键盘控制

机器人控制系统支持在数据集录制过程中使用键盘控制:

添加图片注释,不超过 140 字(可选)

这些键盘控制可以灵活地控制记录过程。

使用 Rerun 进行可视化

机器人控制系统可以使用 Rerun 可视化工具包实时可视化数据:

添加图片注释,不超过 140 字(可选)

这将显示:
摄像头反馈
机器人状态值
动作值

对于远程机器人,还可以指定远程查看器:

![添加图片注释,不超过 140 字(可选)](https://i-blog.csdnimg.cn/direct/99e26b9820a04c8b8d7aa521742ea4cc.png

训练和评估工作流程

训练和评估工作流程整合策略、数据集和环境系统,以实现有效的机器人学习。

添加图片注释,不超过 140 字(可选)

添加图片注释,不超过 140 字(可选)

配置系统

LeRobot 使用全面的配置系统来参数化框架的各个方面。配置按层次结构组织,可以通过命令行参数、配置文件或编程方式指定。
主要配置类包括:

添加图片注释,不超过 140 字(可选)

配置目标被传递给工厂函数,以使用所需的参数创建相应的组件。

实用系统

LeRobot 包含多个支持主要组件的实用系统:
日志记录 - 通过标准 Python 日志记录和可选的 WandB 集成进行可配置日志记录
检查点 - 在训练期间保存和加载模型检查点
可视化 - 用于可视化数据集片段和策略部署的工具
指标 - 跟踪和报告训练和评估指标

相关文章:

  • Framebuffer显示bmp图片
  • MySQL主从复制与读写分离
  • 概率相关问题
  • antd 主题色定制
  • Node.js 循环依赖问题详解:原理、案例与解决方案
  • Modbus TCP转Profinet网关:数字化工厂异构网络融合的核心枢纽
  • “this”这个关键字
  • Node.js
  • ip命令详解
  • 死锁(Deadlock)知识点详解
  • YOLO v3:目标检测领域的质变性飞跃
  • 大语言模型 08 - 从0开始训练GPT 0.25B参数量 - MiniMind 单机多卡 torchrun deepspeed
  • 量化交易 - 网格交易策略实现与原理解析
  • 【Conda】环境应用至JupyterLab
  • Python课程及开源项目推荐
  • 399. 除法求值
  • 遗传算法求解旅行商问题分析
  • 【FMC216】基于 VITA57.1 的 2 路 TLK2711 发送、2 路 TLK2711 接收 FMC 子卡模块
  • [学习]RTKLib详解:tle.c(系列终章)
  • Android 图片自动拉伸不变形,点九
  • 普京调整俄陆军高层人事任命
  • 上海黄浦江挡潮闸工程建设指挥部成立,组成人员名单公布
  • Offer触手可及,2025上海社会组织联合招聘专场活动正寻找发光的你
  • 泽连斯基启程前往土耳其
  • 杭勇已任常州市政协党组成员,此前任常州市委常委、秘书长
  • 《蛮好的人生》:为啥人人都爱这个不完美的“大女主”