lancedb
数据格式(Lance Format)和表格式(Table Format)
提升数据质量和模型训练-模型创新和数据洞察
数据底层架构
数据采集
ROS2的 .db3格式和MCAP格式。这些基于时间序列的流式数据格式虽然非常适合实时数据采集
主要面向流计算场景,难以支持高效的数据搜索查询和全局数据分布分析
RViz2
01.LanceDB的方案能够像MCAP格式一样高效地存储激光雷达点云、各类传感器数据流以及图像视频等多模态数据,同时保持了极高的数据保真度
02.visual and temporal debugger
目前欠缺-数据回放-数据可视化等功能 -rerun
可视化,可以使用 Foxglove或Rerun
https://foxglove.dev/
数据训练
lerobot
LeRobot 提供 LeRobot Dataset 类,可以从 Hugging Face Hub 无缝下载 机器人数据集,并将其作为 PyTorch 张量提供
HuggingFace 提供的官方示例,教你如何一行加载机器人数据集、查看图像 / 动作 / 任务、批量训练模型。
examples/dataset/load_lerobot_dataset.py
乐聚智能(深圳)股份有限公司
ROS2的优势在于与其他已经有现有代码的人合作,其他工程师可能已经对发生了什么有一些了解,
如果他们没有,文档也足够好,他们可以在短时间内达到熟练水平。
rosbag2 Lerobot
1.convert rosbag2 to Lerobot
数据-采集pipeline: rosbag2 recording
模型-训练pipeline: lerobot training
2.stage
1.数据提取:SQLite3或者MCAP格式
提取图像数据: reshape
提取关节数据: custome-Msg、radian/degree
时间戳: 消息的时间戳不是bag的时间戳 msg.header.stamp.sec msg.header.stamp.nannosec
2.时间同步:timestamp alignment
图像的帧率保持在30fps--抽帧
对齐多源时间戳:
最近邻时间
零阶保持模型 Zero-Order Hold-- 线性插值
3.数据集构建
方案一: custome 组装
方案二: 通过 features定义lerobt数据集
01.按统一的时间轴进行对齐后,
利用 LeRobot 提供的 infer_features 函数,让它自动从你的数据中推断出正确的 Features 定义
或者手动拼接feature
按照 LeRobot 的规范手动构建一个 features 字典
02. 创建数据集并定义图像特征
001.LeRobotDataset.create() 创建数据集。
在 features 参数中,你需要明确地定义哪些字段是图像,并指定其形状(高度、宽度、通道数
002.构造包含图像的数据帧 (Frame)
003. dataset: LeRobotDataset
dataset.add_frame(frame, task=instruction)
构造好的帧字典通过 add_frame 方法添加到数据集中
参考
https://github.com/rerun-io/rerun
https://gitee.com/leju-robot/kuavo-il-opensource/tree/master/kuavo/kuavo_1convert
如何优雅地将 ROS 2 数据对齐并转换为 LeRobot 格式 https://gitcode.csdn.net/69dbac5054b52172bc68fa30.html
浙公网安备 33010602011771号