Robbyant 发布 LingBot-VLA 2.0:开源 6B 跨实体机器人视觉-语言-动作模型
阅读原文· marktechpost.com蚂蚁Robbyant放出的开源VLA 2.0把通用机器人策略往前推了一步,60,000小时跨具身数据、统一动作空间和MoE设计对做机器人的团队是实打实的参考,不是又一个lab-only的demo。
Robbyant 推出 LingBot-VLA 2.0,一个 6B 参数的开源视觉-语言-动作(VLA)基础模型。它以 Qwen3-VL-4B-Instruct 为骨干,采用 MoE 动作专家架构,通过 55 维规范向量统一表示不同机器人的状态和动作。训练数据涵盖约 60,000 小时高质量数据(50,000 小时机器人轨迹 + 10,000 小时第一人称人类视频),覆盖 20 种机器人配置。在 GM-100 双机械臂基准测试中,模型在多个平台上超越 π0.5 和之前版本。模型权重、代码和技术报告已以 Apache-2.0 许可开源。
蚂蚁集团旗下的 Robbyant 发布了 LingBot-VLA 2.0,这是一种面向机器人的视觉-语言-动作(VLA)基础模型。此次发布包括一份技术报告、一个基于 Apache-2.0 的开源代码库以及一个 6B 的检查点。研究团队瞄准了一个众所周知的差距:VLA 模型在实验室中往往表现出色,但在实际部署中却容易出问题。LingBot-VLA 2.0 沿三个实用维度对先前版本进行了改进,分别是泛化能力、扩展的动作空间和预测性动力学建模。
什么是 LingBot-VLA 2.0?
LingBot-VLA 2.0 是一种基于视觉-语言主干网络构建的通用机器人策略。它将摄像头图像和语言指令转换为机器人动作。公开的模型是 lingbot-vla-v2-6b,这是一个 6B 规模的“原生深度”检查点。它使用 Qwen3-VL-4B-Instruct 作为视觉语言模型的主干网络。两个教师模型——LingBot-Depth 和 DINO-Video——通过知识蒸馏来监督训练过程。
在 NVIDIA GeForce RTX 4090D 上,一次推理调用大约需要 130 毫秒。该测量值采用 10 步去噪。动作专家模块采用混合专家(MoE)架构进行扩展。
数据流水线:横跨 20 种配置的 6 万小时数据
泛化从数据开始。研究团队整理出约 6 万小时的预训练数据,其中包括 5 万小时的机器人轨迹数据和 1 万小时的以自我为中心的人类视频数据。机器人数据涵盖了从单臂装置到完整人形机器人的 20 种机器人配置。原始数据池更大:约 9 万小时的机器人数据和 2 万小时的自我中心视频数据。经过重新设计的流水线对这些嘈杂样本进行过滤,最终得到高质量的数据集。
过滤方式明确且可量化。研究团队针对每个实体计算三阶加加速度(jerk),以及速度和加速度的 Z 分数。异常平滑或静态信号超过 95% 的片段会被剔除。视频会利用每个机器人的 URDF 文件与回放状态进行比对。标注人员会移除模糊、遮挡、掉帧和多视角不同步等问题。以自我为中心的视频片段先通过视觉语言模型过滤器,再经过自我中心 SLAM 和 MANO 手部姿态重建处理。
标注通过视觉语言模型实现自动化。Qwen3.6-27B 将每个视频分割成时间上连续的子任务。每个子任务从一个包含 18 个类别的封闭词表中获取一个原子动作。该词表包含 15 个原始动作,加上移动、空闲和其他。在整个语料库中,移动和行进在频率上占主导地位。
统一动作表示
不同机器人具有不同的关节,因此 LingBot-VLA 2.0 对它们进行了统一。它使用一个 55 维的规范向量来表示状态和动作。这个布局在数据集中的所有实体上是固定的。
| 组件 | 维度 |
| 手臂关节位置 | 14 |
| 末端执行器位姿 | 14 |
| 夹爪位置 | 2 |
| 手部关节位置 | 12 |
| 腰部位置 | 4 |
| 头部位置 | 2 |
| 移动信号 | 3 |
| 保留 | 4 |
每个手臂的末端执行器位姿使用 XYZ 坐标加旋转四元数,每只手臂得到 7 个维度。缺少某个身体部件的机器人只需填充对应的维度。这使得单个模型能够控制手臂、手部、夹爪、腰部、头部和移动底座。
MoE 动作专家
动作专家将其前馈网络替换为稀疏 MoE 层。每个 MoE 层保留一个共享专家和若干个路由专家。每个 token 只激活前 K 个路由专家,因此活跃计算量保持有界。每个专家是一个中间宽度较小的 SwiGLU MLP。
路由采用基于 sigmoid、无辅助损失的策略,受 DeepSeek-V3 启发。每个专家有一个偏置项来纠正负载不均衡,而不增加负载均衡损失。路由置信度仍然来自模型原始的、无偏的亲和度分数。在匹配活跃参数的情况下,MoE 模型达到了比密集基线更低的训练损失。它在 GM-100 任务上也达到了更低的验证动作误差。
预测动力学的双查询蒸馏
实际执行需要预判,而不仅仅是对当前帧的反应。LingBot-VLA 2.0 在视觉和文本 token 后附加了两个可学习的查询。Qt 针对当前观测,Qt+T 针对未来观测。时间跨度 T 等于动作块大小。
两位教师监督这些查询。LingBot-Depth 通过深度预测提供明确的几何线索。DINO-Video 提供基于时间锚定的语义先验。DINO-Video 基于 DINOv3 骨干网络构建,采用分块因果时序注意力机制和 3D-RoPE。该模型在涵盖互联网、第一人称和机器人数据的 500 万段视频片段上训练。在 LARYBench 评估中,DINO-Video 在四项指标中领先三项。
基准测试结果
Robbyant 在通用设置下,于 GM-100(Great March 100)双臂基准上评估模型。单个策略针对每种本体联合训练九个任务。结果以进度分数/成功率报告。
| 平台 | GR00T N1.7 | π0.5 | LingBot-VLA-1.0 | LingBot-VLA-2.0 |
| AgileX Cobot Magic | 36.3 / 17.8 | 59.1 / 32.2 | 58.2 / 30.0 | 66.2 / 34.4 |
| Galaxea R1Pro | 16.4 / 5.6 | 27.4 / 8.9 | 32.7 / 15.6 | 34.6 / 15.6 |
在长程移动操作任务上,模型在两种设置下进行测试。域内(ID)使用训练分布,而域外(OOD)则扰动位姿和物体。
| 本体 | 任务 | 设置 | LingBot-VLA-2.0 | π0.5 |
| Astribot S1 | 冰箱分拣 | 域内(In-domain) | 77.1 / 60.0 | 65.3 / 46.7 |
| Astribot S1 | 冰箱分拣 | 域外(OOD) | 37.0 / 13.3 | 30.3 / 6.7 |
| Cobot Magic-ARX X5 | 灶台清洁 | 域内(In-domain) | 84.3 / 66.7 | 79.9 / 60.0 |
| Cobot Magic-ARX X5 | 灶台清洁 | 域外(OOD) | 67.5 / 40.0 | 62.5 / 33.3 |
在需要精确物体定位的任务上,提升幅度最大。在 Agilex 取钥匙链任务中,成功率从 1.0 版本的 60.0 提升至 100.0。部分任务在进度分数与成功率之间仍存在差距。该差距表明在最终的精确定位或释放步骤上存在失败。
快速上手
该代码库包含安装、下载和部署脚本。以下示例下载已发布的权重。
# Environment: Python 3.12, PyTorch 2.8.0, flash-attn 2.8.3
python3 scripts/download_hf_model.py --repo_id robbyant/lingbot-vla-v2-6b --local_dir lingbot-vla真实机器人部署通过编译后的推理运行策略服务器。
export QWEN3VL_PATH=path_to_Qwen3-VL-4B-Instruct
python -m deploy.lingbot_vla_v2_policy \
--model_path path_to_posttraining_ckpt \
--use_compile \
--use_length 25 \
--port port
后训练使用 LeRobot v2.1 或 v3.0 数据集。提供的示例在 RoboTwin 2.0 的 50 个任务上进行微调。路由可以使用带有 z-loss 的序列级辅助损失,或使用无损失设置。配置中同样暴露了 Muon 优化器,默认使用 AdamW。
用例与示例
扩展后的动作空间对应具体的部署场景。
- 厨房移动操作:Astribot S1 将水果和饮料分拣放入冰箱。这需要底座移动、开门和物体放置协同完成。
- 表面清洁:Cobot Magic-ARX X5 用海绵擦拭炉灶上的泡沫。这串联了抓取、擦拭和工具重新定位。
- 双手包装与分拣:GM-100 的任务包括鸡蛋包装、工具包装和积木分拣。
- 灵巧手控制:Unitree G1、Fourier GR-2 和 AgiBot A2 使用 12 自由度的手,而非夹爪。
交互式动态解释器
关键要点
- LingBot-VLA 2.0 在约 60,000 小时的数据上进行预训练——其中 50,000 小时为跨 20 种配置的机器人轨迹数据,另加 10,000 小时的第一人称人类视频数据。
- 一个统一的 55 维标准动作空间涵盖了手臂、末端执行器、夹爪、灵巧手、腰部、头部和移动底座,因此单个模型即可实现全身控制。
- 动作专家采用了一种无 token 级辅助损失的 MoE 架构,在匹配的激活参数下,其训练损失和验证动作误差均低于稠密模型。
- 双查询蒸馏引入了由 LingBot-Depth(几何)和 DINO-Video(时序动态)监督的当前/未来查询,用于实现具有未来感知能力的操作。
- 在 GM-100 通用型设定下,它在 AgileX Cobot Magic 上得分为 66.2/34.4,在 Galaxea R1Pro 上得分为 34.6/15.6,领先于 π0.5 和 LingBot-VLA-1.0;在域内和域外的长周期移动任务上,它均优于 π0.5。