LIBERO：终身机器人学习的综合基准与数据集解析

3. LIBERO-Goal（目标导向迁移）

涉及不同的操作目标，测试任务规划的灵活性：

1. 打开柜子的中间抽屉
2. 将碗放到炉子上
3. 将酒瓶放到柜子顶部
4. 打开顶部抽屉并将碗放入
5. 将碗放到柜子顶部
6. 将盘子推到炉子前面
7. 将奶油奶酪放入碗中
8. 打开炉子
9. 将碗放到盘子上
10. 将酒瓶放到架子上

4. LIBERO-10（综合测试套件）

来自不同场景的复合操作任务，用于评估持续学习性能：

1. 客厅场景 2：将字母汤和番茄酱都放入篮子
2. 客厅场景 2：将奶油奶酪盒和黄油都放入篮子
3. 厨房场景 3：打开炉子并将摩卡壶放上去
4. 厨房场景 4：将黑碗放入柜子底部抽屉并关闭
5. 客厅场景 5：将白色杯子放到左边盘子上，黄白杯子放到右边盘子上
6. 书房场景 1：拾取书并放入收纳盒后部隔间
7. 客厅场景 6：将白色杯子放到盘子上，巧克力布丁放到盘子右边
8. 客厅场景 1：将字母汤和奶油奶酪盒都放入篮子
9. 厨房场景 8：将两个摩卡壶都放到炉子上
10. 厨房场景 6：将黄白杯子放入微波炉并关闭

此外，系统支持 21 种不同的任务顺序排列，用于评估持续学习算法在不同序列下的表现。

算法与架构深度解析

终身学习算法机制

1. Sequential (base)

这是所有终身学习算法的父类，也是顺序微调基线。原理是按顺序在每个任务上训练策略网络，不采用任何防止遗忘的机制。每个任务开始时初始化优化器和调度器，通过 observe() 方法学习数据点。过程包括数据设备转移、策略损失计算、反向传播及梯度裁剪。

2. Experience Replay (ER)

维护一个包含之前任务数据的缓冲区。学习新任务时，从缓冲区采样旧任务数据与当前任务数据混合训练，有效防止灾难性遗忘。每个任务结束后，将该任务的数据集截断并添加到缓冲区。

3. Elastic Weight Consolidation (EWC)

通过添加正则化惩罚项来保护重要参数不被修改。利用 Fisher 信息矩阵估计参数重要性，在损失函数中加入惩罚项，限制重要参数的变化幅度。

4. PackNet

渐进式网络剪枝算法。为每个任务分配网络的不同子集。学习新任务时冻结之前任务使用的权重，仅在剩余可训练权重上学习。任务结束后进行剪枝，保留当前任务的重要权重。

5. Multitask

多任务学习基线，所有任务同时训练。

神经网络架构

所有策略网络均继承自 BasePolicy 基类，实现统一接口。主要区别在于时序建模方式：

• BCRNNPolicy：使用 LSTM 处理时序信息，包含图像编码器、语言编码器和额外模态编码器。
• BCTransformerPolicy：使用时序 Transformer 处理依赖，将额外模态转换为 token。
• BCViLTPolicy：采用双层 Transformer 分别处理空间和时序信息，融合图像和语言特征。

前向传播通常包括空间编码和时序编码两个阶段。所有算法均基于行为克隆，通过模仿人类演示学习策略。

待解决的核心挑战

LIBERO 旨在解决终身机器人学习中的几个关键问题：

1. 知识迁移评估：通过受控分布偏移，系统性研究不同类型知识的迁移能力。
2. 灾难性遗忘：利用混淆矩阵跟踪在学习新任务后对旧任务性能的保持情况。
3. 前向和后向迁移：
   • 前向迁移：衡量学习速度，通过成功率 AUC 评估。
   • 后向迁移：评估学习新任务后对旧任务性能的影响。

实验评估方法

指标体系

训练过程中系统跟踪多个关键指标：

• 损失混淆矩阵：记录不同训练阶段各任务的 BC 损失
• 成功率混淆矩阵：记录不同训练阶段各任务的成功率
• 学习曲线 AUC：衡量智能体学习和成功的速度

流程与效率

对于顺序学习算法，流程为：对每个任务 i 训练智能体 -> 在所有已见任务（0 到 i）上评估损失和成功率 -> 更新混淆矩阵和前向迁移指标。多任务学习基线则对所有任务同时训练。系统还会报告策略网络的计算复杂度，以 GFLOPs 和参数量（MParams）衡量。

安装与数据集获取

环境配置

# 安装 pip install libero
# 下载示范数据与套件
python -m libero.download_suite --suite libero_100
# 顺序微调实验（以 bc_transformer 为例）
python libero/lifelong_train.py \
  --suite libero_100 \
  --policy bc_transformer_policy \
  --algo sequential

数据集下载

推荐使用 HuggingFace 源，原始链接可能失效。

HuggingFace 仓库地址:

• 仓库 ID: yifengzhu-hf/LIBERO-datasets
• 完整地址：https://huggingface.co/datasets/yifengzhu-hf/LIBERO-datasets

下载脚本:

# 使用 HuggingFace 下载 (推荐)
python benchmark_scripts/download_libero_datasets.py --use-huggingface

# 下载特定数据集
python benchmark_scripts/download_libero_datasets.py --datasets libero_spatial --use-huggingface

若需直接下载，可使用以下 Box.com 链接：

• libero_object: https://utexas.box.com/shared/static/avkklgeq0e1dgzxz52x488whpu8mgspk.zip
• libero_goal: https://utexas.box.com/shared/static/iv5e4dos8yy2b212pkzkpxu9wbdgjfeg.zip
• libero_spatial: https://utexas.box.com/shared/static/04k94hyizn4huhbv5sz4ev9p2h1p6s7f.zip
• libero_100: https://utexas.box.com/shared/static/cv73j8zschq8auh9npzt876fdc1akvmk.zip