机器人失败挖掘与主动学习

机器人失败挖掘会找出需要审查、重新标注或重新采集数据的执行片段。重点不是最后一帧故障画面,而是保留故障前兆、策略决策、接触事件、后果及恢复尝试的上下文窗口。

主动学习随后把有限的标注或硬件数据采集预算分配给不确定性、新颖情况、影响、多样性和安全。高分只会产生待审候选项,并不代表故障已经确认,也不授权复现危险状态。

请将本指南与 机器人评估指南 及 人工干预指南 配合使用。应将冻结的故障留出集排除在挖掘与再训练循环之外。

挖掘回合窗口,而不是只看终止帧

最终的碰撞或物体掉落在画面中可能很明显,但此时已太晚,无法用于学习如何预防。截取足够长的窗口,以涵盖状态漂移、感知不确定性、动作选择以及首次可恢复的偏差。

保留指令、观测、接触事件、模式变更和时间戳。应根据任务语义设定窗口跨度;若只固定帧数,不同控制频率所覆盖的实际时长会不同。

自动化实验室机械臂操作检测板
这张实验室自动化照片仅用于说明重复运行场景,并非文中所述检测器或实际故障事件的记录。来源:NIAID 通过维基共享资源。版权: 公有领域,美国政府作品。

建立一个超越已确认失败的候选项库

候选池应包括人工干预、保护性停止、超时、进展缓慢、高不确定性、新颖情况和可疑的成功案例。有些任务虽然完成,却包含不安全的未遂事件或需要纠正的捷径。

保留常见但容易被误判为失败的成功样本(困难负样本),让审核员和检测器学习决策边界,而不只关注视觉上罕见的情况。

信号用途主要歧义校准方式
不确定性识别模型疑点可能存在校准偏差在留出结果上校准
新颖性识别分布变化新颖情况也可能安全按簇审查
进展识别任务停滞缓慢也可能合理使用任务特定的时间阈值
影响评估后果严重程度后果可能难以预测使用风险分类体系
干预反映人工关注操作员阈值会变化结合原因与结果

在合并分数前先校准信号

不确定性、新颖性、预测影响和数据采集成本采用不同的单位,也有不同的错误率。先根据已标注的验证事件进行归一化,并保留各项分数,再计算综合优先级。

综合加权分数可能会让低新颖性稀释高影响候选项的优先级。当后果严重程度应主导排序时,应设置不可被综合分数抵消的安全硬约束。

找出故障的起始点与演变过程

在重复自动化中,故障往往由轻微姿态误差、接触不匹配、重试或时序漂移逐步扩大。应分别标注故障起始点、首次可检测线索、首次纠正机会和最终结果。

该结构支持早期检测和恢复学习。它还防止在不可避免的失败后,每一帧都变成冗余的训练样本。

基于机制而非视觉相似度的聚类

嵌入与轨迹聚类可以减少重复审查,但两个视觉相似的帧可能对应不同原因,例如滑移、标定偏差或指令延迟。必要时加入动作、力、任务进展和错误代码等特征。

从每个簇中审查代表性回合、边界回合和离群回合。保留规模小但后果严重的簇,不要把它们并入仅仅外观相似的大类。

使用运行时检测器作为候选生成器

2025 年 RSS 论文 FAIL-Detect 将“仅使用成功训练数据进行失败检测”表述为序列式分布外检测,并使用共形阈值评估学习得到的信号和事后信号。

这些警报仍只是论文所报告任务中的模型输出,并非事实结论。在判定根因或更改已部署的安全响应之前,仍需人工审查和结果证据。

设计人工审核以获取信息

向审核员展示同步窗口、预测分数、任务阶段以及已有簇的示例。使用结构化问题记录是否故障、原因、可恢复性、严重程度和下一次应采集什么数据,并允许选择“不确定”。

衡量审核员之间的一致性,并把分歧提交裁决。不要强迫复杂的物理事件归入一个看似确定的单一标签。

在决策边界附近保留困难负样本

困难负样本包括柔顺接触、进展缓慢、遮挡或异常光照等看似失败、但最终安全完成的情况。没有这些样本,监控器会反复触发,策略也会避开有效但罕见的状态。

尽可能将每个故障集群与相关的正常变体配对。按任务阶段和运营成本评估误报。

在受保护的安全边界内采集新数据

主动学习不应盲目执行不确定性最高的动作。先用碰撞、力、工作空间、人员进入和复位约束筛选候选动作;若直接由机器人自主复现并不安全,则使用仿真、夹具或遥操作。

明确停止标准和独立保障措施。学习目标从不授权扩展物理安全范围。

预算在多样性和预期价值之间分配

根据簇覆盖率、后果、预期误差降低幅度、成本和可行性,选择要标注或复现的回合。一个规模较大的常见簇,所需代表样本可能少于一个规模较小但后果严重的失效机制簇。

跟踪实际标签、采集和重置成本。使用 混合指南,确保新采集的数据不会在再训练时压倒正常行为。

在未见故障与误报上重新测试

重新训练后,在包含未见回合、新实例和困难负样本的冻结留出集上评估。不要只评估用于选择的候选池,因为该循环会明确地朝这个候选池优化。

测量检测延迟、恢复机会、任务成功率、不安全事件和误报成本。与固定基线进行比较,并保留每一项干预措施。

循环阶段产物验收检查泄漏风险
挖掘候选窗口上下文与时间戳完整只保留终止帧
聚类按机制分组保留罕见模式依赖视觉捷径
复核标签与决定记录一致性与不确定性强迫给出确定结论
数据采集新回合满足安全与多样性要求追逐不安全的不确定状态
重测冻结留出集确认在未见故障上的改进复用候选池

发布失败挖掘流程的可追溯记录

关联候选评分、原始执行片段、评审决定、聚类结果、重新采集请求、新数据集版本、模型更新和留出集结果。保留被拒绝的候选项,便于后续审计抽样策略。

最后按以下清单完成验证。

发布失败挖掘结果时,应记录数据集与模型版本、机器人配置、标定文件、测试日期、完整回合窗口、人工干预,以及候选项被接受或拒绝的决定,并为原始记录设定留存期限。

报告应说明已知限制和未见场景,给出下一项可证伪的实验,并确保冻结留出集始终处于挖掘和再训练循环之外。

  • 挖掘包含前因和后果的情境窗口。
  • 分别校准不确定性、新颖性、影响和成本。
  • 按失效机制聚类,并保留困难负样本。
  • 只在独立安全控制限定的范围内收集数据。
  • 使用冻结的未见失败样本和正常边界样本重新测试。

常见问题

每一次失败的回合都应该被加入训练吗?

不。去重、验证标签、保留机制,并与正常和恢复数据进行平衡。

高不确定性是否意味着机器人失败了?

不。这是一个候选信号,需要校准、背景和结果证据。

失败挖掘可以只分析单帧吗?

单帧可以作为搜索起点,但根因分析和恢复评估通常需要同步的回合窗口。

主动学习是否故意运行危险状态?

不应该。当复现超出安全范围时,应使用受保护的筛选、仿真、夹具或人工控制。

如何证明再训练有价值?

使用包含未见失败和困难负样本的冻结留出集,并结合检测延迟、任务成功、安全事件和误报等指标。

候选警报与已验证故障的区别

故障评分只用于确定审查优先级;它既不能证明事实,也不构成硬件操作授权。应保留上下文、不确定性、安全约束以及独立的未见样本留出集。