机器人失败挖掘与主动学习

机器人失败挖掘会找出需要审查、重新标注或重新采集数据的执行片段。重点不是最后一帧故障画面，而是保留故障前兆、策略决策、接触事件、后果及恢复尝试的上下文窗口。

主动学习随后把有限的标注或硬件数据采集预算分配给不确定性、新颖情况、影响、多样性和安全。高分只会产生待审候选项，并不代表故障已经确认，也不授权复现危险状态。

请将本指南与 机器人评估指南 及 人工干预指南 配合使用。应将冻结的故障留出集排除在挖掘与再训练循环之外。

挖掘回合窗口，而不是只看终止帧

最终的碰撞或物体掉落在画面中可能很明显，但此时已太晚，无法用于学习如何预防。截取足够长的窗口，以涵盖状态漂移、感知不确定性、动作选择以及首次可恢复的偏差。

保留指令、观测、接触事件、模式变更和时间戳。应根据任务语义设定窗口跨度；若只固定帧数，不同控制频率所覆盖的实际时长会不同。

建立一个超越已确认失败的候选项库

候选池应包括人工干预、保护性停止、超时、进展缓慢、高不确定性、新颖情况和可疑的成功案例。有些任务虽然完成，却包含不安全的未遂事件或需要纠正的捷径。

保留常见但容易被误判为失败的成功样本（困难负样本），让审核员和检测器学习决策边界，而不只关注视觉上罕见的情况。

信号	用途	主要歧义	校准方式
不确定性	识别模型疑点	可能存在校准偏差	在留出结果上校准
新颖性	识别分布变化	新颖情况也可能安全	按簇审查
进展	识别任务停滞	缓慢也可能合理	使用任务特定的时间阈值
影响	评估后果严重程度	后果可能难以预测	使用风险分类体系
干预	反映人工关注	操作员阈值会变化	结合原因与结果

在合并分数前先校准信号

不确定性、新颖性、预测影响和数据采集成本采用不同的单位，也有不同的错误率。先根据已标注的验证事件进行归一化，并保留各项分数，再计算综合优先级。

综合加权分数可能会让低新颖性稀释高影响候选项的优先级。当后果严重程度应主导排序时，应设置不可被综合分数抵消的安全硬约束。

找出故障的起始点与演变过程

在重复自动化中，故障往往由轻微姿态误差、接触不匹配、重试或时序漂移逐步扩大。应分别标注故障起始点、首次可检测线索、首次纠正机会和最终结果。

该结构支持早期检测和恢复学习。它还防止在不可避免的失败后，每一帧都变成冗余的训练样本。

基于机制而非视觉相似度的聚类

嵌入与轨迹聚类可以减少重复审查，但两个视觉相似的帧可能对应不同原因，例如滑移、标定偏差或指令延迟。必要时加入动作、力、任务进展和错误代码等特征。

从每个簇中审查代表性回合、边界回合和离群回合。保留规模小但后果严重的簇，不要把它们并入仅仅外观相似的大类。

使用运行时检测器作为候选生成器

2025 年 RSS 论文 FAIL-Detect 将“仅使用成功训练数据进行失败检测”表述为序列式分布外检测，并使用共形阈值评估学习得到的信号和事后信号。

这些警报仍只是论文所报告任务中的模型输出，并非事实结论。在判定根因或更改已部署的安全响应之前，仍需人工审查和结果证据。

设计人工审核以获取信息

向审核员展示同步窗口、预测分数、任务阶段以及已有簇的示例。使用结构化问题记录是否故障、原因、可恢复性、严重程度和下一次应采集什么数据，并允许选择“不确定”。

衡量审核员之间的一致性，并把分歧提交裁决。不要强迫复杂的物理事件归入一个看似确定的单一标签。

在决策边界附近保留困难负样本

困难负样本包括柔顺接触、进展缓慢、遮挡或异常光照等看似失败、但最终安全完成的情况。没有这些样本，监控器会反复触发，策略也会避开有效但罕见的状态。

尽可能将每个故障集群与相关的正常变体配对。按任务阶段和运营成本评估误报。

在受保护的安全边界内采集新数据

主动学习不应盲目执行不确定性最高的动作。先用碰撞、力、工作空间、人员进入和复位约束筛选候选动作；若直接由机器人自主复现并不安全，则使用仿真、夹具或遥操作。

明确停止标准和独立保障措施。学习目标从不授权扩展物理安全范围。

预算在多样性和预期价值之间分配

根据簇覆盖率、后果、预期误差降低幅度、成本和可行性，选择要标注或复现的回合。一个规模较大的常见簇，所需代表样本可能少于一个规模较小但后果严重的失效机制簇。

跟踪实际标签、采集和重置成本。使用 混合指南，确保新采集的数据不会在再训练时压倒正常行为。

在未见故障与误报上重新测试

重新训练后，在包含未见回合、新实例和困难负样本的冻结留出集上评估。不要只评估用于选择的候选池，因为该循环会明确地朝这个候选池优化。

测量检测延迟、恢复机会、任务成功率、不安全事件和误报成本。与固定基线进行比较，并保留每一项干预措施。

循环阶段	产物	验收检查	泄漏风险
挖掘	候选窗口	上下文与时间戳完整	只保留终止帧
聚类	按机制分组	保留罕见模式	依赖视觉捷径
复核	标签与决定	记录一致性与不确定性	强迫给出确定结论
数据采集	新回合	满足安全与多样性要求	追逐不安全的不确定状态
重测	冻结留出集	确认在未见故障上的改进	复用候选池

发布失败挖掘流程的可追溯记录

关联候选评分、原始执行片段、评审决定、聚类结果、重新采集请求、新数据集版本、模型更新和留出集结果。保留被拒绝的候选项，便于后续审计抽样策略。

最后按以下清单完成验证。

发布失败挖掘结果时，应记录数据集与模型版本、机器人配置、标定文件、测试日期、完整回合窗口、人工干预，以及候选项被接受或拒绝的决定，并为原始记录设定留存期限。

报告应说明已知限制和未见场景，给出下一项可证伪的实验，并确保冻结留出集始终处于挖掘和再训练循环之外。

• 挖掘包含前因和后果的情境窗口。
• 分别校准不确定性、新颖性、影响和成本。
• 按失效机制聚类，并保留困难负样本。
• 只在独立安全控制限定的范围内收集数据。
• 使用冻结的未见失败样本和正常边界样本重新测试。

常见问题

每一次失败的回合都应该被加入训练吗？

不。去重、验证标签、保留机制，并与正常和恢复数据进行平衡。

高不确定性是否意味着机器人失败了？

不。这是一个候选信号，需要校准、背景和结果证据。

失败挖掘可以只分析单帧吗？

单帧可以作为搜索起点，但根因分析和恢复评估通常需要同步的回合窗口。

主动学习是否故意运行危险状态？

不应该。当复现超出安全范围时，应使用受保护的筛选、仿真、夹具或人工控制。

如何证明再训练有价值？

使用包含未见失败和困难负样本的冻结留出集，并结合检测延迟、任务成功、安全事件和误报等指标。

候选警报与已验证故障的区别

故障评分只用于确定审查优先级；它既不能证明事实，也不构成硬件操作授权。应保留上下文、不确定性、安全约束以及独立的未见样本留出集。