机器人策略运行时安全屏障

机器人策略运行时的安全屏障会在执行器接收命令前，根据显式状态和动作约束进行检查。安全屏障可以放行该动作，用附近的可接受命令替代，或者在截止日期前无安全纠正时进入测试过的备用。

屏蔽解决了与策略不确定性不同的问题。不确定性模块估计模型可能不知道的事项，而屏蔽模块则根据状态估计和动力学假设执行操作约束。仅凭置信度并不能定义安全集。

本指南应与 策略回避指南 及 物理人工智能安全层指南结合使用。软件盾牌补充而非取代独立的保护功能和系统级风险评估。

定义一个可执行约束集

将危险转换为运行时可用的量：关节和执行器极限、速度和力限制、最小距离、工作区边界、稳定余裕、有效载荷状态、禁止接触和人区规则。每个约束需要单位、帧、更新率和保守的容差。

危险列表在控制器能够从观察状态评估之前无法执行。标记依赖不可用或过时信号的约束，并将这些条件引导到备用。

将护盾放置在指令路径中

实际路径应包括策略输出、单元和帧验证、状态新鲜性检查、约束评估、允许或更正命令、执行器接口和干预日志。测试绕过、错误输入和进程失败不能发送未检查命令。

对于个人或高后果机制，应保持独立的停车或保护路径，能够在策略或保护过程停滞时采取行动。

盾牌法	判决依据	实力	初选限制
硬规则	当前阈值	透明且快速	可以在边界处喋喋不休
约束投影	最近可采纳的诉讼	小幅修正	可能错过未来风险
控制障碍功能	安全设定条件	连续约束	模型与可行性
预测滤波器	未来发展轨迹	停止路径的考虑	计算与模型误差
备份状态机	恢复序列	操作清晰度	州级设计

验证状态数据龄与不确定性

如果状态估计过早、误注册或过于自信，数学上安全的动作对当前机器人来说可能不安全。将时间戳、协方差或保守误差界限以及传感器健康标志加入约束计算中。

随着不确定性或延迟增加，缩短距离、速度或力裕度。当新鲜度超过限制时停止或降解，而不是将最后已知状态评估为当前状态。

在界限明确的地方使用硬性规则

硬限界适用于可直接检查的绝对节点、电压、速度或工作空间限制。在边界周围添加滞后和速率限制，以防止快速接受-拒绝振荡。

测试相等性、数值容差、缺失值和同时违规。拒绝响应必须物理上合适；将所有无效命令替换为零可能会丢弃有效载荷或使腿部机器人不稳定。

项目动作仅限于对齐集合内

约束投影搜索策略提案附近的可接受命令。定义任务相关单位的距离度量并保持优先级，因为小的向量空间变化可能是较大的终点执行器或接触变化。

记录原始命令、活动约束、修正命令和求解器状态。如果找不到可行的修正，则切换到测试过的备用，而不是发出最后一次迭代。

应用带有模型极限的控制障碍函数

控制障碍函数表示一个安全集合，约束控制，使系统在陈述的动力学假设下保持在该控制范围内。二次程序可以在满足障碍条件的同时选择接近策略命令的动作。

带有控制障碍函数的安全学习论文和屏蔽论文描述了在其评估环境中的研究方法。真实机器人仍需可行性、离散化、执行器饱和、模型误差和求解器时间验证。

使用预测滤波器来确定停止距离

当前状态检查可以批准不留下安全未来制动轨迹的动作。预测滤波器模拟视平线上的候选运动，并验证其能否保持约束或达到终端安全设置。

预测安全滤波论文提出了基于模型的表述。选择地平线，并从速度、延迟和制动物理中建模保守性，然后测试鲁棒性以建模不匹配。

作为可恢复序列的设计后备

后退并非统一的停车指令。根据接触、载荷、平衡和地形，机器人可能需要受控制动、保持、收回、定位、安全姿势、动力隔离或人工接管。

为每个状态指定进入、完成、超时和升级。重复违规不应产生无限重试循环；应进入需要明确恢复决策的稳定状态。

保持保护独立于策略学习之外

盾牌干预可以成为有用的训练范例，但学习不能悄无声息地削弱保护边界。版本约束逻辑需单独处理，且对任何阈值或动力学模型变化均需进行独立安全审查。

一个不断依赖纠正的策略可能与任务不匹配。只有在保留原始行动被阻挠的原因及后续结果后，才训练干预上下文。

测量最坏情况下的运行时间和超时行为

控制环路需要在截止时间前有保证的响应，而不仅仅是良好的平均延迟。在CPU压力、内存和网络压力下，测量传感器获取、状态估计、碰撞查询、求解器、指令传输和调度。

定义超时、不可行、数值错误和陈旧输入的失效安全行为。通过故障注入演练这些路径，并验证独立停止是否仍然可用。

评估干预措施时不夸大成功率

报告约束违规、最小余裕、干预率、纠正幅度、错误干预、遗漏危害、备选完成、任务成功率和周期时间。防止的不安全行动是保护证据，而非完成任务。

高干预可能意味着良好的灾害捕获、过于保守的规则、糟糕的状态估计或糟糕的策略。使用 机器人 VLA 评估指南 来区分自主策略质量、保护贡献和辅助结果。

验证层	度量	故障注入	传递证据
约束	最小余距	边界误差与模型误差	没有违规
时间安排	最坏情况延迟	负载和网络延迟	截止日期满足或退回
求解器	现状与可行性	暂停与NaN	安全升级
干预措施	速率与修正	近边界命令	预期回应
恢复	备用完成	载荷与接触工况	稳定终态

发布盾牌策略兼容性合同

包约束版本、帧、单位、状态有效性限制、动态假设、求解器设置、截止时间、备回机、独立停止接口、策略和机器人标识符、校准和审计模式。在启用运动前重放该捆绑包。

关闭发布审查，需进行以下检查。

评估“机器人策略运行时安全屏障”时，还应保存模型版本、机器人配置、标定文件、测试日期和全部试验记录。把成功、失败、恢复与人工介入放在同一份数据中，才能区分模型能力、系统接口和现场流程造成的差异。

成本评估除了设备与算力，还要记录数据采集、工程调试、安全措施、维护、停机和人员培训。只有把这些持续投入与单位成功任务的价值比较，才能判断方案是否适合扩大。

上线后仍要持续检查分布变化、传感器漂移、机械磨损和人工接管原因。监测结果应能触发降级、停止与重新验证流程，并为下一轮数据采集和模型更新留下可追溯记录。

最终结论应明确写出已知限制、尚未验证的场景和下一项可证伪的实验，使后续团队能够沿着证据继续推进。

实际项目还应指定数据、模型、控制器和安全流程的负责人，并预先定义回滚条件。责任边界、审批记录与变更日志越清楚，故障发生后越容易停止扩散、定位原因并安全恢复。

把任务拆成感知、决策、动作执行和结果确认，可以更准确地定位瓶颈。每一阶段都应有独立指标与失败示例，避免用端到端成功率掩盖偶发但严重的风险。

引用的产品规格、论文结果和监管要求需要记录发布日期与适用版本。资料更新后应重新核对关键结论；无法从一手来源确认的内容，应明确标注为待验证信息。

小规模试点的价值在于提前暴露接口、人员协作和异常处理问题。试点结束后应依据预设门槛决定扩大、修改或停止，而不是因为已经投入资源就默认继续。

所有结论都应能够追溯到原始记录，并可复核。

• 将危险转换为运行时可检查的约束。
• 保守地拒绝陈旧或不确定的状态。
• 测试纠正、不可行性和超时路径。
• 验证可恢复的备用和独立停止。
• 报告干预措施应与任务成功分开报告。

常见问题

安全屏障牌能让一项学过的策略变得安全吗？

不。它限制了在假设下的具体行动；它不涵盖未知危害，也不认证整个系统。

策略不确定性和安全屏障是一样的吗？

不。不确定性用于估算模型怀疑，而盾牌则强制执行明确的操作约束。

每个被拒绝的指令都应该变成零速度吗？

不行。安全的备选取决于载荷、接触、平衡、地形和执行器行为。

护盾应该跑到哪里？

在经过验证的指令路径中，距离执行器足够近以执行截止时间，并在需要时设有独立的保护路径。

高干预率能证明护盾有效吗？

不仅仅是；它可能反映了保守规则、陈旧状态、误报或策略与约束条件不匹配。

可执行约束与备援边界

运行时屏蔽是一种可执行的约束和备用层。其主张受限于传感、动力学假设、时序、约束覆盖率和独立保护设计。