Gemini Robotics-ER 1.6:空间推理、API输出与集成

版本更新: Google计划于2026年8月31日停止提供旧版gemini-robotics-er-1.6-preview。其后续型号Gemini Robotics ER 2目前处于公开预览阶段。新的模型ID、价格和迁移范围请参阅ER 2价格与API指南。停止日期以Gemini API官方更新日志为准;下方原文将作为ER 1.6的历史说明保留。

Gemini Robotics-ER 1.6 是一个具身推理模型,旨在将视觉和语言理解与对机器人有用的空间输出连接起来。它可以推理物体、区域、轨迹和计划,但不能替代校准感知、运动规划、低级控制或安全系统。

工程问题是概率模型输出如何跨越到确定性机器人栈。坐标需要框架和比例,计划需要可达性和碰撞检查,动作需要极限、反馈和在场景或模型假设错误时的恢复。

本指南补充了 《物理人工智能控制循环》 和 GR00T模型指南。产品访问、能力、限制和API行为可能会发生变化,请查阅当前的主要文档。

ER强调具身推理而非低层次的驱动

Google DeepMind的 模型卡 将 Gemini Robotics-ER 1.6 描述为具备空间和具身推理能力的视觉语言模型。它能够支持机器人应用中的感知和规划问题。

其输出仍然是提案或结构化信息。机器人系统必须决定如何验证、转换和执行它们。不要用运动指令来描述一个点、一个方块或轨迹。

输入应揭示任务并协调假设

图像、视频帧、语言指令及相关上下文定义模型的视图。相机内在因素、姿势、裁剪、时间戳和场景变化会影响输出与物理空间的映射。

记录精确提示、型号标识符、 API 设置和输入预处理。如果未提供机器人状态或工具几何形状,模型不能被假定知道。对下游软件消耗的每个模式纳入版本管理。

官方示例:将场景理解转化为空间点和机器人轨迹
官方示例展示了机器人的空间基础推理;但这并不意味着模型直接驱动低能电机。来源:Google AI for Developers。许可信息: CC BY 4.0 站点政策。

定位点和盒子需要坐标契约

模型可以识别图像点、区域或物体位置。下游代码必须知道坐标是像素、归一化值、摄像机帧位置还是其他约定。图像大小调整和方向必须保持一致。

验证坐标与已知标记和物体的关系。拒绝越界、模糊或低置信度输出。视觉上合理的叠加仍可能在度量上错误,无法用于抓取。

输出有用的必须转换关键检查
指向或盒子物体指代定位图像坐标映射界限与同一性
深度或几何形状空间关系相机校准与比例度量误差
轨迹草图意图或路径提示时间与机器人框架碰撞与可达性
任务规划动作序列技能与状态映射前提条件与恢复

空间推理必须与校准后的几何结构进行调和

机器人规划使用摄像机模型、变换、运动学和环境几何。模型的语义理解可以选择对象或关系,而校准感知则提供度量姿态和不确定性。

显式融合源,而不是默默用模型估计替换几何。每次变换和观察都给时间戳。动态场景需要在执行前确认,因为推断后人或物体可能会移动。

官方示例展示了界面边界

官方机器人文档展示了模型输出如何描述场景元素和轨迹。这些示例有助于定义可能的API交互,而非保证在任意机器人、摄像头和任务间的成功。

用置顶输入复现示例,然后测试被保留的物体、光线、杂乱和视角。测量有效输出以及弃权或失败行为。演示应转化为可重复的测试。

从双子座机器人ER推理到机器人执行的五阶段边界
定位模型输出进入验证、运动规划和守护执行,硬件启动前。来源:Physical AI Lab。

计划应该映射到受限的技能库

语言层面的计划如“拣选”、“放置”或“打开”应定义为具有明确参数、前提条件、限制和成功检定的技能。自由文本不应直接传递给无限制机器人动作。

执行层可以请求澄清、重新观察或在参数缺失时停止。技能应报告已验证的结果和失效代码,以避免模型或规划器假设已完成。

动作规划和控制仍然是分开的安全边界

经空间定位的目标进入反向运动学、碰撞检查、轨迹生成和底层控制。关节限制、速度、力、工作区和保护区均独立执行,不依赖模型建议。

通过感知和机器人反馈监控执行。仅在有限制规则内重新规划;否则安全停止。安全级功能应排除在一般模型之外,除非在适当的架构中经过特别验证。

失败检测立即反应工程证据
错误的物体身份验证不要执行混淆矩阵与试验
帧不匹配几何合理性检查拒绝输出校准测试
无法到达的目标运动学检查请求替代方案可达性覆盖
碰撞路径规划器检查阻止轨迹执行场景套件
场景转换新鲜观察停止或重新规划延迟与动态测试

评估需求、任务分母和失败分类法

统计有效的试验数,而不仅仅是成功的例子。区分对象基础、空间精度、计划有效性、运动可行性、执行成功率和恢复。最终任务失败可以从任何层开始。

使用保留的场景和带有受控变异的重复试验。报告干预、延迟、无效输出和戒除率。与同一工作流程下更简单的感知或脚本基线进行比较。

延迟、成本和隐私都会影响部署

云API调用引入了网络延迟、可用性和数据治理问题。本地预处理和缓存可以提供帮助,但不应造成过时状态。当服务不可用时,系统需要超时和明确的行为。

衡量端到端决策时间和任务价值,而非仅仅建模延迟。审查来自工作场所或人员图像的数据保留、访问控制及区域需求。部署前应核查当前服务条款。

渐进式集成路径降低了硬件风险

先从录制图像和离线评分开始,然后使用阴影模式、仿真和防护机器人配置。在扩展任务或速度前,要求在每个边界进行确定性验证。

维护提示、模式、校准、测试和日志作为版本管理工件。当模型在机器人保持有限制控制和安全恢复的同时,提升已验证的任务结果时非常有用。

评估“Gemini Robotics-ER 1.6:空间推理、API输出与集成”时,还应保存模型版本、机器人配置、标定文件、测试日期和全部试验记录。把成功、失败、恢复与人工介入放在同一份数据中,才能区分模型能力、系统接口和现场流程造成的差异。

  • 固定模型版本、提示词和输出模式。
  • 定义坐标、帧和比例。
  • 验证几何形状、可达性和碰撞。
  • 只通过有明确边界的技能和控制器执行动作。
  • 测量故障、延迟、干预和恢复情况。

常见问题

什么是Gemini Robotics-ER 1.6?

它是一种具身推理的视觉语言模型,旨在提供在机器人应用中有用的空间基础理解。

Gemini Robotics-ER能直接控制电机吗?

单独不行。其输出应通过几何验证、规划、低层控制和独立安全限制。

机器人模型能提供哪些定位输出?

根据当前的API类型,示例可以包括点、区域、空间关系、轨迹或结构化任务规划。

应如何评估 ER 输出?

测量定位准确率、坐标有效性、计划可行性、任务成功率、延迟、干预措施及失败恢复,均为多次进行的试验。

它能取代机器人安全系统吗?

不。安全功能需要基于危害的架构和经过验证的保护机制,独立于一般概率模型输出。

型号与API版本说明

模型的可用性、访问、 API模式和能力可能会发生变化。请核实当前的官方模型卡和文档、引脚版本,并将几何、控制和安全验证排除在不可信的模型输出之外。