先给结论:让完整机器人工作负载持续运行到热平衡,再判定计算机是否合格。传感器接入、预处理、推理、后处理和控制发布要同时开启,并把 P50、P95、P99 延迟与温度、功耗、CPU/GPU/内存时钟、内存占用和丢帧放在同一时间轴上。
Jetson 可依据 NVIDIA 的平台功耗与性能文档锁定对应版本的功耗和热管理。硬件架构选型见机器人 CPU、GPU、NPU 对比,部署见机器人边缘 AI,输入设计见机器人传感器,关节发热则属于机器人关节热管理问题。
TOPS 是计算能力上限,不等于机器人持续运行时的响应时间
TOPS 取决于运算类型和数值精度,不能自动覆盖摄像头解码、数据复制、CPU 预处理、内存竞争、引擎执行、后处理、规划和 ROS 2 传输。两台峰值 TOPS 相同的设备,摄像头到指令的延迟可能完全不同。
冷机开放台架上的短测试也看不到风扇、散热器和封闭机箱蓄热后的时钟状态。采购标准应问巡检后半段是否仍满足控制周期,而不是开机瞬间最高分。
| 指标 | 能说明什么 | 单独不能证明什么 |
|---|---|---|
| TOPS | 指定精度下的计算上限 | 机器人端到端延迟 |
| 冷机平均延迟 | 热浸前的中心性能 | 热稳态尾延迟 |
| P95、P99 | 慢帧造成的超期风险 | 输出动作本身是否安全 |
| 时钟、温度、功耗 | 性能降额发生时间与原因 | 传感器和控制集成正确 |
先固定模块、软件版本、功耗模式和散热总成
测试头部应记录模块 SKU、载板、Jetson Linux 与 JetPack、CUDA、TensorRT、内核、模型哈希、精度、功耗模式、风扇策略、散热器和机箱。Jetson Thor r39.2 功能表说明产品系列和版本会改变支持能力,不能跨版本套用命令。
在受支持的 Orin 版本中,例如用 `sudo nvpmodel -q` 查询当前模式,再以 `/etc/nvpmodel.conf` 和同版官方文档核对模式 ID 与频率上限。强制最大时钟的结果要与机器人实际功耗模式分开报告。
从真实传感器一直运行到动作发布
开启生产环境的摄像头数量、分辨率和帧率,以及 LiDAR 解析、时间同步、预处理、检测器或 VLA、后处理、地图更新、日志、网络和控制消息。只循环推理引擎会去掉 CPU、内存与 I/O 竞争,使数据虚高。
NVIDIA Jetson 测试与验证计划在负载下检查 CPU、GPU、EMC 频率,并通过 `tegrastats` 观察频率、温度、功耗和内存。还要在应用各边界打时间戳,才能定位哪个环节错过截止时间。
| 阶段 | 必须保留的生产负载 | 记录数据 |
|---|---|---|
| 传感器接入 | 真实摄像头、LiDAR、IMU | 速率、丢帧、时间戳 |
| 预处理 | 缩放、归一化、复制 | CPU/GPU 时间与传输 |
| 推理 | 部署引擎和实际精度 | P50、P95、P99、吞吐 |
| 后处理与控制 | 过滤、规划、发布 | 端到端延迟、超期 |
| 系统服务 | 日志、网络、存储 | 温度、功耗、时钟、内存 |

热浸测试要覆盖可信的最差环境与机箱条件
不要固定跑十分钟就结束。测试应持续到温度与时钟稳定,或覆盖完整任务工作周期,取两者中更长者;同时包含最高环境温度、日晒、脏滤网、受限进风、电池电压范围和邻近热源。
NVIDIA 热告警验证步骤用长时间并发负载升温并观察 trip point 与 throttle alert。产品测试还要记录事件前后的时钟下降、P99 上升、丢帧和恢复时间。
TensorRT 结果必须带上预热、并发和传输边界
采用 TensorRT 11.2.1 基准指南时,要固定引擎、输入 shape、batch、stream 数、精度、预热和测量窗口。排除了主机到设备传输后测得的引擎延迟,不能写成应用端到端延迟。
高吞吐也可能伴随超出控制周期的 P99。应对比前五分钟与最终热稳定区间,把延迟分布叠加到温度和时钟曲线上,并报告持续性能下降率。

按任务 SLA 判定,而不是要求绝不发生任何降频
热降频是硬件为遵守温度上限而降低时钟;应用 rate limiting 是软件主动降低调用频率的策略。日志中要区分二者,才能决定改散热、优化流水线还是调整任务节拍。
验收表应包含热稳态 P95、P99、超期率、传感器丢帧率、最低时钟、最高温度、平均与峰值功耗、内存余量以及重启和恢复事件。非 Jetson 平台也必须提供等价的功耗、温度、时钟和内存遥测。
常见问题
机器人计算机的 TOPS 越高就一定越快吗?
不一定。数值精度、内存带宽、前后处理、传感器 I/O、功耗模式和热降频都会影响端到端延迟,应测完整流水线的持续 P95 与 P99。
热浸测试应该运行多少分钟?
没有通用固定时间。应运行到温度和时钟达到稳定状态,或重现完整任务周期,取耗时更长的条件。
只记录 tegrastats 就足够吗?
不够。它提供系统温度、功耗、时钟和内存遥测,但传感器到动作的延迟、丢帧和超期仍需应用时间戳测量。
已核验的官方资料
- NVIDIA Jetson Thor Series 功能表 r39.2
- NVIDIA Jetson Platform Power and Performance r36.4.3
- NVIDIA Jetson Test Plan and Validation r36.4
- NVIDIA TensorRT 11.2.1 Benchmarking Guide
2026-08-07