로봇 월드 모델은 같은 목표 동작을 현재 관절 상태에서의 오프셋으로 적었는지, 절대 관절 목표값으로 적었는지에 따라 다른 미래를 예측할 수 있다. 수학적으로 올바르게 변환했다는 사실만으로, 한쪽 표기법으로 학습한 예측기가 다른 쪽에도 일관되게 반응한다고 보장할 수는 없다. 예측을 행동 선택에 쓰기 전에 동일 동작의 두 표기를 한 모델에 넣어 결과를 비교해야 한다.
이는 일반적인 행동 토큰화나 서로 다른 로봇의 행동 정규화와 구분되는 문제다. 핵심은 명령의 저장 형식을 바꾸는 방법이 아니라, 동작은 같은데 예측기 출력이 달라지는지 확인하는 데 있다.
절대 목표값과 오프셋이 같은 명령이 되는 조건
현재 관절 상태를 s_t, 절대 목표값을 a_abs라고 하면 상대 오프셋은 a_rel = a_abs − s_t다. 관절이 0.40라디안에 있고 목표가 0.45라디안이라면 절대값 0.45와 오프셋 0.05는 같은 목표를 가리킨다. 단, 좌표계·단위·제어기 모드·적용 시점까지 같아야 한다. 현재 상태를 모르는 오프셋 0.05만으로는 원래 목표값을 복원할 수 없다.
이 계산만 보고 모든 절대값·델타 데이터셋이 호환된다고 판단해서는 안 된다. 속도 명령, 누적 델타, 목표값 클리핑, 다른 제어 주기는 배열 모양이 같아도 실제 움직임을 바꾼다. 예측기에 전달되는 상태와 행동 구간 전체에서 같은 물리 명령임을 먼저 입증해야 한다. 그래야 출력 차이를 동작 변경이 아닌 표기 방식에 대한 민감도로 해석할 수 있다.
2026년 9월 공개된 논문 Robot World Models Are Not Invariant to How the Actions Are Written은 시각 인코더를 고정하고 미래 잠재 표현을 예측하는 모델에서 이 문제를 시험했다. 절대 목표값과 상대 오프셋의 비교에는 해당 시점의 상태를 함께 사용했다.
논문의 수치는 실제 로봇 성공률이 아니다
논문의 ALOHA 모바일 캐비닛 평가에서는 같은 행동을 학습하지 않은 쪽 표기법으로 바꾸자, 32개 후보 행동 구간 중 정답을 1위로 고르는 비율이 53.1%에서 15.4%로 떨어졌다. 이는 저자가 보고한 오프라인 행동 선택 결과이며 로봇 작업 성공률이 아니다.
이 결과가 시사하는 고장은 인터페이스 경계에 있다. 절대값으로 학습한 동역학 모델에 계획기가 유효한 상대 명령을 그대로 넘기면, 겉보기에는 그럴듯해도 서로 맞지 않는 예측을 받을 수 있다. 원래 표기법에서의 낮은 오차만으로는 이 문제를 발견하기 어렵다. 이 수치만으로 실제 로봇이 선택된 행동을 어떻게 실행할지, 더 큰 모델이나 인코더를 함께 학습한 모델이 어떻게 반응할지는 알 수 없다.
같은 행동 구간을 두 번 넣어 점검하는 법
보류한 궤적 하나에서 동일한 행동 구간의 절대값과 상대값을 짝지어 준비한다. 관측, 현재 상태, 목표 시점, 후보 행동 집합은 고정한다. 해당 시점의 상태를 써서 변환한 뒤 원래 절대 목표값으로 돌아오는지 확인한다. 클리핑, 상태 누락, 좌표계나 주기 차이가 있으면 모델 출력을 비교하기 전에 기록한다. 왕복 복원이 안 되는 입력은 불변성 검사의 올바른 쌍이 아니다.
| 확인할 항목 | 남길 증거 | 해석 |
|---|---|---|
| 명령의 동등성 | 상태·행동 스키마, 단위, 좌표계, 제어기 모드, 구간 길이, 왕복 변환 오차 | 실패하면 두 명령의 물리적 의미가 다를 수 있다. |
| 예측의 일치 | 짝지은 모든 구간의 잠재 예측, 코사인 유사도의 평균과 최솟값 | 평균이 좋아도 중요한 사례에서 반대 방향을 가리킬 수 있다. |
| 과제 영향 | 에피소드 분리 사례의 검색 순위와 동일 후보 집합에서의 행동 선택 | 각 표기법의 기준 성능과 비교하되, 하드웨어 성공으로 해석하지 않는다. |
두 표기에서 예측이 갈리는 구간을 찾았다면 원래 상태·명령 기록·예측으로 돌아가 먼저 파이프라인 오류를 점검한다. 행동 스키마가 지정한 기준 상태와 다른 값을 빼는 오류가 있을 수 있다. 변환이 맞다면 그 모델의 입력 경계에서는 두 표기를 교환 가능하다고 가정하지 말아야 한다. 전체 평균 한 개에 기대지 말고 실제 사용 범위와 접촉 단계에서 같은 검사를 반복한다.
다른 에피소드의 행동을 섞어 넣는 검사는 목적이 다르다. 예측기가 행동 채널을 쓰는지는 볼 수 있지만 명령 자체를 바꾸므로, 한 명령의 두 표기에 같은 미래를 예측하는지는 알려주지 않는다. 카메라를 바꾸거나 행동 이력 일부를 버리면 같은 이름의 입력이라도 정보가 줄어들 수 있다. 일치를 목표로 학습하기 전에 이런 사례부터 구분해야 한다.
두 표기로 함께 학습해도 꼬리 사례를 봐야 한다
먼저 같은 미래 목표를 두 표기법으로 학습하되, 데이터 분할과 연산 예산을 고정해 비교할 수 있다. 논문에서는 추가 일관성 벌점이 두 표기로 학습하는 기준선보다 평균 행동 선택 정확도를 의미 있게 높이지는 않았지만, 가장 크게 갈리는 예측의 일치도를 개선했다.
따라서 새 학습 방법을 시험할 때는 두 가지를 따로 측정하는 편이 좋다. 적절한 행동을 더 자주 고르는지, 평균에 가려진 심한 불일치를 줄이는지다. 보고서에 두 항목을 모두 남겨야 한다. 불일치가 줄었다고 미래를 더 잘 예측했다는 뜻은 아니다. 똑같이 틀린 답 두 개도 완벽하게 일치한다. 짝을 이룬 예측끼리 비교하는 동시에, 각각을 실제 보류한 미래와도 대조해야 한다.
학습 손실을 평균내는 것과 예측 벡터를 평균내는 것도 구분해야 한다. 전자는 한 모델이 두 입력을 학습하게 하고, 후자는 추론 후 새로운 예측을 만든다. 예를 들어 한 예측은 잡는 방향, 다른 예측은 물러나는 방향을 가리킨다고 하자. 그 중간이 올바른 다음 상태라는 근거는 자동으로 생기지 않는다. 두 예측의 조합도 별도의 추정기로 평가해야 한다.
마지막으로 실제 사용할 행동 범위의 경계와 접촉 전환 사례를 확인한다. 거의 움직임이 없는 쉬운 사례에서는 안정적으로 보여도, 결과를 바꾸는 행동 구간에서는 예측이 갈릴 수 있다. 실험마다 같은 어려운 사례를 유지하고, 새 방법이 오류를 한 표기법에서 다른 표기법으로 옮기는지도 기록한다.
따라서 행동 표기법을 데이터셋과 모델 인터페이스에 명시하고, 다른 형식이 들어오면 변환을 드러내거나 두 형식으로 다시 학습·평가해야 한다. 평균 예측뿐 아니라 가장 크게 갈리는 사례와 뒤따르는 행동 선택까지 확인할 필요가 있다. 이 논문은 월드 모델을 로봇의 행동 결정에 쓰기 전에 요구할 근거를 제시하지만, 하드웨어 안전성 보증이나 모든 모델에 통하는 벌점 가중치를 제공하지는 않는다.
이 글을 위해 예측기·데이터셋·로봇을 실행하지 않았다. 원문 확인: 2026년 9월 29일.