무거운 물체는 로봇, 판단은 사람, 예측은 AI라는 세 줄짜리 표로 실제 공정을 배분할 수 없다. 물체는 가볍지만 변형과 가림이 심할 수 있고, AI 판정이 빠르지만 정답 피드백이 늦을 수 있으며, 사람이 예외를 맡아도 동시에 너무 많은 알람을 받으면 병목과 위험이 생긴다. 작업을 관찰·판단·계획·물리 실행·검증·복구로 나누고 인계마다 필요한 상태·권한·시간을 설계해야 한다.
현장 장면을 성공·예외·복구의 연속 작업으로 그린다
먼저 정상 업무를 원자 작업으로 나눈다. 제품·환경 관찰, 품질·위험 판단, 순서·경로 계획, 힘·정밀 동작, 결과 확인, 기록과 다음 작업 인계다. 시동·제품 전환·센서오류·물체 걸림·안전정지와 품질 보류 같은 예외도 같은 도면에 넣는다.
각 원자 작업에 변동성, 실패 심각도, 힘·속도·정밀도, 문맥·암묵지, 시간압박, 반복빈도와 정답 피드백을 적는다. 사람·AI·로봇의 현재 증거를 같은 작업·환경에서 비교하고 기술이 ‘할 수 있다’는 시연보다 반복·복구와 지원부담을 본다.
배분 상태는 자동·수동 두 칸이 아니다. AI 관찰·추천, 사람 승인 뒤 로봇 실행, 제한된 자동실행, 불확실 시 사람 인계, 사람이 물리 작업하고 로봇이 검사하는 조합이 있다. 최종 명령권과 결과 확인 책임을 각 상태에 명시한다.
NIST 인간–로봇 상호작용 성능 프로그램은 제조에서 사람–로봇 팀의 효과성·효율, 인터페이스·신뢰·안전과 상황인식을 측정하는 도구·방법 연구를 설명한다. 특정 작업배분표나 자동화 수준을 승인하는 자료는 아니다. 팀 전체 성능과 사람 상태를 함께 평가해야 한다는 근거다.
실패는 능력부족보다 잘못된 인계 조건에서 시작되기도 한다
AI가 낮은 신뢰도를 내도 생산압력 때문에 사람이 습관적으로 승인하거나, 로봇이 멈춘 이유를 보여 주지 않아 작업자가 보호구역에 성급히 들어가는 것이 대표 인계 실패다. 반대로 너무 많은 사소한 경보가 사람에게 넘어오면 중요한 예외의 응답이 늦어진다.
| 인계 실패 | 촉발 조건 | 관찰 신호 | 초기 완화 |
|---|---|---|---|
| 자동화 편향 | 설명 없이 높은 신뢰도 표시 | 사람 승인·거부·오류 | 근거·대안·독립 확인 |
| 경보 피로 | 빈번한 저가치 예외 | 대기열·응답·누락 | 우선순위·묶음·자동복구 |
| 신뢰 부족 | 불안정·예측불가 동작 | 불필요 override·우회 | 상태·의도·정지경계 표시 |
| 인계 모호 | 책임·최신상태 불명 | 중복·미실행 명령 | 단일 소유권·확인 응답 |
| 작업부하 폭주 | 공통원인 동시요청 | 점유율·오판·대기 | 용량제한·2차지원 |
| 복구권한 충돌 | 사람·AI·로봇 명령 경쟁 | 순서역전·재시도 | 권한·만료·로컬 안전 우선 |
신뢰는 높을수록 좋다는 단일 점수가 아니다. 실제 신뢰성에 맞게 사람의 의존이 조정돼야 한다. 자동화가 좋은데 늘 무시하거나, 불안정한데 과신하는 두 상태 모두 문제다. 조건별 모델 성공과 사람 채택·override·최종 결과의 관계를 본다.
사람 작업부하는 설문 하나보다 관찰 가능한 지표와 함께 본다. 동시에 감시한 작업 수, 화면전환, 알람·대기열, 개입·복구시간, 오류·재작업, 휴식과 교대 변화를 기록한다. 생체·개인 데이터는 목적·동의·접근·보존을 별도로 검토한다.
신호 경로는 관찰·판단·명령·실제 결과를 한 사건으로 잇는다
센서·AI 입력, 품질 플래그, 모델·규칙 버전, 출력·불확실성, 사람 화면, 승인·거부·수정, 로봇 명령, 실제 동작·정지와 결과 검사를 공통 ID·시각으로 연결한다. 어떤 주체가 최종 결과를 만들었는지와 자동화가 제안만 했는지 구분한다.
인계 화면에는 원천 상태의 최신성, 자동화가 하려는 일, 근거·불확실성, 허용 선택, 시간제한과 안전한 대기상태를 보여 준다. 사람에게 원시 데이터 전체를 던지거나 ‘승인’ 한 버튼만 주지 않는다. 중요한 판단에는 반례·대안과 변화 영향을 함께 제공한다.
override는 실패가 아니라 안전밸브이자 학습자료일 수 있다. 이유를 빠르게 선택·보충할 수 있게 하고, 누가 어느 권한으로 어떤 자동동작을 중지·수정했는지, 결과가 나아졌는지 기록한다. override율을 낮추려고 사람 권한을 숨기거나 사용을 벌주지 않는다.
명령은 만료·대상·전제상태와 확인응답을 가진다. 사람이 승인하는 동안 제품·로봇·기계 상태가 바뀌면 오래된 제안을 실행하지 않는다. 사람과 AI가 동시에 명령할 때 로컬 안전·작업 소유권 규칙이 하나만 수락한다.
복구 경로는 사람이 들어오는 시점과 안전한 권한을 미리 정한다
예외마다 로봇이 스스로 재시도할 횟수, AI가 재계획할 범위, 원격 또는 현장 사람이 개입할 조건과 2차 지원을 정한다. 같은 실패를 반복해 물체·설비를 손상하거나 대기열을 늘리지 않는다. 불확실하면 안전한 보류·격리 상태로 간다.
- 예외를 감지한 주체와 원천 신호·최신시각을 확인한다.
- 로봇·설비·물체·사람의 현재 상태와 미완료 명령을 고정한다.
- 자동 재시도 한계와 안전한 대기·내려놓기 조건을 적용한다.
- 원격·현장 개입의 권한·최대대기·2차 지원을 연결한다.
- 물리 접근 전 위험구역·에너지·저장 하중을 확인하고 통제한다.
- 복구 뒤 제품·품질·로봇 자세와 다음 작업의 정합성을 검증한다.
- 안전·품질·생산 재개 승인과 재발 감시를 사건에 기록한다.
사람이 물리적으로 접근할 때는 일반 생산모드와 다른 안전절차를 적용한다. 로봇·도구·물체·설비의 에너지와 움직임을 통제하고 상태를 확인한 뒤 진입한다. 화면에서 정지로 보이거나 AI가 안전하다고 설명하는 것이 에너지 격리와 위험평가를 대신하지 않는다.
복구 뒤에는 미완료 제품·작업순서·품질·로봇 자세와 다음 명령을 확인한다. 생산 재개 권한은 문제를 진단한 사람과 분리할 수 있고, 고위험 사건은 안전·품질·생산의 공동승인을 요구한다. 재개 뒤 같은 오류의 재발을 첫 사건에 연결한다.
NIST 실제 인간–로봇 팀 시험방법 워크숍 보고서는 인간–로봇 팀에서 신뢰·작업배분·정신적 작업부하와 실세계 측정 과제를 다룬다. 특정 공장의 배분 비율이나 작업부하 합격값은 아니다. 파일럿에서 팀 성능과 사람 부담을 함께 기록할 근거로 쓴다.
잔여 위험은 평균 처리량이 가리는 드문 위험·과부하다
자동화 뒤 평균 생산량이 늘어도 드문 안전·품질 실패, 사람의 높은 감시부담, 기술 상실과 불공정한 업무집중이 남을 수 있다. 정상·경계·장애 조건을 나누고 위험한 누락과 보호정지·물체손상을 별도 상한으로 둔다.
사람에게 ‘예외만’ 남기면 드물고 어려운 상황만 처리해 숙련 유지와 교육이 더 중요해진다. 정상 업무를 전혀 수행하지 않아 상황모델이 약해질 수 있으므로 정기 수동훈련·시뮬레이션과 복구 연습을 둔다. 대체 인력과 교대 간 지식편차도 측정한다.
AI·로봇 업데이트가 배분을 조용히 바꾸지 않게 한다. 새 모델이 더 많은 자동실행을 제안하거나 경보 기준을 바꾸면 작업부하·신뢰·안전과 책임에 영향을 준다. 고정 사건과 사람 참여 파일럿을 다시 실행하고 변경된 권한을 승인한다.
NIST AI RMF Core는 인간 감독·역할·책임, 맥락형 위험 측정과 반복 가능한 TEVV를 강조하는 자발적 틀이다. 작업배분 최적해나 노동·안전법 준수를 제공하지 않는다. 기술·사람·조직의 위험을 함께 문서화하는 데 활용한다.
인수시험은 팀 성능과 재배분 규칙을 동시에 검증한다
파일럿은 기존 사람 공정과 후보 배분을 같은 제품·교대·수요·예외에서 비교한다. 처리량·사이클·불량·재작업·안전정지뿐 아니라 사람 대기·작업부하, 승인·거부·override, 개입·복구, 알람 누락과 팀 의사소통을 측정한다.
조건을 한 번에 모두 바꾸지 않는다. 추천만 추가한 단계, 사람 승인 뒤 로봇 실행, 제한 자동실행을 순차 비교해 이득과 위험의 출처를 찾는다. 자동화 권한이 올라갈 때 사람의 화면·교육·복구와 안전경계도 다시 시험한다.
| 평가축 | 통과 증거 | 불합격 신호 | 재배분 조치 |
|---|---|---|---|
| 처리량·품질 | 정상·경계 반복과 분포 | 평균 개선·위험 누락 증가 | 업무 축소·독립검사 |
| 사람 작업부하 | 교대·동시요청·회복시간 | 대기열·오판·피로 증가 | 로봇 수·알람·인력 조정 |
| 신뢰 보정 | 조건별 성능과 승인·거부 일치 | 과신·불신의 지속 | 근거·교육·권한 변경 |
| override | 이유·결과·안전한 실행 | 권한 충돌·보복·무기록 | UI·정책·책임 수정 |
| 예외·복구 | 안전대기·인계·재개 반복 | 재시도·대기·재발 상한 초과 | 자동복구 축소·지원 강화 |
| 변경·종료 | 이전 모드·수동 복귀 훈련 | 종속·숙련 상실 | 탈출절차·정기 수동운전 |
합격 뒤에도 배분은 고정하지 않는다. 제품·수요·인력·모델·로봇과 위험이 바뀌면 지표를 다시 보고 사람에게 되돌리거나 자동화를 높인다. 자동화 수준 하향을 실패로 보지 않고 불확실성에 맞춘 안전한 운영결정으로 본다.
협동로봇 안전 모드는 사람과 로봇의 공간·동작 조건을 구분하는 배경이 된다. 실제 사람·AI·로봇 배분은 목표 공정의 위험분석과 팀 파일럿에서 별도로 승인한다.
최종 배분표에는 작업·조건별 담당 주체, 인계 신호·최대대기, 명령·override 권한, 안전상태, 복구·재개 책임과 재검토 날짜를 넣는다. ‘AI가 판단, 로봇이 실행, 사람이 감독’ 같은 추상 문장으로 끝내지 않는다.
사람·AI·로봇 배분과 override는 어떻게 설계하나
사람·AI·로봇 배분에서 가장 흔한 실패는 무엇인가요?
보편적으로 하나를 단정할 수 없지만, 최신상태·책임·최대대기가 불명확한 인계는 여러 실패를 키운다. AI 제안과 로봇 상태가 바뀌었는데 오래된 승인을 실행하거나, 많은 경보가 사람에게 몰려 중요한 예외를 놓치는 조건을 우선 시험한다.
사람이 override하면 로봇을 바로 수동으로 움직여도 되나요?
아니다. 먼저 승인된 안전대기·보호정지와 실제 상태·하중·위험구역을 확인하고, 필요한 에너지 통제와 권한 아래 수동복구한다. 미완료 명령을 무효화하고 결과·품질·재개 승인을 닫은 뒤 정상 모드로 돌아간다.
자료 마지막 확인: 2026년 8월 26일