로봇 3원칙은 SF 작가 아이작 아시모프(Isaac Asimov)가 1942년 발표한 단편 ‘런어라운드(Runaround)’에서 처음 제시한 소설 속 규칙입니다(브리태니커 백과사전). 내용을 풀면 이렇습니다.
- 로봇은 사람을 해치면 안 되고, 가만히 있어서 사람이 다치게 내버려 둬서도 안 된다.
- 로봇은 사람의 명령에 따라야 한다. 단, 그 명령이 1원칙과 충돌하면 따르지 않는다.
- 로봇은 자신을 지켜야 한다. 단, 1원칙이나 2원칙과 충돌하면 그렇지 않다.
아시모프는 뒤의 작품에서 ‘인류 전체를 해치면 안 된다’는 0원칙을 더해 세 원칙보다 앞에 두었습니다. 하지만 지금 공장이나 거리에서 움직이는 실제 로봇에 이 문장을 그대로 넣어 안전을 지키는 경우는 없습니다. 실제 로봇의 안전은 국제 안전 표준, 인증 제도, 법으로 정합니다.
소설에서는 원칙끼리 부딪히는 것이 이야기다
세 원칙은 우선순위가 있는 규칙입니다. 사람의 안전이 명령보다, 명령이 로봇 자신보다 앞섭니다. 아시모프의 로봇 소설은 대부분 이 원칙이 완벽하게 작동하는 이야기가 아니라, 원칙끼리 부딪히거나 ‘해친다’의 뜻이 애매해서 로봇이 이상하게 행동하는 이야기입니다. ‘런어라운드’에서도 약하게 내려진 명령(2원칙)과 강해진 자기 보호 본능(3원칙)이 균형을 이루면서 로봇이 같은 자리를 맴돕니다.
이 점이 3원칙이 지금도 자주 인용되는 이유입니다. 짧은 규칙 몇 개로 로봇 행동을 통제하기는 어렵다는 것을 소설가가 먼저 보여 준 셈입니다.
실제 로봇에 그대로 쓰지 않는 이유
산업용 로봇이나 배달 로봇은 ‘해친다’, ‘명령’, ‘사람’을 문장으로 이해하지 못합니다. 로봇이 아는 것은 관절 각도, 속도, 모터 전류, 센서가 잡은 거리 같은 숫자입니다. 그래서 실제 안전 규칙은 “사람을 해치지 마라”가 아니라 “사람이 몇 mm 안으로 들어오면 속도를 얼마로 줄여라”, “충돌할 때 힘이 얼마를 넘으면 멈춰라”처럼 재고 검사할 수 있는 조건으로 씁니다.
- 국제 표준: 산업용 로봇의 안전 요구사항은 ISO 10218-1이 정합니다. 2025년 2월 나온 3판은 로봇 자체를 설계 단계에서 안전하게 만드는 방법, 위험을 줄이는 수단, 사용자에게 줄 정보를 다룹니다.
- 협동로봇 안전 기능: 사람 옆에서 일하는 협동로봇은 감시 정지, 손으로 끌어 가르치기, 거리에 따른 속도 감시, 힘·출력 제한 같은 방식으로 안전을 지킵니다. 네 방식의 차이는 협동로봇 안전 운전 4가지에 정리했습니다.
- 현장 위험성 평가: 같은 로봇이라도 어떤 그리퍼를 달고 무엇을 옮기느냐에 따라 위험이 달라집니다. 그래서 설치할 때마다 위험성 평가를 하고 안전 설정을 정합니다.
3원칙의 2원칙(명령 복종)도 실제로는 ‘누가 어떤 권한으로 로봇을 조작할 수 있는가’라는 접근 권한 문제로 바뀝니다. 아무나 비상정지는 누를 수 있지만, 프로그램 변경은 교육받은 작업자만 할 수 있게 하는 식입니다.
한국 법은 무엇을 정하나
지능형 로봇 개발 및 보급 촉진법(2025년 10월 1일 시행 기준) 제18조는 정부가 로봇 개발자·제조자·사용자가 지켜야 할 윤리를 담은 ‘지능형 로봇윤리헌장’을 제정해 공표할 수 있다고 정합니다. 반드시 만들어야 하는 의무가 아니라 할 수 있다는 근거 조항입니다. 2024년 1월 정부의 로봇산업 기본계획 발표도 로봇윤리 가이드라인을 마련하겠다고만 밝혔습니다.
실제로 사람을 지키는 장치는 같은 법의 다른 조항에 있습니다. 인도를 다니는 실외이동로봇은 운행안전인증을 받아야 하고(제40조의2), 로봇으로 생긴 손해를 보장하는 손해보장사업 근거도 있습니다(제19조의2). 배달 로봇이 실제로 어떤 인증과 보험을 거치는지는 배달 로봇과 실외이동로봇 인증 글에서 볼 수 있습니다.
AI 로봇 시대에 다시 나온 ‘로봇 헌법’
말을 알아듣는 AI 모델이 로봇의 두뇌가 되면서 3원칙과 비슷한 고민이 연구 주제로 돌아왔습니다. “컵을 치워 줘”라는 명령이 뜨거운 커피가 담긴 컵을 아이 쪽으로 옮기라는 뜻이 될 수도 있기 때문입니다.
구글 딥마인드 연구진은 2025년 3월 논문 ‘로봇 헌법과 의미적 안전 벤치마크 생성’에서 아시모프의 이름을 딴 ASIMOV 벤치마크를 공개했습니다. 실제 장면 이미지와 병원 부상 기록에서 위험 상황을 만들어 AI 모델이 위험한 행동을 알아보는지 시험하는 데이터 모음입니다. 연구진은 사람이 쓴 규칙 대신 데이터로 자동 생성하고 고쳐 나간 ‘로봇 헌법(행동 규칙 문서)’을 모델에 주었을 때 사람 판단과의 일치율이 가장 높았다(84.3%)고 보고했습니다. 이 연구가 쓰인 제미나이 로보틱스 모델은 Gemini Robotics 정리(영문)에서 다뤘습니다.
다만 이런 규칙은 AI 모델이 행동을 고르는 단계의 보조 장치입니다. 모터를 멈추는 하드웨어 안전 기능과 표준·인증을 대신하지 않습니다. 소설의 3원칙과 지금의 로봇 안전을 잇는 한 줄을 고르라면, ‘사람의 안전이 명령보다 앞선다’는 우선순위만 남고 나머지는 숫자와 시험으로 바뀌었다고 보면 됩니다.