새 AI 랙을 올린 뒤 운영자가 처음 보는 신호가 GPU 오류가 아니라 전력 셸프 경보, 냉각수 온도 상승이나 상위 차단기의 여유 부족일 수 있다. 이때 ‘랙당 1MW 시대’라는 전망으로 현재 설비를 진단하면 원인을 놓친다. 먼저 설치한 NVL72의 정확한 구성과 최대 입력을 확인하고, 현재 120~142kW급 공식 참조값과 향후 1MW 설계 경로를 다른 시간축으로 관리해야 한다.
현재 랙과 1MW 설계 경로의 경계를 먼저 긋는다
NVIDIA Mission Control의 GB200 NVL72 공식 FAQ는 컴퓨트 노드와 랙 구성품을 포함한 전체 부하를 약 120kW로 제시한다. GB300 NVL72 공식 참조구성은 72개 GPU, 9개 NVLink 스위치 트레이, 8개의 33kW 전력 셸프와 최대 142kW를 명시한다. 둘은 같은 ‘NVL72’ 이름을 쓰더라도 세대·전원 구성과 시설 요구값이 같지 않다.
여기서 120kW와 142kW는 공식 구성의 전체 부하 또는 최대값이다. 실제 평균, 워크로드별 피크, 변압기·UPS·버스웨이 손실을 모두 포함한 시설 입력과는 다르다. 현장 계산은 랙 명판, 전력 셸프 구성, 펌웨어 전력정책과 실측 시계열을 우선하고, 공식 최대값은 상한 검증에 사용한다.
반면 Google의 ±400V 데이터센터 전력 로드맵은 48VDC 중심 구조에서 ±400VDC로 옮겨 100kW에서 최대 1MW급 랙까지 지원하는 설계 방향을 설명한다. 이는 모든 데이터센터에 1MW 랙이 이미 보편 가동 중이라는 배치 통계가 아니다. 전력 아키텍처와 냉각 생태계를 준비하는 공개 로드맵으로 읽어야 한다.
따라서 질문을 두 개로 나눈다. ‘오늘 설치할 GB200·GB300 랙을 안전하게 수용할 수 있는가’는 현재 프로젝트의 설계·인수 문제다. ‘다음 세대에서 수백 kW 이상을 수용하도록 무엇을 미리 깔 것인가’는 선택권을 사는 투자 문제다. 두 답을 한 숫자로 합치면 과설계 비용과 증설 중단 위험을 동시에 키운다.
고밀도 실패는 한 부품이 아니라 경계에서 보인다
고밀도 랙은 전력이 부족하면 단순히 느려지는 장비가 아니다. 상위 변압기·스위치기어의 열 여유, 분기 차단기와 버스웨이 전류, 전력 셸프의 불균형, 케이블·접속부 온도와 냉각 유량이 함께 한계에 닿는다. 랙 전력 제한이 작동해도 보호협조가 틀리거나 냉각 응답이 늦으면 더 넓은 장애로 번질 수 있다.
| 관측 신호 | 가능한 경계 실패 | 즉시 개입 | 복구·비용 영향 |
|---|---|---|---|
| 전력 셸프·분기 과부하 경보 | 실제 구성과 회로 정격·전력 예산 불일치 | 신규 작업 보류, 랙별 상한 적용, 열화상·전류 확인 | 성능 제한, 회로·버스웨이 증설 또는 재배치 |
| CDU 유량 부족·공급수 온도 상승 | 콜드플레이트 요구와 시설수·펌프 곡선 불일치 | 부하 감축, 누수·밸브·필터·펌프 상태 점검 | 워크로드 중단, 배관·열교환기·플랜트 보강 |
| 상위 차단기 반복 동작·전압 강하 | 돌입·급변부하와 보호설정·임피던스의 불일치 | 영향 회로 격리, 이벤트 파형 보존, 임의 재투입 금지 | 보호협조 재계산, 정전 창과 재인수 시험 |
| 커넥터·버스바 국부 과열 | 접촉저항·토크·오염·전류 불균형 | 안전 절차에 따라 정지·탈전 후 검사 | 부품 교체와 인접 회로 조사, 화재위험 검토 |
| GPU 전력 제한과 작업시간 증가 | 시설 상한 또는 랙 정책이 연산 요구보다 낮음 | 성능·전력 로그를 같은 시간축으로 비교 | SLA 재산정, 단계 증설 또는 스케줄링 변경 |
‘정격을 넘지 않았다’는 문장만으로 정상 판정하지 않는다. 최대값 아래에서도 고조파, 불균형, 주변온도와 접촉 상태 때문에 특정 지점이 먼저 뜨거워질 수 있다. 반대로 랙 순간피크가 설계 상한에 닿았어도 상위 계통이 이를 허용하고 냉각·보호가 검증됐다면 곧바로 장애라고 부를 수 없다. 경보와 실제 보호·열 경계를 연결해 판정한다.
사람 개입은 정지·격리·증거 보존 순서로 설계한다
고밀도 랙의 개입 절차는 ‘재부팅’보다 앞선다. 운영자는 BMS·EPMS, 랙 전력, CDU와 워크로드 로그의 시간을 맞추고, 어떤 분기와 냉각 루프가 영향을 받았는지 확인한다. 전기·유체 위험이 의심되면 원격 명령으로 반복 재투입하지 않고 자격을 갖춘 담당자가 에너지 격리와 제조사 절차를 따른다.
- 신규 학습 작업과 자동 재시작을 멈추되 이미 안전하게 종료 중인 작업의 상태를 보존한다.
- 랙·분기·버스웨이·변압기·CDU·시설수의 경보와 원시 시계열을 같은 사건 ID로 묶는다.
- 명판 정격, 실제 전력 셸프·GPU 구성과 펌웨어 전력 상한이 설계 문서와 같은지 대조한다.
- 전력 문제와 냉각 문제를 추정으로 단정하지 말고 전류·전압·온도·유량·압력의 선후관계를 확인한다.
- 접속부 과열·누수·절연 이상이면 탈전·격리 범위를 현장 안전 절차로 정하고 임의 우회를 금지한다.
- 복구 뒤에는 단계 부하 시험을 거쳐 보호·열 안정·워크로드 성능을 재인수하고 변경 이력을 남긴다.
이 절차의 목적은 GPU를 빨리 다시 켜는 것이 아니라 실패가 더 큰 전력·열 구역으로 전파되지 않게 하는 것이다. 운영팀, 전기팀, 냉각팀과 컴퓨트 플랫폼팀의 승인권을 미리 정하고, 어느 경보에서 사람이 최종 결정을 내리는지 런북에 적는다. 야간 무인운전이라도 고위험 우회 권한을 자동화 계정에 주지 않는다.
1MW 선택권의 비용은 랙 밖에서 커진다
1MW 랙 대비 투자는 굵은 버스바 하나로 끝나지 않는다. 더 높은 배전전압과 변환장치, 보호·절연·접지, 케이블과 커넥터, 랙 구조·바닥하중, 대유량 매니폴드와 누수 격리, 열교환·열방출 설비를 함께 바꾼다. 서비스 통로와 부품 교체 동선까지 좁아지면 정비 정전시간이 길어진다.
OCP Diablo 400 사양은 별도 전력 랙에서 인접 IT 랙으로 ±400VDC를 공급하는 개방형 기반을 정의한다. 이 문서는 미래 고밀도 배전의 인터페이스를 검토하는 근거지만, 특정 데이터센터의 설치 승인이나 1MW 실가동을 증명하지 않는다. 안전·인증·보호와 지역 전기 규정은 실제 제품·현장 설계로 다시 확인해야 한다.
경제성은 ‘나중에 뜯지 않는 비용’과 ‘지금 과하게 짓는 비용’을 비교한다. 변전·MV 백본, 전기실·배관 샤프트와 냉각 플랜트처럼 공사 뒤 바꾸기 어려운 항목은 단계 증설 공간을 선투자할 수 있다. 반면 랙 종단 전압, 커넥터와 특정 전력 셸프처럼 생태계가 변하는 항목은 모듈 경계와 교체 공간만 확보하고 최종 제품을 늦게 확정하는 편이 낫다.
전력밀도가 세 배가 된다고 모든 설비 정격을 일률적으로 세 배로 잡지도 않는다. 랙 수가 줄면서 데이터홀 면적당 부하는 달라지고, 전력변환 위치·냉각수 온도와 배관 병렬화에 따라 변압기·펌프·열방출 설비의 최적 블록이 달라진다. 정상·정비·고장 상태별로 동시에 살릴 랙 수를 정한 뒤, 공유 설비의 단일고장이 몇 MW를 잃게 하는지 계산한다. 증설 가능한 빈 베이도 케이블·배관·보호·제어까지 실제 연결할 수 있어야 용량 선택권이다.
복구비도 총비용에 넣는다. 한 고밀도 랙의 고장이 공유 버스나 냉각 루프를 멈추면 영향은 랙 가격보다 작업 손실·데이터 복구·현장 대응과 재인수 시간에서 커진다. 분기 격리도, 예비 부품, 정비 중 우회와 단계 부하시험 시간을 설계 선택의 값으로 계산한다.
선투자는 제품 발표가 아니라 검증 게이트로 연다
현재 배치 게이트는 간단하다. 주문한 정확한 랙 BOM과 최대·평균·급변 전력, 수온·유량·수질, 배관 압력과 열방출 조건을 제조사 자료와 설계에 대조한다. 상위 회로·변압기·UPS·발전기, 냉각 플랜트의 정상·고장·정비 상태마다 유효 용량을 계산하고 통합 부하시험으로 확인한다.
다음 단계 선투자는 공개 로드맵 하나가 아니라 최소 세 신호가 모일 때 연다. 실제 구매 후보의 전기·유체 인터페이스가 고정되고, 지역 규정·인증과 공급망이 따라오며, 사이트 증설 시점과 워크로드 수요가 계약으로 좁혀져야 한다. 1MW라는 최대 목표만 있고 랙 수·가동률·열회수 조건이 없다면 선택권의 범위만 확보한다.
게이트 기록에는 설계값·제조사 최대값·현장 실측을 서로 다른 필드로 남긴다. 부하시험은 한 번의 최고 전력보다 단계 상승, 장시간 열평형, 한 전원·펌프 정비와 비상 감축·복구를 포함한다. 시험에 쓰지 않은 미래 모드는 ‘검증 완료’가 아니라 미검증 조건으로 표시하고, 실제 랙 BOM이나 펌웨어·냉각 조건이 바뀌면 영향 항목을 다시 연다.
2026년 8월 26일 확인 기준으로 GB200 약 120kW, GB300 최대 142kW라는 공식 자료와 ±400V 기반 1MW 경로는 함께 존재한다. 그러나 전자는 제품 참조구성이고 후자는 산업 설계 방향이다. 두 상태를 분리해 표기하는 조직만이 현재 장애를 제대로 복구하고 미래 전환 비용도 통제할 수 있다.
고밀도 랙 경보가 울렸을 때 먼저 할 일
고밀도 AI 랙 경보가 났을 때 안전한 첫 조치는 무엇인가요?
신규 작업과 자동 재시작을 보류하고 영향 회로·냉각 루프의 전력·온도·유량 로그를 보존한다. 과열·누수·절연이나 보호동작이 의심되면 현장 전기·유체 안전 절차에 따라 격리하고, 원인 확인 전 임의 재투입이나 보호 우회를 하지 않는다.
자료 마지막 확인: 2026년 8월 26일