GPU 72개를 한 랙에…엔비디아 '베라 루빈' 공급, AI 주도권 굳힌다

[경제일보] 엔비디아가 차세대 인공지능(AI) 플랫폼 ‘베라 루빈’ 공급을 본격화했다. 개별 그래픽처리장치(GPU) 성능 경쟁을 넘어 중앙처리장치(CPU)와 네트워크, 전력·냉각 시스템까지 하나의 랙으로 묶어 AI 데이터센터 시장의 주도권을 굳히려는 전략이다.

엔비디아는 21일(현지시간) 베라 루빈 기반 제품이 본격 양산 단계에 들어가 주요 AI·클라우드 사업자에 공급되고 있다고 밝혔다. 베라 루빈은 ‘루빈’ GPU와 ‘베라’ CPU, 네트워크·데이터처리 장치 등 7종의 칩으로 구성된 차세대 AI 플랫폼이다.

핵심 시스템인 ‘베라 루빈 NVL72’는 루빈 GPU 72개와 베라 CPU 36개를 단일 랙에 통합한다. 고속 연결 기술인 NV링크6를 통해 여러 칩이 하나의 가속기처럼 작동하도록 설계했다. AI 모델 학습과 추론에 필요한 연산·메모리·네트워크 병목을 랙 단위에서 줄이는 것이 목표다.

엔비디아가 전면에 내세운 지표는 전력당 토큰 처리량이다. 회사는 코어위브에서 딥시크-R1 모델을 구동한 자체 벤치마크를 근거로 베라 루빈 NVL72가 전작인 GB200 NVL72보다 메가와트당 최대 10배 많은 토큰을 처리하고 토큰 100만개당 비용은 10분의 1로 낮췄다고 주장했다.

다만 이는 엔비디아와 협력사가 특정 환경에서 측정한 결과다. 실제 효율은 사용하는 AI 모델과 정밀도, 소프트웨어 최적화, 데이터센터 가동률에 따라 달라질 수 있어 독립적인 검증이 필요하다.

전력과 냉각도 핵심 경쟁 요소다. 베라 루빈은 섭씨 45도의 냉각수를 사용하는 폐쇄형 액체냉각 구조를 적용했다. 외부 기온 등 조건이 맞으면 냉각기를 사용하지 않고 드라이 쿨러로 열을 식힐 수 있다. 엔비디아는 신규 AI 데이터센터에서 기존 냉각탑 방식보다 1MW당 연간 수백만 갤런의 물을 절감할 수 있다고 설명했다.

AI 데이터센터의 전력 확보가 제한되면서 고객의 관심도 단순 연산 성능에서 ‘같은 전력으로 얼마나 많은 토큰을 생산하느냐’로 이동하고 있다. 엔비디아가 GPU뿐 아니라 CPU와 네트워크, 냉각·전력 설계까지 통합하는 이유다. 전체 시스템을 자사 생태계로 묶으면 고객 이탈을 막고 GPU 외 네트워크·소프트웨어 매출도 확대할 수 있다.

공급망도 랙 단위로 확대했다. 엔비디아에 따르면 베라 루빈 생산에는 30개국 350곳 이상의 제조시설이 참여한다. AWS와 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드, 코어위브 등이 도입을 준비하거나 시스템 구축에 나선 상태다.

블룸버그통신은 엔비디아가 공급 일정과 성능을 적극적으로 공개하는 배경에 경쟁 심화가 있다고 분석했다. AMD와 브로드컴이 AI 반도체 시장을 공략하고 있고 아마존과 구글 등 주요 고객도 자체 가속기 개발을 확대하고 있기 때문이다.

특히 AMD는 GPU와 CPU, 네트워크를 결합한 랙 스케일 시스템 ‘헬리오스’를 올해 하반기부터 공급한다. 마이크로소프트는 애저에 헬리오스를 도입해 프런티어 AI 모델 추론과 AI 서비스에 활용하기로 했다. 헬리오스에는 MI455X GPU와 차세대 ‘베니스’ CPU가 탑재된다.

엔비디아는 베라 CPU가 파이썬 작업에서 AMD의 기존 ‘투린’ CPU보다 최대 1.8배 빠르다는 자체 비교 결과도 제시했다. 그러나 AMD가 후속 제품인 베니스를 투입하는 만큼 현재 비교만으로 차세대 CPU 경쟁의 우위를 단정하기는 어렵다.

관건은 양산 속도와 실제 운영 비용이다. 7종의 칩과 액체냉각, 고속 네트워크를 결합한 복잡한 시스템을 계획대로 공급하고 고객 데이터센터에 안정적으로 설치해야 한다. 베라 루빈이 약속한 전력당 성능을 실제 서비스에서 입증한다면 엔비디아는 GPU 기업을 넘어 AI 데이터센터 전체를 설계하는 플랫폼 사업자로 지배력을 강화할 전망이다.