2026.03.04 수요일
검색
'AI 워크로드' 검색결과
기간검색
-
~
검색영역
검색어
-
수만개 GPU 시대, 데이터센터 판 바꾼다…전력·냉각이 승부처 [이코노믹데일리] AI(인공지능) 확산이 가속화되면서 데이터센터 인프라 부담이 구조적으로 커지고 있다. AI 모델 고도화와 멀티모달 전환이 본격화되며 연산 수요가 기하급수적으로 증가하고 전력과 냉각 인프라가 데이터센터 경쟁력을 좌우하는 핵심 변수로 부상하고 있다는 분석이다. 2일 현대차증권은 보고서를 통해 "AI 기술 확산에도 여전히 다수의 기업은 제한적 활용 단계"라며 "AI 데이터센터는 전력·냉각 통합 시스템 설계 중심으로 전환되는 추세로 통합 인프라 역량을 가진 기업이 전략적 수혜를 받을 것으로 예상"이라고 진단했다. 특히 대규모 언어모델과 멀티모달 AI로의 전환이 가속화되면서 AI 학습과 추론 환경은 수만개의 GPU·TPU를 활용하는 초대형 클러스터 중심으로 이동하고 있고 이에 데이터센터 인프라에 직접적인 부담으로 작용하고 있다. AI 모델 고도화와 GPU·TPU 클러스터 대형화로 서버 밀도와 전력 용량, 냉각 설비를 동시에 확대해야 하는 상황에 직면한 것이다. 현대차증권은 AI 확산과 모델 고도화가 맞물리며 데이터센터 연산 수요와 인프라 부담이 구조적으로 증가하는 국면에 진입했다고 분석했다. 미국을 중심으로 신규 대형 AI 데이터센터 증설이 가속화되고 있으며 글로벌 하이퍼스케일러들의 대규모 설비투자(CAPEX)가 이러한 흐름을 주도하고 있다는 설명이다. 다만 공급 측면에서는 병목이 뚜렷하다. 전력망 연결과 인허가 절차, 규제 등의 문제로 신규 데이터센터 건설에는 통상 5~7년이 소요돼 단기적인 대응이 쉽지 않다. 이에 따라 단기적으로는 기존 데이터센터의 전력·냉각 인프라를 업그레이드하는 방식이 현실적인 대안으로 떠오르고 있다. 이는 관련 장비와 솔루션 수요를 확대시키며 데이터센터 산업 성장의 핵심 요인으로 작용하고 있다. 현대차증권은 "AI 데이터센터 인프라는 개별 장비 중심에서 벗어나 전력·냉각을 통합한 시스템 설계 중심으로 빠르게 전환되고 있다"며 "이에 따라 통합 인프라 역량을 보유한 상위 기업의 전략적 중요성이 확대되고 있다"고 말했다. 냉각 기술은 이러한 변화의 중심에 있다. AI 워크로드 증가와 랙 밀도 상승으로 기존 공랭식 냉각 방식은 한계에 직면했고 직접 칩 냉각이나 액침 냉각 등 고밀도 대응형 기술로의 전환이 가속화되고 있다. 현대차증권은 공랭식 한계를 넘어서는 냉각 기술 전환이 에너지 효율과 공간 활용도, 운영 안정성을 동시에 개선할 수 있다고 평가했다. 일부 GPU 효율 개선에도 불구하고 랙 밀도와 클러스터 대형화로 전체 열 부하는 구조적으로 증가하고 있어 냉각 인프라 수요는 중장기적으로 지속될 전망이다. 국내에서도 이러한 흐름이 나타나고 있다. KT 클라우드는 AI 데이터센터 고도화 전략의 일환으로 액침 냉각 기술 도입을 추진하며 고발열 GPU 서버 환경에 대응하고 있다. 액침 냉각은 서버를 절연 액체에 직접 담가 열을 식히는 방식으로 전력 효율을 높이고 냉각 비용을 절감할 수 있는 차세대 기술로 평가받는다. 이와 함께 일부 국내 데이터센터 운영사와 기업들은 서버 랙 단위에서 냉각 효율을 높일 수 있는 수냉식 냉각 방식을 병행 적용하며 AI 워크로드 증가에 대비하고 있다. 허영만 KT 클라우드 데이터센터 본부장은 지난해 말 'AI 이노베이션 센터' 개소식에서 "KT 클라우드는 이러한 기술적 요소(액체 냉각 기술)를 한 발 앞서 연구하고 실증하고 있다"며 냉각 인프라를 연구 중이라고 설명했다.2026-02-03 10:30:06
-
![[현장] 네이버클라우드, 풀스택 AI 인프라 공개…GPU 운영 효율로 승부](https://image.ajunews.com//content/image/2025/10/28/20251028091709158893.jpg)
네이버클라우드, '풀스택 AI 인프라' 공개…"GPU 운영 효율로 승부" [이코노믹데일리] 네이버클라우드가 AI 시대의 핵심 경쟁력은 단순히 그래픽처리장치(GPU)를 얼마나 많이 확보하느냐가 아닌, 확보한 자원을 얼마나 효율적으로 운영하는지에 달려있다고 선언했다. 네이버클라우드는 국내 최초의 AI 데이터센터 ‘각 세종’에서 데이터센터부터 AI 플랫폼까지 모든 기술을 내재화한 ‘풀스택 AI 인프라’를 공개하며 글로벌 수준의 운영 역량을 기반으로 GPUaaS(서비스형 GPU) 시대를 이끌겠다고 밝혔다. 네이버클라우드 이상준 CIO는 지난 27일 열린 테크밋업에서 “AI 인프라의 경쟁력은 GPU를 얼마나 많이 확보하는가를 넘어 확보한 자원을 얼마나 안정적이고 효율적으로 운영하는지에 달려 있다”고 강조했다. 이는 GPU 확보 경쟁에만 매몰되지 않고 운영 기술 내재화를 통해 AI 인프라 경쟁력을 완성하겠다는 네이버클라우드의 차별화된 전략을 보여준다. 네이버는 이미 2019년 엔비디아의 ‘슈퍼팟’을 세계에서 가장 빠르게 상용화하며 초고성능 GPU 클러스터를 직접 설계·운영한 경험을 보유하고 있다. 이러한 경험을 바탕으로 ‘각 세종’에서는 대규모 GPU 클러스터의 냉각, 전력, 네트워크 등 핵심 인프라를 AI 워크로드에 맞춰 자체적으로 최적화하는 기술을 내재화했다. 이 CIO는 “네이버의 데이터센터는 AI 워크로드 전체를 통합적으로 제어할 수 있는 풀스택 AI 인프라”라며 “이처럼 인프라를 하나의 시스템으로 통합적으로 설계·운영할 수 있는 역량은 국내는 물론 글로벌에서도 손꼽힌다”고 자신감을 내비쳤다. AI 연산의 폭증으로 발생하는 막대한 열을 관리하기 위해 ‘각 세종’에는 자체 개발한 하이브리드 냉각 시스템이 적용됐다. 계절별로 외부 공기와 냉수를 병행 사용하는 이 시스템은 GPU 밀도가 높아져도 안정적인 열 제어가 가능하다. 또한 차세대 기술인 액침냉각 인프라까지 구축해 고밀도 환경에 대응하는 기술 로드맵을 구체화하고 있다. 24시간 무중단 운영을 위해 전력, 냉각, 서버 등 모든 시스템은 이중화 구조(Active-Active Architecture)로 설계됐다. 수십만 대의 서버 운영 경험을 바탕으로 구축한 자동화된 운영 체계는 장애 발생 시에도 시스템이 자동으로 복구해 서비스 연속성을 보장한다. 이러한 인프라 위에서 하이퍼클로바가 운영되는 네이버의 AI 플랫폼은 모델 개발부터 학습, 추론까지 AI의 전 과정을 통제하는 ‘두뇌’ 역할을 한다. 네이버클라우드는 이렇게 내부에 축적한 압도적인 기술과 운영 역량을 ‘GPUaaS’ 모델을 통해 국내 기업들에게 제공할 계획이다. 이상준 CIO는 “네이버클라우드는 축적한 AI 인프라 운영 역량을 GPUaaS 모델로 발전시켜 국내 기업들이 손쉽게 AI를 활용할 수 있는 생태계를 만들 것”이라며 “이를 통해 AI 인프라가 특정 기업의 자산을 넘어 산업 전반의 성장 기반이 될 수 있도록 하겠다”고 밝혔다.2025-10-28 09:21:30
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 단종 유배지 청령포의 봄, 이벤트 행정 아닌 신뢰 행정이 지킨다](https://image.ajunews.com/content/image/2026/03/03/20260303104341873026_518_323.png)