SK하이닉스, SOCAMM2로 '포스트 HBM' 겨냥…AI 메모리 성능서 전력 효율로

[경제일보] SK하이닉스가 저전력 D램 기반 차세대 모듈 'SOCAMM2'를 양산하며 AI(인공지능) 메모리 시장 경쟁 축을 확장하고 있다. 고대역폭메모리(HBM)에 집중됐던 AI 메모리 경쟁이 서버용 저전력 모듈까지 확대되는 흐름 속에서 새로운 성장 축을 선점하려는 전략으로 보인다.

그간 AI 반도체 시장의 핵심은 HBM이었다. GPU(그래픽처리장치) 성능을 극대화하기 위해서는 메모리 대역폭이 필수적이었고 이에 따라 HBM 수요가 폭발적으로 증가했다.

그러나 최근 AI 시장이 학습 중심에서 추론 중심으로 이동하면서 요구 조건이 달라지고 있다. 대규모 데이터 학습 단계에서는 성능이 중요하지만 실제 서비스 단계에서는 전력 효율과 비용이 핵심 변수로 떠오르고 있기 때문이다.

특히 클라우드 서비스 기업(CSP) 입장에서는 AI 모델을 장시간 운영해야 하는 만큼 전력 소비를 줄이는 것이 곧 수익성과 직결된다. 이로 인해 기존 고성능 중심에서 저전력·고효율 메모리에 대한 수요가 빠르게 증가하고 있다.

SOCAMM2는 기존 서버용 메모리인 RDIMM과 달리 스마트폰 등에 사용되던 LPDDR(저전력 D램)을 서버 환경에 맞게 재구성한 모듈이다. 핵심은 전력 효율이다. LPDDR은 원래 모바일 기기의 배터리 효율을 극대화하기 위해 설계된 만큼 동일 용량 대비 전력 소모가 낮다. 이를 서버에 적용하면 대규모 데이터센터 운영 비용을 크게 줄일 수 있다.

SK하이닉스에 따르면 이번 제품은 기존 RDIMM 대비 2배 이상의 대역폭과 75% 이상 개선된 에너지 효율을 구현했다. 이는 단순한 성능 개선을 넘어 서버 메모리 구조 자체의 변화를 의미한다. 즉 서버용 메모리가 '고성능 중심 RDIMM'에서 '저전력 기반 모듈'로 일부 이동하는 신호로 해석된다.

이번 SOCAMM2는 엔비디아의 차세대 AI 플랫폼 'Vera Rubin'에 최적화된 제품으로 설계됐다. 이는 단순 기술 개발을 넘어 AI 생태계 진입 측면에서 의미가 크다. 현재 AI 인프라는 엔비디아 GPU를 중심으로 형성돼 있으며 이에 최적화된 메모리 솔루션을 공급하는 것이 시장 진입의 핵심 조건으로 꼽힌다.

특히 초거대 AI 모델은 수천억 개의 파라미터를 처리하는 과정에서 메모리 병목 현상이 빈번하게 발생한다. GPU 연산 속도를 메모리 데이터 공급이 따라가지 못할 경우 전체 시스템 성능이 제한되는 구조다. SOCAMM2는 이러한 성능 제약을 완화하면서도 전력 효율을 높일 수 있는 대안으로 평가된다.

AI 메모리 시장은 현재 HBM 중심으로 재편됐지만 중장기적으로는 다양한 메모리 솔루션 간 경쟁이 동시에 전개될 가능성이 크다. 삼성전자와 마이크론 역시 저전력 메모리 기반 서버 솔루션을 준비하고 있는 것으로 알려졌다. 특히 AI 데이터센터의 전력 소비가 급증하면서 메모리 업체 간 경쟁은 단순 성능을 넘어 '전력당 성능(Performance per Watt)' 중심으로 이동하고 있다. 이 과정에서 SOCAMM2와 같은 저전력 모듈은 HBM을 보완하는 역할을 하며 새로운 시장을 형성할 가능성이 크다.

SK하이닉스가 강조한 부분은 '양산 체제 조기 안정화'다. AI 시장은 기술 개발 속도뿐 아니라 실제 공급 능력이 중요한 산업이다. 특히 클라우드 서비스 기업(CSP) 고객들은 대규모 인프라 구축 시 검증된 제품을 선호하는 만큼 양산 경험과 레퍼런스 확보가 수주 경쟁에서 핵심 요소로 작용한다. 이번 양산은 단순 기술 발표를 넘어 실질적인 공급 단계에 진입했다는 점에서 의미가 있다.

중장기적으로 AI 메모리 시장은 HBM, DDR, LPDDR 기반 모듈 등이 공존하는 다층 구조로 발전할 가능성이 크다. 학습 단계에서는 HBM과 같은 초고성능 메모리가, 추론 단계에서는 SOCAMM2와 같은 저전력 메모리가 각각 역할을 분담하는 방식이다. 이는 메모리 기업들에게 새로운 기회를 제공하는 동시에 경쟁을 더욱 복잡하게 만드는 요인으로 작용할 전망이다.

SK하이닉스의 SOCAMM2 양산은 이러한 흐름 속에서 AI 메모리 포트폴리오를 확장하려는 전략적 움직임으로 평가된다. HBM으로 확보한 기술 리더십을 저전력 메모리 영역까지 확장할 수 있을지가 향후 경쟁의 핵심 관건이 될 것으로 보인다.

김주선 SK하이닉스 AI Infra 사장(Chief Marketing Officer)은 "SOCAMM2 192GB 제품 공급으로 AI 메모리 성능의 새로운 기준을 세웠다"며 "글로벌 AI 고객과 긴밀한 협력을 바탕으로 고객이 가장 신뢰하는 AI 메모리 설루션 기업으로 자리매김하겠다"고 말했다.