안현 SK하이닉스 사장 "AI 추론 병목 해소"…3D 적층 D램·HBF 개발 추진

[경제일보] 안현 SK하이닉스 개발총괄 사장이 인공지능(AI) 추론 시장의 급성장에 대응하기 위한 차세대 메모리 기술 로드맵을 제시했다. 고대역폭메모리(HBM)의 성능을 높이는 동시에 3차원(3D) 적층 D램과 고대역폭플래시(HBF) 개발을 추진해 데이터 처리 병목을 줄이고 AI 인프라의 전력 효율을 개선한다는 구상이다.
 
14일 SK하이닉스에 따르면 안 사장은 국내 반도체 전시회 ‘SEDEX 2026’ 기조연설에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 차세대 기술 로드맵을 발표했다.
 
안 사장은 AI 추론 수요가 빠르게 증가하면서 개별 메모리의 성능뿐 아니라 서로 다른 메모리 계층 간 데이터 이동 효율이 중요해지고 있다고 진단했다.
 
안 사장은 AI 시장 확대를 이끄는 요인으로 작업 복잡도 증가와 컨텍스트 길이 확대, 추론 요청량 급증을 꼽았다. 세 요인이 복합적으로 작용하면서 AI 인프라에 필요한 연산 및 데이터 처리 규모가 빠르게 늘고 있다는 설명이다.
 
특히 오는 2030년 AI 인프라의 성능 규모가 2026년 대비 약 20배까지 확대될 것으로 전망했다. 빅테크 기업들의 지속적인 투자와 AI 기술의 효율화가 새로운 서비스 수요를 창출하면서 인프라 확충을 촉진할 것으로 내다봤다.
 
AI 추론이 복잡해질수록 연산에 필요한 데이터 저장량도 증가한다. 대표적으로 AI 모델이 이전에 처리한 정보를 보관하는 ‘KV 캐시(Key-Value Cache)’는 처리하는 문맥이 길어질수록 더 많은 메모리 공간을 차지한다.
 
대규모 데이터를 처리하려면 HBM과 일반 D램, 솔리드스테이트드라이브(SSD) 등 여러 저장장치에 정보를 나눠 보관해야 한다. 그러나 데이터가 각 계층을 오가는 과정에서 전송 지연과 추가적인 전력 소모가 발생한다.
 
기존에는 연산장치와 메모리 사이의 속도 차이가 주요 성능 제약으로 꼽혔다. 반면 AI 추론 환경에서는 메모리 계층마다 다른 처리 속도와 용량, 데이터 이동에 필요한 시간이 시스템 전체의 효율을 떨어뜨리는 요인으로 확대되고 있다.
 
이에 SK하이닉스는 메모리 제품별 성능 개선과 함께 데이터 특성에 따라 적합한 저장 공간을 배치하는 계층 최적화에 집중할 방침이다.
 
우선 HBM은 차세대 제품인 HBM4E까지 용량과 대역폭, 전력 효율을 높이는 방향으로 개발을 이어간다. 고객사의 AI 반도체 구조에 맞춰 기능을 설계하는 커스텀 HBM도 핵심 기술로 제시했다.
 
커스텀 HBM은 메모리 하단의 베이스 다이에 컨트롤러와 고객 맞춤형 회로를 적용하는 방식이다. 고객별 연산 구조에 적합한 기능을 구현해 데이터 처리 효율을 높이는 데 초점을 맞춘다.
 
새로운 메모리 기술로는 3D 적층 D램을 소개했다. 그래픽처리장치(GPU)나 신경망처리장치(NPU) 등 연산 반도체 위에 D램을 수직으로 쌓아 데이터 이동 거리를 줄이는 구조다.
 
연산장치와 메모리를 물리적으로 가깝게 배치하면 데이터를 주고받는 시간이 단축되고 전력 사용량도 줄일 수 있다. SK하이닉스는 이를 통해 고성능 연산장치와 HBM 사이에서 발생하는 성능 격차를 줄인다는 구상이다.
 
대용량 데이터 처리에 대응할 기술로는 HBF를 제시했다. HBF는 HBM 개발 과정에서 확보한 실리콘관통전극(TSV) 적층 기술과 고속 입출력 기술을 낸드플래시에 적용하는 차세대 메모리다.
 
SK하이닉스는 HBF를 HBM과 일반 D램 사이에 배치해 고대역폭과 대용량을 동시에 확보할 계획이다. 개발 목표는 동세대 HBM 대비 약 10배의 용량과 절반 수준의 대역폭이다.
 
AI 추론 과정에서는 저장된 데이터를 반복적으로 읽는 작업이 많고 쓰기 작업은 상대적으로 적다. 낸드플래시를 기반으로 하는 HBF는 이러한 데이터 처리 특성에 대응하면서 고용량 메모리 수요를 충족할 수 있는 기술로 제시됐다.
 
특히 연산에 필요한 대규모 데이터를 가까운 메모리 계층에 보관하면 일반 D램이나 SSD에 접근하는 횟수를 줄일 수 있다. 이를 통해 데이터 전송에 따른 지연과 전력 부담을 완화할 수 있을 것으로 기대된다.
 
SK하이닉스는 HBF의 국제표준화도 선제적으로 추진한다. 글로벌 기술 기업들과 협력해 제품 개발과 시스템 적용에 필요한 기술 기반을 마련하고, 향후 상용화를 위한 생태계를 구축할 계획이다.
 
이와 함께 컴퓨트익스프레스링크(CXL)와 차세대 스토리지 기술인 스토리지 넥스트 등을 활용해 메모리 구조를 다변화한다. AI 작업 특성에 따라 성능과 용량이 다른 메모리를 효율적으로 활용하는 시스템을 구현한다는 목표다.