2026.09.21 월요일
검색
'zHBM' 검색결과
기간검색
-
~
검색영역
검색어
-
삼성전자, AI 메모리 승부수…'zHBM'으로 응답속도 10배 [경제일보] 삼성전자가 AI 에이전트 시대를 겨냥해 AI 시스템의 응답속도를 현재보다 10배 높이는 차세대 메모리 전략을 제시했다. AI 가속기 위에 HBM을 직접 쌓는 'zHBM'을 통해 데이터 처리 속도를 끌어올리고, HBM5 대비 최대 8배 성능을 구현한다는 구상이다. 16일(현지시간) 업계에 따르면 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 미국 캘리포니아주 샌타클라라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 차세대 AI 메모리 기술과 로드맵을 소개했다. AI가 질문에 답하는 수준을 넘어 여러 작업을 스스로 수행하는 에이전트형으로 발전하면서 빠른 응답을 구현하기 위한 메모리 성능의 중요성도 커지고 있다. 삼성전자는 현재 이용자당 초당 100토큰 수준인 대화형 AI의 응답속도를 초당 1000토큰까지 높이는 목표를 제시했다. 삼성전자가 주목한 기술은 수직 적층형 zHBM이다. 기존 2.5D 구조에서는 AI 가속기와 HBM을 옆으로 배치하지만, zHBM은 HBM을 가속기 상단에 직접 올린다. 연산장치와 메모리 사이의 거리를 줄여 데이터 이동 과정에서 발생하는 지연시간을 낮추는 구조다. 김 상무는 이 방식을 "호텔 객실 내에 1층 로비로 직행하는 전용 엘리베이터를 두는 것"이라고 비유했다. 가속기와 메모리 사이의 데이터 이동 경로를 짧게 만들어 처리 효율을 높일 수 있다는 설명이다. 삼성전자는 zHBM이 HBM5와 비교해 최대 8배의 성능과 3배 이상의 전력 효율을 구현할 수 있을 것으로 보고 있다. AI 모델이 대형화하면서 처리해야 할 데이터가 늘어나는 상황에서 메모리 대역폭뿐 아니라 가속기와 메모리 사이의 데이터 처리 효율까지 높이겠다는 전략이다. 수직으로 메모리를 쌓을 경우 발열 관리가 새로운 과제로 부상할 수 있다. AI 가속기에서 발생한 열이 바로 위에 배치된 HBM으로 전달될 가능성이 있기 때문이다. 삼성전자는 AI 가속기 고객사와 제품 초기 설계 단계부터 협력하는 공동 설계 방식을 통해 열 문제를 해결한다는 계획이다. 삼성전자는 AI 워크스테이션 등 온디바이스 AI 시장을 겨냥한 낸드플래시 기반 3차원 저장장치 솔루션 'z낸드-O'도 공개했다. 대규모 서버에 의존하지 않고도 고용량 AI 모델을 구동할 수 있는 환경을 구축하는 것이 목표다. 김 상무는 "2030년이 되면 대규모 서버가 아닌 AI 워크스테이션 등의 환경에서도 매개변수(파라미터) 1조 개 수준의 거대 AI를 자체 구동하는 사례가 보편화할 것"이라며 "D램만으로 매개변수 1조 개에 맞는 메모리를 구성하려면 상당히 큰 비용이 들지만, z낸드-O를 적용하면 6분의 1 비용으로 구현할 수 있다"고 말했다. 삼성전자는 2028년 z낸드-O 샘플 공급을 시작할 예정이다. 대형 AI 모델을 구동하는 데 필요한 메모리 용량이 확대되는 가운데 낸드플래시를 활용해 시스템 구축 비용을 낮추겠다는 구상이다. 김 상무는 "AI 반도체 경쟁의 핵심인 '시장 출시 속도'에서 고객사들에 독보적 가치를 제공할 것"이라고 덧붙였다.2026-09-17 09:01:26
-
AI칩과 메모리 거리 좁힌다…삼성전자, 3D 적층 'zHBM' 첫 공개 [경제일보] 삼성전자가 AI 가속기와 메모리 사이의 물리적 거리, 이른바 ‘메모리 장벽’을 허물 3차원(3D) 메모리 구조 ‘zHBM’을 공개했다. 옆에 붙이던 고대역폭메모리(HBM)를 AI 가속기 바로 위에 수직으로 쌓는 방식으로 성능과 전력 효율을 동시에 끌어올린다는 구상이다. 김경륜 삼성전자 D램개발실 상무는 4일(현지시간) 미국 캘리포니아주 샌타클래라컨벤션센터에서 열린 메모리 행사 ‘FMS 2026’ 기조발표에서 이 같은 3D 아키텍처 zHBM을 처음 소개했다. 기존에는 AI 가속기(xPU) 옆에 HBM을 나란히 연결했지만, zHBM은 가속기 위에 HBM을 직접 얹는다. 가로·세로 2차원 배치에서 벗어나 높이(Z축)를 새로 활용했다는 뜻에서 이름 앞에 ‘z’를 붙였다. 가속기와 메모리 사이 데이터 이동 거리를 최소화해 병목 현상을 줄였다고 삼성전자는 설명했다. zHBM은 차세대 HBM인 HBM5와 비교해도 GPU당 성능이 최대 8배, 전력 대비 성능은 최대 3배 개선된다. 열 저항 수치는 HBM5 대비 10~25% 수준으로 낮아져 발열 제어에서도 절반 이상의 개선 효과를 기대할 수 있다. 김 상무는 “기존 패키징 구조로는 가속기 칩과 메모리 간 물리적 거리를 줄이는 데 한계가 있다”며 아키텍처 전환의 필요성을 강조했다. 그는 개발 중인 HBM5에 HBM 최초로 게이트올어라운드(GAA) 트랜지스터를 적용해 2나노미터(㎚) 초미세 공정을 도입했으며, 코어 다이 측면에 열 방출 구조 기술을 더해 발열 제어 수준을 전 세대보다 20% 이상 끌어올렸다고 소개했다. 이어진 발표에서는 이진엽 플래시개발실 부사장이 기기내장형(온디바이스) AI 환경에 맞춘 차세대 낸드 솔루션 ‘z낸드-O’를 선보였다. D램의 용량 한계와 기존 낸드의 낮은 대역폭 문제를 동시에 풀어 고용량·고대역폭·빠른 응답속도를 구현했다는 설명이다. 이 부사장은 매개변수 1200억개 규모 GPT 모델을 구동한 결과 z낸드-O가 기존 D램 서버와 같은 초당 토큰 수를 내면서도 비용은 6분의 1에 그쳤다고 밝혔다. 삼성전자는 이날 400단 이상을 수직 적층한 10세대 V낸드 ‘V10 BV-낸드’도 업계 최초로 공개했다. 회사는 이번에 선보인 3D 메모리 제품들을 앞세워 늘어나는 고성능 컴퓨팅·AI 인프라용 메모리 수요를 확보한다는 계획이다.2026-08-05 10:27:56
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 청문보고서 통과 이틀 만에 사퇴…인사검증은 어디서 멈췄나](https://image.ajunews.com/content/image/2026/09/21/20260921093552830077_518_323.png)