2026.10.16 금요일
검색
'워크스테이션' 검색결과
기간검색
-
~
검색영역
검색어
-
삼성전자, AI 메모리 승부수…'zHBM'으로 응답속도 10배 [경제일보] 삼성전자가 AI 에이전트 시대를 겨냥해 AI 시스템의 응답속도를 현재보다 10배 높이는 차세대 메모리 전략을 제시했다. AI 가속기 위에 HBM을 직접 쌓는 'zHBM'을 통해 데이터 처리 속도를 끌어올리고, HBM5 대비 최대 8배 성능을 구현한다는 구상이다. 16일(현지시간) 업계에 따르면 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 미국 캘리포니아주 샌타클라라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 차세대 AI 메모리 기술과 로드맵을 소개했다. AI가 질문에 답하는 수준을 넘어 여러 작업을 스스로 수행하는 에이전트형으로 발전하면서 빠른 응답을 구현하기 위한 메모리 성능의 중요성도 커지고 있다. 삼성전자는 현재 이용자당 초당 100토큰 수준인 대화형 AI의 응답속도를 초당 1000토큰까지 높이는 목표를 제시했다. 삼성전자가 주목한 기술은 수직 적층형 zHBM이다. 기존 2.5D 구조에서는 AI 가속기와 HBM을 옆으로 배치하지만, zHBM은 HBM을 가속기 상단에 직접 올린다. 연산장치와 메모리 사이의 거리를 줄여 데이터 이동 과정에서 발생하는 지연시간을 낮추는 구조다. 김 상무는 이 방식을 "호텔 객실 내에 1층 로비로 직행하는 전용 엘리베이터를 두는 것"이라고 비유했다. 가속기와 메모리 사이의 데이터 이동 경로를 짧게 만들어 처리 효율을 높일 수 있다는 설명이다. 삼성전자는 zHBM이 HBM5와 비교해 최대 8배의 성능과 3배 이상의 전력 효율을 구현할 수 있을 것으로 보고 있다. AI 모델이 대형화하면서 처리해야 할 데이터가 늘어나는 상황에서 메모리 대역폭뿐 아니라 가속기와 메모리 사이의 데이터 처리 효율까지 높이겠다는 전략이다. 수직으로 메모리를 쌓을 경우 발열 관리가 새로운 과제로 부상할 수 있다. AI 가속기에서 발생한 열이 바로 위에 배치된 HBM으로 전달될 가능성이 있기 때문이다. 삼성전자는 AI 가속기 고객사와 제품 초기 설계 단계부터 협력하는 공동 설계 방식을 통해 열 문제를 해결한다는 계획이다. 삼성전자는 AI 워크스테이션 등 온디바이스 AI 시장을 겨냥한 낸드플래시 기반 3차원 저장장치 솔루션 'z낸드-O'도 공개했다. 대규모 서버에 의존하지 않고도 고용량 AI 모델을 구동할 수 있는 환경을 구축하는 것이 목표다. 김 상무는 "2030년이 되면 대규모 서버가 아닌 AI 워크스테이션 등의 환경에서도 매개변수(파라미터) 1조 개 수준의 거대 AI를 자체 구동하는 사례가 보편화할 것"이라며 "D램만으로 매개변수 1조 개에 맞는 메모리를 구성하려면 상당히 큰 비용이 들지만, z낸드-O를 적용하면 6분의 1 비용으로 구현할 수 있다"고 말했다. 삼성전자는 2028년 z낸드-O 샘플 공급을 시작할 예정이다. 대형 AI 모델을 구동하는 데 필요한 메모리 용량이 확대되는 가운데 낸드플래시를 활용해 시스템 구축 비용을 낮추겠다는 구상이다. 김 상무는 "AI 반도체 경쟁의 핵심인 '시장 출시 속도'에서 고객사들에 독보적 가치를 제공할 것"이라고 덧붙였다.2026-09-17 09:01:26
-
엔비디아, 10월 'RTX 스파크' 출격…PC를 '개인 AI 슈퍼컴퓨터'로 바꾼다 [경제일보] 엔비디아가 오는 10월 차세대 AI PC 플랫폼 ‘RTX 스파크’를 정식 출시한다. 데이터센터에 의존하던 고성능 AI를 개인 PC에서 직접 구동하고, 여러 대의 PC에 흩어진 연산 자원까지 활용하는 전략이다. 엔비디아는 IFA 2026에서 RTX 스파크 기반 윈도 PC 출시 계획을 공개했다. 레노버와 에이서가 신제품을 선보였고 에이수스·델·HP·MSI 등도 관련 제품을 준비하고 있다. RTX 스파크는 블랙웰 RTX GPU와 미디어텍과 공동 설계한 20코어 그레이스 CPU를 하나의 칩에 결합했다. TSMC 3나노 공정으로 만들어졌으며 최대 128GB 통합 메모리와 FP4 기준 1페타플롭의 AI 연산 성능을 제공한다. 통합 메모리는 CPU와 GPU가 하나의 메모리 공간을 함께 활용하는 구조다. 기존 PC보다 대규모 메모리가 필요한 거대언어모델(LLM)을 로컬 환경에서 실행하기 유리하다. 엔비디아는 최대 1200억개 매개변수 규모 모델과 3D 작업, AI 영상 생성 등을 PC에서 직접 처리할 수 있다고 설명했다. 핵심은 ‘로컬 AI’다. 문서나 사진 등 민감한 데이터를 외부 클라우드로 보내지 않고 PC 내부에서 처리할 수 있어 개인정보 보호와 비용 측면에서 장점이 있다. 마이크로소프트와는 윈도에서 AI 에이전트가 백그라운드로 작업을 수행할 수 있도록 관련 실행환경과 보안 체계를 공동 개발하고 있다. 젠슨 황 엔비디아 CEO는 앞서 RTX 스파크를 공개하며 “40년 만의 PC 재발명”이라고 표현했다. 앞으로는 이용자가 프로그램을 직접 하나씩 실행하는 대신 AI 에이전트가 목표를 이해하고 여러 작업을 스스로 수행하는 형태로 PC가 바뀔 것이라는 구상이다. 엔비디아는 여러 PC의 남는 연산능력을 연결하는 ‘PAIR(Personal AI Router)’도 공개했다. PAIR는 집이나 사무실 내 여러 PC 가운데 여유가 있는 기기에 AI 작업을 나눠주는 무료 오픈소스 소프트웨어다. 다만 여러 GPU의 메모리를 하나로 합치는 기술은 아니다. 각각의 PC가 독립적으로 AI 요청을 처리하고 PAIR가 이를 적절한 장치에 분배하는 방식이다. 지포스 RTX 20 시리즈 이후 GPU와 RTX 프로 워크스테이션, DGX 스파크, 애플 M4 이후 제품을 지원하며 윈도·맥OS·리눅스 간 연결도 가능하다. 엔비디아는 데이터센터에서 구축한 CUDA 기반 AI 생태계를 이제 개인 PC까지 확장하려 하고 있다. RTX 스파크가 AI를 실행하는 ‘개인 슈퍼컴퓨터’라면 PAIR는 여러 PC를 하나의 로컬 AI 작업환경으로 묶는 역할이다. 한편 관건은 성능보다 활용성이다. AI 에이전트를 클라우드 없이 PC에서 돌리는 경험이 실제 사용자에게 얼마나 필요한 기능으로 자리 잡느냐가 RTX 스파크의 성패를 가를 전망이다.2026-09-04 09:51:18
-
델 "에이전틱 AI, 책상까지 내려온다"…토큰 비용에 '분산처리' 승부수 [경제일보] 인공지능(AI)이 질문에 답하는 수준을 넘어 실제 업무를 수행하는 ‘에이전틱 AI’로 진화하면서 기업의 AI 인프라 전략도 바뀌고 있다. 모든 AI 연산을 클라우드와 데이터센터에 집중하는 방식에서 벗어나 업무 특성과 데이터 민감도, 비용에 따라 PC·워크스테이션·기업 데이터센터·클라우드로 나눠 처리하는 ‘분산 AI’가 새로운 선택지로 떠오르고 있다. 델 테크놀로지스는 25일 서울 코엑스에서 열린 ‘델 테크놀로지스 포럼 2026’과 연계해 기자 간담회를 열고 에이전틱 AI 시대 기업의 핵심 과제로 AI 토큰 비용 관리와 데이터 보안, 인프라 현대화를 제시했다. 유상모 한국 델 테크놀로지스 사장은 이 자리에서 “AI를 어디에서 얼마나 효율적으로 처리할 것인지가 중요해지고 있다”고 강조했다. 델의 ‘2026 모던 엔터프라이즈 레디니스 조사’에 따르면 국내 응답 기업의 72%가 현재 데이터센터가 대규모 AI·분석 워크로드를 지원하기에 충분하지 않다고 답했다. 84%는 데이터센터 현대화 계획을 갖고 있었다. 이는 AI 도입이 모델 선택을 넘어 기존 인프라의 전면적인 재설계 문제로 번지고 있음을 보여준다. ◆ AI 에이전트 늘수록 ‘토큰 비용’이 변수 유 사장은 기자 간담회에서 AI 에이전트가 확산할수록 기업이 AI 사용량과 비용을 함께 관리해야 한다고 강조했다. 그는 “가치가 낮은 업무에 많은 토큰을 쓰는 반면 가치 있는 업무에는 적은 토큰만 사용하는 상황도 발생한다”며 AI 활용을 무조건 늘리는 방식보다 업무별 효율성을 따져야 한다고 지적했다. 에이전틱 AI는 사용자의 요청을 해석하고 검색·도구 호출·실행을 반복하기 때문에 단순 질의응답보다 토큰 사용량이 커질 수 있다. 이에 따라 델은 대규모 연산은 클라우드나 데이터센터에서 처리하고, 반복적인 추론이나 외부 전송이 부담스러운 민감정보는 사용자 PC와 워크스테이션에서 처리하는 ‘데스크사이드 AI’ 전략을 제시했다. 정재욱 델 테크놀로지스 이사는 “클라우드는 대규모 연산에, 데이터 소유권과 통제가 중요한 연산은 기업 데이터센터에 적합하다”며 “반복적인 추론이나 민감한 데이터는 데스크사이드에서 처리해 효율을 확보할 수 있다”고 설명했다. AI PC는 CPU·GPU·NPU를 활용해 일부 AI 추론을 기기 자체에서 수행할 수 있다. 클라우드 API 호출을 줄여 토큰 비용을 낮추는 동시에 민감한 데이터의 외부 전송을 줄이는 수단으로 활용할 수 있다. 델은 인텔 코어 울트라 시리즈3와 AMD 라이젠 AI 프로 400 시리즈 등을 탑재한 기업용 ‘델 프로’ 제품군을 확대하고 있다. 일부 모델에는 고성능 NPU를 적용해 온디바이스 AI 활용 범위를 넓혔다. 델이 인용한 조사에서도 국내 응답자의 90%가 현대적인 디바이스가 회의·협업의 질을 높인다고 답했고, 87%는 노후 장비가 AI 애플리케이션 도입의 걸림돌이라고 답했다. AI PC가 단순한 업무용 기기를 넘어 기업 AI 인프라의 한 축으로 부상하고 있다는 설명이다. ◆ AI 확산할수록 보안·규제도 앞단으로 AI 인프라의 분산은 보안 문제와도 연결된다. 국내 조사 응답자의 75%는 AI 데이터 관련 정부 규제 대응에 어려움을 느꼈고, 65%는 보안·컴플라이언스 문제가 AI 도입을 지연하거나 중단시킨 요인이라고 답했다. 60%는 제3자가 접근할 가능성이 있는 생성형 AI 도구에 회사의 중요 데이터를 맡기기 어렵다고 했다. 델은 AI 활용이 확대될수록 보안을 사후적으로 추가하기보다 PC·데이터센터·클라우드 등 인프라 설계 단계에서부터 보안과 데이터 거버넌스를 함께 구축해야 한다고 강조했다. 결국 에이전틱 AI 시대의 경쟁력은 가장 강력한 모델을 확보하는 데서 끝나지 않는다. 어떤 업무를 어떤 모델로 처리하고, 어디에서 연산하며, 얼마의 비용으로 운영할 것인지를 결정하는 능력이 기업 AI 경쟁력을 좌우할 전망이다. AI 에이전트가 기업 구성원의 업무 파트너로 자리 잡을수록 ‘AI를 많이 쓰는 기업’보다 ‘AI를 효율적으로 배치하는 기업’이 비용과 생산성 경쟁에서 앞설 가능성이 커지고 있다.2026-08-25 16:58:29
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI가 내 돈을 쓰는 시대, 책임은 누가 지나](https://image.ajunews.com/content/image/2026/10/16/20261016135030302549_518_323.jpeg)