2026.09.08 화요일
검색
'백준호' 검색결과
기간검색
-
~
검색영역
검색어
-
다음 'AI 요약', 국산 NPU·LLM로 돌린다…"GPU보다 비용 30% 절감" [경제일보] 포털 다음이 검색 결과를 요약하는 인공지능(AI) 서비스에 국산 AI 반도체와 거대언어모델(LLM)을 함께 적용했다. 퓨리오사AI의 신경망처리장치(NPU) ‘레니게이드’에서 업스테이지의 LLM ‘솔라’를 구동하고, 이를 다음의 실제 검색 서비스에 연결한 구조다. 국산 AI 기술이 연구개발이나 개념검증(PoC)을 넘어 대규모 이용자를 보유한 포털 서비스의 상용 인프라에 투입됐다는 점에서 의미가 있다. 업스테이지는 기존 그래픽처리장치(GPU) 기반 운영과 비교해 현재 약 30%의 비용 절감 효과를 확인했다고 밝혔다. 업스테이지(대표 김성훈)와 다음 운영사 AXZ(대표 이건수), 퓨리오사AI(대표 백준호)는 15일 온라인 간담회를 열고 다음 ‘AI 요약’ 서비스의 기술 구성과 향후 확장 계획을 공개했다. 다음 AI 요약은 이용자가 검색어 또는 문장형 질문을 입력하면 LLM이 관련 웹문서를 분석해 핵심 답변과 근거를 정리해주는 서비스다. 지난 1일 베타로 출시돼 이슈와 금융, 엔터테인먼트, 건강, 사전, 일상 등 6개 영역에 우선 적용됐다. ◆ 국산 NPU 24개로 하루 5억 토큰 처리 AI 요약의 추론 연산은 퓨리오사AI의 2세대 NPU 레니게이드가 담당한다. 현재 서버 3개 노드에 레니게이드 24개를 배치해 하루 평균 약 5억개의 토큰을 처리하고 있다. 토큰은 AI 모델이 정보를 이해하고 답변을 생성할 때 사용하는 데이터 단위다. 퓨리오사AI는 레니게이드 칩뿐 아니라 솔라 모델을 반도체에 배치하는 컴파일러와 추론용 서빙 엔진도 자체 개발했다. 범용 GPU에 모델을 올리는 방식과 달리 하드웨어와 소프트웨어, 모델을 함께 최적화하는 공동설계 방식으로 처리 효율을 높였다는 설명이다. 백준호 대표는 “레니게이드는 솔라 모델을 가속하면서 엔비디아 H200과 대등한 수준의 처리 성능을 확보했다”며 “가격 대비 성능과 전력 대비 성능에서는 더 높은 효율을 보이고 있다”고 말했다. 김성훈 대표도 “현재 다음과 함께 서비스를 운영하면서 GPU를 사용할 때보다 약 30%의 비용 절감 효과를 보고 있다”고 설명했다. 퓨리오사AI는 기업의 AI 전환(AX) 환경에서는 처리량과 모델 구성에 따라 GPU 대비 1.5∼2배 높은 비용 효율을 확보할 수 있다고 보고 있다. 다만 H200과의 비교 조건과 모델 크기, 동시 처리량, 응답 지연시간 등 세부 측정값은 공개되지 않았다. 30% 비용 절감 역시 3사가 실제 운영 과정에서 산출한 수치로, 외부 기관의 독립적인 비교 검증 결과는 아니다. 향후 서비스 적용 범위가 확대됐을 때도 같은 비용 효율을 유지하는지가 상용 경쟁력을 가를 전망이다. ◆ 업스테이지의 모델, 퓨리오사AI의 칩, 다음의 이용자 이번 협력이 주목받는 이유는 국내 AI 산업이 부족했던 ‘실제 사용처’를 확보했다는 점이다. 국산 NPU는 성능을 갖추고도 대규모 상용 서비스 적용 사례와 이를 뒷받침하는 소프트웨어 생태계가 부족하다는 평가를 받아왔다. 국내 LLM 역시 모델을 개발한 뒤 이를 지속적으로 사용하는 대규모 이용자 접점을 확보하는 것이 과제였다. 업스테이지는 지난 5월 카카오로부터 다음 운영사 AXZ 인수를 마무리했다. 이를 통해 자체 LLM을 포털 검색에 적용하고 이용자 반응과 토큰 사용 데이터를 다시 모델 개선에 활용할 수 있는 구조를 확보했다. 업스테이지와 퓨리오사AI의 협력도 이번이 처음은 아니다. 두 회사는 2022년 업스테이지의 광학문자인식(OCR) 기술을 퓨리오사AI의 1세대 NPU ‘워보이’에 적용했다. 지난해 6월에는 솔라를 레니게이드에 최적화하고 온프레미스 생성형 AI 인프라를 공동 개발하기 위한 업무협약을 체결했다. 이번 다음 AI 요약은 당시 협력이 실제 서비스로 연결된 사례다. 3사는 이를 국내 기술로 반도체와 모델, 서비스를 연결한 첫 풀스택 소버린 AI 상용 사례라고 평가했다. 다만 ‘국내 최초’는 3사의 자체 판단이다. 줌인터넷을 운영하는 이스트에이드가 지난달 AI 검색 서비스 ‘AI 3초 요약’과 ‘AI 이슈 트렌드’에 LG AI연구원의 ‘K-엑사원’을 먼저 적용했지만, 다음은 AI 모델뿐 아니라 추론 반도체까지 국산 기술을 적용한 점을 차별화 요소로 내세우고 있다. ◆ 검색 질의 절반 이상으로 확대…비용 효율이 관건 다음은 현재 전체 검색 질의의 약 20%에 AI 요약을 적용하고 있다. 1차 목표는 적용 비중을 절반 이상으로 확대하는 것이다. 쇼핑과 맛집처럼 정보가 자주 바뀌고 이용자의 선택까지 연결되는 분야에는 별도의 버티컬 AI 서비스를 적용할 계획이다. 환각을 줄이기 위한 검색 구조도 고도화했다. 기존 키워드 검색과 의미를 중심으로 자료를 찾는 벡터 검색을 결합한 ‘하이브리드 검색’으로 최신 자료를 솔라에 전달하고, 답변 생성 과정은 하네스 엔지니어링으로 통제한다. 연내에는 후속 질문을 이어갈 수 있는 대화형 ‘AI 모드’도 출시할 예정이다. 장기적으로는 이용자의 관심사와 이용 기록을 바탕으로 개인별 정보를 제공하는 ‘1인 1에이전트’를 구상하고 있다. 관심 분야 뉴스를 매일 아침 자동으로 모아주는 서비스 등이 대표적인 활용 사례다. 서비스 확대에는 반도체 공급도 뒷받침돼야 한다. 퓨리오사AI는 올해 초 레니게이드 양산을 시작했으며 연내 최대 1만개까지 공급할 수 있다는 입장이다. 유럽에서는 에퀴닉스 리스본 데이터센터에 레니게이드 서버를 설치해 현지 기업의 성능 검증도 지원하고 있다. 이번 협력은 업스테이지가 참여하는 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트에도 중요한 실증 사례가 될 전망이다. 다음달 예정된 2차 평가에서는 모델 성능뿐 아니라 산업 적용성과 실제 서비스 활용도가 주요 평가 요소로 거론된다. 업스테이지는 다음달 후속 솔라 모델도 공개할 예정이다. 김성훈 대표는 “다음 AI 서비스를 이용하면 솔라와 국산 NPU를 함께 사용하는 선순환이 만들어진다”며 “더 많은 사용이 기술과 품질 개선으로 이어지고, 개선된 품질이 다시 사용량을 늘리는 생태계를 구축하겠다”고 말했다.2026-07-15 14:01:14
-
유럽 향하는 국산 AI칩…퓨리오사AI, 리스본에 RNGD 테스트베드 [경제일보] 퓨리오사AI가 글로벌 데이터센터 기업과 손잡고 유럽 인공지능(AI) 인프라 시장 공략에 속도를 낸다. 포르투갈에 AI 반도체 평가 거점을 구축해 유럽 기업과 소버린 AI 프로젝트를 대상으로 자사 AI 추론 반도체 성능 검증을 지원하며 글로벌 시장 확대에 나선다는 전략이다. 8일 퓨리오사AI는 글로벌 디지털 인프라 기업 에퀴닉스와 협력해 포르투갈 리스본 에퀴닉스 LS2 데이터센터에 자사 AI 추론 반도체 'RNGD(레니게이드)' 기반 서버를 구축한다고 밝혔다. 이번 협력은 유럽 기업들이 실제 AI 모델과 워크로드를 기반으로 RNGD의 성능과 전력 효율, 운용 편의성을 직접 검증할 수 있는 테스트베드를 마련했다는 점에서 의미가 있다. 양사는 이를 시작으로 유럽 소버린 AI 시장과 AI 데이터센터 인프라 사업 협력을 확대할 계획이다. 퓨리오사AI는 이번 리스본 거점을 기반으로 현지 고객 지원 체계도 강화한다. 유럽 기업과 소버린 AI 프로젝트 참여 기관들은 리스본 데이터센터에서 대규모언어모델(LLM)과 에이전틱 AI를 직접 구동하고 자체 AI 모델과 워크로드를 검증할 수 있다. 올해 초 설립한 포르투갈 리스본 현지 법인 엔지니어들이 모델 구동과 시스템 구성, 소프트웨어 적용 등 도입 전 과정을 지원하며 고객 맞춤형 기술 서비스를 제공할 예정이다. 이번에 배치되는 RNGD는 퓨리오사AI가 자체 개발한 텐서축약프로세서(TCP) 아키텍처 기반의 데이터센터용 AI 추론 가속기다. 올해 초 고대역폭메모리(HBM)를 적용한 AI 가속기 가운데 드물게 양산에 성공했고, 국내외 고객사를 중심으로 상용화를 확대하고 있다. 퓨리오사AI는 RNGD가 대규모언어모델과 에이전틱 AI를 높은 전력 효율로 구동하면서 그래픽처리장치(GPU) 대비 총소유비용(TCO)을 낮출 수 있는 것이 강점이라고 했다. 기존 공랭식 데이터센터에서도 별도 냉각 설비 투자 없이 운용할 수 있어 AI 데이터센터 구축 비용 절감 효과도 기대된다는 설명이다. 업계에서는 유럽을 중심으로 소버린 AI 구축 수요가 확대되면서 전력 효율이 높은 AI 반도체와 인프라에 대한 관심도 커지고 있다고 보고 있다. 특히 전력 공급과 냉각 설비 제약이 심화되면서 GPU 중심 구조를 대체할 고효율 AI 추론 반도체 경쟁도 본격화되는 분위기다. 퓨리오사AI는 이번 주 프랑스 파리에서 열리는 'RAISE Summit 2026'에도 참가해 RNGD와 최신 소프트웨어 스택을 선보인다. 행사에서는 유럽 고객과 소버린 AI 프로젝트를 대상으로 AI 인프라 도입 논의를 이어갈 예정이다. 백준호 퓨리오사AI 대표는 글로벌 AI 인프라 기업 관계자들과 함께 'Powering AI Infrastructure: Solving the 21st Century Manhattan Project'를 주제로 패널 토론에 참석한다. 강지훈 최고연구책임자(CRO)는 기조연설을 통해 RNGD 소프트웨어 스택과 향후 기술 로드맵을 소개할 예정이다. 백 대표는 "유럽은 AI 서비스 확산과 함께 전력 및 냉각 인프라 제약이 중요한 과제로 떠오르고 있다"며 "에퀴닉스와 협력을 통해 유럽 기업과 소버린 AI 프로젝트가 실제 환경에서 RNGD의 성능과 경제성을 검증하고 보다 빠르게 AI 서비스를 구축할 수 있도록 지원하겠다"고 했다. 퓨리오사AI 관계자는 "리스본 RNGD 서버는 여러 기업이 공동으로 활용하는 평가 인프라 형태로 운영된다"며 "유럽 기업들이 실제 AI 서비스 환경에서 RNGD의 성능과 전력 효율을 직접 검증하고 도입 여부를 판단할 수 있도록 지원하는 테스트베드 역할을 하게 될 것"이라고 했다.2026-07-08 14:38:52
-
"데이터 외부 반출 '0'"... LG 엑사원+퓨리오사 NPU, '구축형 AI' 시장 정조준 [경제일보] LG유플러스가 토종 AI 반도체 팹리스 퓨리오사AI와 손잡고 공공·금융 등 보안이 생명인 B2B(기업간거래) 시장을 겨냥한 '설치형 AI(On-premise AI)' 솔루션을 내놓는다. 클라우드 연결 없이 기업 내부 서버에서 독립적으로 구동되는 '소버린 AI' 어플라이언스를 통해 데이터 주권 확보와 비용 효율화라는 두 마리 토끼를 잡겠다는 전략이다. LG유플러스(대표 홍범식)는 지난 4일(현지시간) 스페인 바르셀로나에서 열린 'MWC 2026' 현장에서 퓨리오사AI(대표 백준호)와 AI 인프라 협력을 위한 업무협약(MOU)을 체결했다고 8일 밝혔다. 이번 협력은 단순한 기술 제휴를 넘어 하드웨어와 소프트웨어를 결합한 '올인원 패키지'로 엔터프라이즈 AI 시장의 난제를 해결하겠다는 승부수로 풀이된다. 양사가 개발하는 '소버린 AI 어플라이언스'는 전원과 네트워크만 연결하면 즉시 사용할 수 있는 일체형 거대언어모델(LLM) 솔루션이다. 핵심은 LG유플러스의 기업용 AI 플랫폼 노하우와 LG AI연구원의 초거대 모델 '엑사원(EXAONE) 4.0', 그리고 퓨리오사AI의 2세대 NPU(신경망처리장치) '레니게이드(Renegade)'의 기술적 융합이다. LG유플러스는 엑사원 4.0을 기반으로 사내 지식관리시스템(KMS)과 검색증강생성(RAG) 기술을 최적화해 기업 내부의 방대한 문서를 보안 우려 없이 학습하고 검색할 수 있는 환경을 구축한다. 여기에 퓨리오사AI의 레니게이드 칩을 탑재해 기존 GPU(그래픽처리장치) 대비 압도적인 전력 효율과 추론 성능을 제공한다. 이는 24시간 상시 가동해야 하는 기업용 AI 시스템의 운영비용(TCO)을 획기적으로 낮출 수 있는 핵심 경쟁력이다. ◆ 빅테크 종속 탈피... '소버린 AI'가 뜬다 이번 협력은 전 세계적으로 확산하는 '소버린 AI(Sovereign AI)' 트렌드와 맥을 같이한다. 생성형 AI 도입이 가속화되면서 오픈AI나 구글 등 글로벌 빅테크의 퍼블릭 클라우드에 의존할 경우 발생할 수 있는 데이터 유출 및 기술 종속 우려가 커졌기 때문이다. 특히 국가 안보와 직결되는 국방, 공공 분야나 민감 정보를 다루는 금융, 의료 분야에서는 데이터가 외부로 나가지 않는 '온프레미스(사내 구축형)' 수요가 폭발하고 있다. LG유플러스는 이러한 시장의 페인 포인트(Pain Point)를 정확히 타격했다. 복잡한 서버 구축 과정 없이 즉시 도입 가능한 어플라이언스 형태는 AI 전문 인력이 부족한 기업들에게 매력적인 대안이 될 것으로 보인다. 양사는 이번 어플라이언스 개발을 시작으로 협력 범위를 AI 데이터센터(AIDC)와 피지컬 AI(Physical AI) 분야로 확장한다. AIDC에서는 NPU 기반의 서비스형 AI(NPUaaS) 모델을 발굴하고, 로봇이나 설비 제어 현장에서는 초저지연 추론 기술을 공동 연구해 'AI 인프라 생태계'를 선점하겠다는 구상이다. 업계 전문가는 "AI 시장의 무게중심이 '학습'에서 '추론(서비스)'으로 이동하면서 전력 효율과 비용 절감이 핵심 화두로 떠올랐다"며 "LG유플러스의 서비스 역량과 퓨리오사AI의 하드웨어 기술력이 결합된 이번 모델은 외산 장비 일색인 국내 AI 인프라 시장에서 강력한 대항마가 될 것"이라고 전망했다. 이상엽 LG유플러스 CTO는 "AI가 실제 업무 환경에 적용되려면 성능뿐만 아니라 보안과 운영 안정성이 필수"라며 "소버린 AI 어플라이언스를 시작으로 기업이 신뢰할 수 있는 하이브리드 AI 인프라를 구축해 나가겠다"고 강조했다.2026-03-08 09:13:54
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 법에 된다고 다 해도 되나…공직자의 공정 감수성이 무너지고 있다](https://image.ajunews.com/content/image/2026/09/07/20260907101432314802_518_323.png)