2026.07.18 토요일
검색
'컴파일러' 검색결과
기간검색
-
~
검색영역
검색어
-
다음 'AI 요약', 국산 NPU·LLM로 돌린다…"GPU보다 비용 30% 절감" [경제일보] 포털 다음이 검색 결과를 요약하는 인공지능(AI) 서비스에 국산 AI 반도체와 거대언어모델(LLM)을 함께 적용했다. 퓨리오사AI의 신경망처리장치(NPU) ‘레니게이드’에서 업스테이지의 LLM ‘솔라’를 구동하고, 이를 다음의 실제 검색 서비스에 연결한 구조다. 국산 AI 기술이 연구개발이나 개념검증(PoC)을 넘어 대규모 이용자를 보유한 포털 서비스의 상용 인프라에 투입됐다는 점에서 의미가 있다. 업스테이지는 기존 그래픽처리장치(GPU) 기반 운영과 비교해 현재 약 30%의 비용 절감 효과를 확인했다고 밝혔다. 업스테이지(대표 김성훈)와 다음 운영사 AXZ(대표 이건수), 퓨리오사AI(대표 백준호)는 15일 온라인 간담회를 열고 다음 ‘AI 요약’ 서비스의 기술 구성과 향후 확장 계획을 공개했다. 다음 AI 요약은 이용자가 검색어 또는 문장형 질문을 입력하면 LLM이 관련 웹문서를 분석해 핵심 답변과 근거를 정리해주는 서비스다. 지난 1일 베타로 출시돼 이슈와 금융, 엔터테인먼트, 건강, 사전, 일상 등 6개 영역에 우선 적용됐다. ◆ 국산 NPU 24개로 하루 5억 토큰 처리 AI 요약의 추론 연산은 퓨리오사AI의 2세대 NPU 레니게이드가 담당한다. 현재 서버 3개 노드에 레니게이드 24개를 배치해 하루 평균 약 5억개의 토큰을 처리하고 있다. 토큰은 AI 모델이 정보를 이해하고 답변을 생성할 때 사용하는 데이터 단위다. 퓨리오사AI는 레니게이드 칩뿐 아니라 솔라 모델을 반도체에 배치하는 컴파일러와 추론용 서빙 엔진도 자체 개발했다. 범용 GPU에 모델을 올리는 방식과 달리 하드웨어와 소프트웨어, 모델을 함께 최적화하는 공동설계 방식으로 처리 효율을 높였다는 설명이다. 백준호 대표는 “레니게이드는 솔라 모델을 가속하면서 엔비디아 H200과 대등한 수준의 처리 성능을 확보했다”며 “가격 대비 성능과 전력 대비 성능에서는 더 높은 효율을 보이고 있다”고 말했다. 김성훈 대표도 “현재 다음과 함께 서비스를 운영하면서 GPU를 사용할 때보다 약 30%의 비용 절감 효과를 보고 있다”고 설명했다. 퓨리오사AI는 기업의 AI 전환(AX) 환경에서는 처리량과 모델 구성에 따라 GPU 대비 1.5∼2배 높은 비용 효율을 확보할 수 있다고 보고 있다. 다만 H200과의 비교 조건과 모델 크기, 동시 처리량, 응답 지연시간 등 세부 측정값은 공개되지 않았다. 30% 비용 절감 역시 3사가 실제 운영 과정에서 산출한 수치로, 외부 기관의 독립적인 비교 검증 결과는 아니다. 향후 서비스 적용 범위가 확대됐을 때도 같은 비용 효율을 유지하는지가 상용 경쟁력을 가를 전망이다. ◆ 업스테이지의 모델, 퓨리오사AI의 칩, 다음의 이용자 이번 협력이 주목받는 이유는 국내 AI 산업이 부족했던 ‘실제 사용처’를 확보했다는 점이다. 국산 NPU는 성능을 갖추고도 대규모 상용 서비스 적용 사례와 이를 뒷받침하는 소프트웨어 생태계가 부족하다는 평가를 받아왔다. 국내 LLM 역시 모델을 개발한 뒤 이를 지속적으로 사용하는 대규모 이용자 접점을 확보하는 것이 과제였다. 업스테이지는 지난 5월 카카오로부터 다음 운영사 AXZ 인수를 마무리했다. 이를 통해 자체 LLM을 포털 검색에 적용하고 이용자 반응과 토큰 사용 데이터를 다시 모델 개선에 활용할 수 있는 구조를 확보했다. 업스테이지와 퓨리오사AI의 협력도 이번이 처음은 아니다. 두 회사는 2022년 업스테이지의 광학문자인식(OCR) 기술을 퓨리오사AI의 1세대 NPU ‘워보이’에 적용했다. 지난해 6월에는 솔라를 레니게이드에 최적화하고 온프레미스 생성형 AI 인프라를 공동 개발하기 위한 업무협약을 체결했다. 이번 다음 AI 요약은 당시 협력이 실제 서비스로 연결된 사례다. 3사는 이를 국내 기술로 반도체와 모델, 서비스를 연결한 첫 풀스택 소버린 AI 상용 사례라고 평가했다. 다만 ‘국내 최초’는 3사의 자체 판단이다. 줌인터넷을 운영하는 이스트에이드가 지난달 AI 검색 서비스 ‘AI 3초 요약’과 ‘AI 이슈 트렌드’에 LG AI연구원의 ‘K-엑사원’을 먼저 적용했지만, 다음은 AI 모델뿐 아니라 추론 반도체까지 국산 기술을 적용한 점을 차별화 요소로 내세우고 있다. ◆ 검색 질의 절반 이상으로 확대…비용 효율이 관건 다음은 현재 전체 검색 질의의 약 20%에 AI 요약을 적용하고 있다. 1차 목표는 적용 비중을 절반 이상으로 확대하는 것이다. 쇼핑과 맛집처럼 정보가 자주 바뀌고 이용자의 선택까지 연결되는 분야에는 별도의 버티컬 AI 서비스를 적용할 계획이다. 환각을 줄이기 위한 검색 구조도 고도화했다. 기존 키워드 검색과 의미를 중심으로 자료를 찾는 벡터 검색을 결합한 ‘하이브리드 검색’으로 최신 자료를 솔라에 전달하고, 답변 생성 과정은 하네스 엔지니어링으로 통제한다. 연내에는 후속 질문을 이어갈 수 있는 대화형 ‘AI 모드’도 출시할 예정이다. 장기적으로는 이용자의 관심사와 이용 기록을 바탕으로 개인별 정보를 제공하는 ‘1인 1에이전트’를 구상하고 있다. 관심 분야 뉴스를 매일 아침 자동으로 모아주는 서비스 등이 대표적인 활용 사례다. 서비스 확대에는 반도체 공급도 뒷받침돼야 한다. 퓨리오사AI는 올해 초 레니게이드 양산을 시작했으며 연내 최대 1만개까지 공급할 수 있다는 입장이다. 유럽에서는 에퀴닉스 리스본 데이터센터에 레니게이드 서버를 설치해 현지 기업의 성능 검증도 지원하고 있다. 이번 협력은 업스테이지가 참여하는 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트에도 중요한 실증 사례가 될 전망이다. 다음달 예정된 2차 평가에서는 모델 성능뿐 아니라 산업 적용성과 실제 서비스 활용도가 주요 평가 요소로 거론된다. 업스테이지는 다음달 후속 솔라 모델도 공개할 예정이다. 김성훈 대표는 “다음 AI 서비스를 이용하면 솔라와 국산 NPU를 함께 사용하는 선순환이 만들어진다”며 “더 많은 사용이 기술과 품질 개선으로 이어지고, 개선된 품질이 다시 사용량을 늘리는 생태계를 구축하겠다”고 말했다.2026-07-15 14:01:14
-
메가존클라우드, 국산 AI 반도체 실증 인프라 맡는다…NPU 상용화 시험대 [경제일보] 메가존클라우드(대표 염동훈)가 국산 AI 반도체 기반 클라우드 인프라 실증 사업에 참여한다. 정부가 추진하는 AI 컴퓨팅 인프라 고도화 사업에서 NPU 기반 클라우드 환경의 통합 운영을 맡아 국산 AI 반도체의 실제 서비스 가능성을 검증한다. 메가존클라우드는 과학기술정보통신부와 정보통신산업진흥원이 주관하는 ‘AI 컴퓨팅 실증 인프라 고도화’ 사업에 인프라 통합 운영자 자격으로 참여한다고 25일 밝혔다. 이 사업은 국산 AI 반도체를 기반으로 대규모 AI 인프라를 구축하고 LLM 기반 서비스와 GPU·NPU 혼용 환경을 실증하는 국가 과제다. 메가존클라우드는 국산 NPU 기반 클라우드 인프라 운영 전반을 담당한다. NPU 자원할당과 통합 관리 모니터링 소프트웨어 개발, 멀티클라우드 기반 NPU 자원할당 및 모니터링 소프트웨어 연계, AI 컴퓨팅 인프라 통합 운영·관제와 사용자 환경 구축이 주요 역할이다. 이번 사업은 2025년부터 2027년까지 3년간 추진되는 ‘AI 반도체 조기 상용화 및 AI전환 실증지원’ 사업의 일환이다. 올해는 2차년도에 해당한다. 목표는 60페타플롭스 이상 AI 컴퓨팅 인프라 구축, AI 반도체 컴파일러 및 클라우드 소프트웨어 고도화, 의료·LLM 분야 AI 응용서비스 실증이다. 컨소시엄에는 메가존클라우드 외에도 퓨리오사AI, 리벨리온, NHN클라우드, 하이퍼엑셀, 네이버클라우드 등이 참여한다. AI 반도체 설계 기업과 클라우드 사업자가 함께 실증 인프라를 구성해 국산 NPU가 실제 클라우드 환경에서 안정적으로 작동하는지 검증하는 구조다. 이번 과제의 배경에는 AI 인프라 주권 문제가 있다. 생성형 AI 확산 이후 글로벌 AI 컴퓨팅 자원은 일부 해외 GPU와 클라우드 사업자에 집중됐다. 국내에서도 자체 AI 반도체와 클라우드 소프트웨어를 결합해 비용 부담과 공급망 의존도를 낮춰야 한다는 요구가 커졌다. NPU 상용화는 칩 성능만으로 결정되지 않는다. 여러 사용자가 클라우드에서 안정적으로 자원을 배분받고 모델을 실행할 수 있어야 한다. 컴파일러와 런타임, 모니터링, 장애 대응 체계도 함께 갖춰져야 한다. 메가존클라우드가 통합 운영을 맡는 이유다. 사업 성과는 클라우드 AI 인프라 고도화와 AI 모델 최적화, 산업별 AI 서비스 확장에 활용될 예정이다. 제조와 금융, 헬스케어, 교육, 공공 등 다양한 산업군에서 국산 AI 반도체 기반 서비스를 적용할 수 있는 기반을 마련하는 것이 목표다. 황인철 메가존클라우드 최고매출책임자는 “국산 AI 반도체의 상용화 경쟁력은 실제 서비스 환경에서 안정적으로 운영하고 확장할 수 있는 클라우드 플랫폼 역량이 뒷받침돼야 한다”며 “국내 인프라 구축과 해외 현장 실증 경험을 축적해 국산 AI 반도체 생태계 성숙에 기여하겠다”고 말했다.2026-06-25 15:46:02
-
앤트로픽, MS 자체 AI칩 '마이아' 사용 논의…엔비디아 의존 낮춘다 [경제일보] 마이크로소프트(MS)가 자체 개발한 인공지능(AI) 반도체 ‘마이아’를 앤트로픽에 공급하는 방안을 논의 중인 것으로 알려졌다. 협상이 성사되면 MS가 자체 AI칩을 외부 대형 AI 모델 개발사에 제공하는 첫 사례가 될 수 있다. 로이터는 21일(현지시간) IT 전문매체 디인포메이션을 인용해 앤트로픽이 MS가 설계한 AI칩 기반 서버를 임대하는 방안을 논의하고 있다고 보도했다. 협상은 아직 초기 단계이며 최종 타결 여부는 확정되지 않았다. MS와 앤트로픽은 해당 보도에 대해 논평을 거부했다. 논의 대상은 MS의 최신 AI 가속기 ‘마이아 200’이다. MS는 지난 1월 마이아 200을 공개하며 대규모 AI 추론 작업에 특화된 자체 칩이라고 설명했다. 마이아 200은 TSMC 3나노 공정 기반으로 제작됐고 FP4 기준 10페타플롭스 이상, FP8 기준 5페타플롭스 이상의 연산 성능을 제공한다고 MS는 밝혔다. 또 표준 이더넷 기반 네트워크로 최대 6144개 AI 가속기 클러스터까지 확장할 수 있도록 설계됐다. 앤트로픽이 마이아 200을 사용하게 될 경우 주된 용도는 클로드 모델의 추론 작업이 될 전망이다. 추론은 이미 학습된 AI 모델이 이용자 질문에 답변을 생성하는 과정이다. 이용량이 빠르게 늘어날수록 추론 비용은 AI 서비스 운영비의 핵심 부담이 된다. 대형 AI 기업들이 엔비디아 GPU뿐 아니라 자체 칩과 클라우드 전용 가속기를 병행하려는 이유도 여기에 있다. 앤트로픽은 이미 아마존과 구글의 자체 칩 생태계를 활용하고 있다. 아마존은 앤트로픽의 주요 투자자이자 클라우드 파트너이며 앤트로픽은 AWS의 트레이니움·인퍼런시아 계열 칩을 활용해왔다. 구글과도 협력을 확대해 차세대 TPU 기반 다중 기가와트 규모 컴퓨팅 용량을 확보하기로 했다. 앤트로픽은 지난달 구글·브로드컴과의 협력을 발표하며 2027년부터 차세대 TPU 용량을 순차적으로 확보한다고 밝혔다. MS와의 협상이 성사되면 앤트로픽은 아마존, 구글, MS 등 3대 클라우드 사업자의 자체 AI칩을 모두 활용하는 주요 AI 모델 개발사가 된다. 이는 단순한 서버 임대를 넘어 AI 인프라 조달 전략의 다변화를 뜻한다. 엔비디아 GPU는 여전히 학습과 고성능 추론의 중심이지만 공급 부족과 높은 비용 때문에 AI 기업들은 자체 칩과 전용 가속기를 함께 사용하는 방향으로 움직이고 있다. MS에도 의미가 크다. MS는 지난해 앤트로픽, 엔비디아와 전략적 협력을 발표하며 앤트로픽이 클로드 모델을 애저에서 확장하고 300억달러 규모의 애저 컴퓨팅 용량을 구매하기로 했다고 밝혔다. 당시 협력은 엔비디아 시스템 기반 애저 인프라가 중심이었다. 이번 마이아 논의는 MS가 단순 클라우드 제공자를 넘어 자체 반도체를 외부 AI 기업에 공급하는 단계로 나아가는 신호가 될 수 있다. MS는 그동안 마이아 칩을 주로 내부 AI 서비스에 활용해왔다. MS는 마이아 200이 마이크로소프트 365 코파일럿, 파운드리 모델, 오픈AI 최신 모델 등 자사 클라우드 서비스와 AI 모델 운영에 쓰일 것이라고 설명했다. 자체 칩을 외부 고객에게 본격 제공할 수 있다면 구글 TPU, 아마존 트레이니움처럼 클라우드 차별화 수단으로 키울 수 있다. AI 반도체 경쟁 구도도 바뀌고 있다. 지금까지 AI 인프라 시장은 엔비디아 GPU가 압도적인 지위를 차지했다. 그러나 추론 수요가 폭증하면서 클라우드 사업자들은 비용 효율과 공급 안정성을 위해 자체 칩을 키우고 있다. 구글은 TPU를 제미나이와 외부 고객용 클라우드에 활용하고 아마존은 트레이니움과 인퍼런시아를 AWS 고객에게 제공한다. MS가 마이아를 앤트로픽에 공급한다면 후발주자로 평가받던 자체 칩 전략이 외부 검증을 받는 계기가 된다. 다만 단기간에 엔비디아 의존이 급격히 줄어들 가능성은 낮다. 앤트로픽은 MS·엔비디아와의 기존 협력에서 엔비디아 Grace Blackwell과 Vera Rubin 시스템을 활용하는 컴퓨팅 용량도 확보하기로 했다. 프런티어 모델 학습에는 여전히 엔비디아 GPU 생태계와 소프트웨어 스택의 강점이 크다. 마이아 200은 주로 대규모 추론 비용을 낮추고 공급처를 넓히는 보완재 역할을 할 가능성이 높다. 마이아200이 실제 AI 인프라 시장에서 통할지는 가격 대비 성능과 소프트웨어 생태계가 좌우할 전망이다. AI 칩은 연산 성능만 높다고 경쟁력이 생기지 않는다. 모델 최적화, 컴파일러, 네트워크, 메모리 대역폭, 개발자 도구, 운영 안정성이 함께 갖춰져야 한다. 앤트로픽이 차세대 마이아 설계 과정에 참여할 수 있다는 관측도 MS가 고객 워크로드에 맞춘 반도체 공동 최적화 전략을 강화하고 있음을 보여준다. 이번 논의는 AI 경쟁의 중심이 모델 성능에서 인프라 조달 능력으로 확장되고 있음을 보여준다. 클로드 이용량이 늘어날수록 앤트로픽은 더 많은 데이터센터 전력, 칩, 네트워크, 클라우드 용량을 안정적으로 확보해야 한다. MS는 마이아를 통해 애저의 원가 구조를 개선하고 외부 AI 고객을 붙잡을 수 있다. 협상이 타결된다면 AI 반도체 시장의 메시지는 분명하다. 엔비디아 독주가 끝났다는 뜻은 아니지만 빅테크 자체 칩이 더 이상 내부 실험용에 머물지 않고 대형 AI 서비스의 실제 운영 인프라로 들어가기 시작했다는 신호다. MS의 마이아가 앤트로픽 클로드의 추론 비용을 얼마나 낮출 수 있을지가 다음 관전 포인트다.2026-05-22 09:03:35
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 출국금지는 풀고, 책임은 남지 않았다](https://image.ajunews.com/content/image/2026/07/17/20260717121609620090_518_323.jpg)