검색결과 총 7건
-
다음 'AI 요약', 국산 NPU·LLM로 돌린다…"GPU보다 비용 30% 절감"
[경제일보] 포털 다음이 검색 결과를 요약하는 인공지능(AI) 서비스에 국산 AI 반도체와 거대언어모델(LLM)을 함께 적용했다. 퓨리오사AI의 신경망처리장치(NPU) ‘레니게이드’에서 업스테이지의 LLM ‘솔라’를 구동하고, 이를 다음의 실제 검색 서비스에 연결한 구조다. 국산 AI 기술이 연구개발이나 개념검증(PoC)을 넘어 대규모 이용자를 보유한 포털 서비스의 상용 인프라에 투입됐다는 점에서 의미가 있다. 업스테이지는 기존 그래픽처리장치(GPU) 기반 운영과 비교해 현재 약 30%의 비용 절감 효과를 확인했다고 밝혔다. 업스테이지(대표 김성훈)와 다음 운영사 AXZ(대표 이건수), 퓨리오사AI(대표 백준호)는 15일 온라인 간담회를 열고 다음 ‘AI 요약’ 서비스의 기술 구성과 향후 확장 계획을 공개했다. 다음 AI 요약은 이용자가 검색어 또는 문장형 질문을 입력하면 LLM이 관련 웹문서를 분석해 핵심 답변과 근거를 정리해주는 서비스다. 지난 1일 베타로 출시돼 이슈와 금융, 엔터테인먼트, 건강, 사전, 일상 등 6개 영역에 우선 적용됐다. ◆ 국산 NPU 24개로 하루 5억 토큰 처리 AI 요약의 추론 연산은 퓨리오사AI의 2세대 NPU 레니게이드가 담당한다. 현재 서버 3개 노드에 레니게이드 24개를 배치해 하루 평균 약 5억개의 토큰을 처리하고 있다. 토큰은 AI 모델이 정보를 이해하고 답변을 생성할 때 사용하는 데이터 단위다. 퓨리오사AI는 레니게이드 칩뿐 아니라 솔라 모델을 반도체에 배치하는 컴파일러와 추론용 서빙 엔진도 자체 개발했다. 범용 GPU에 모델을 올리는 방식과 달리 하드웨어와 소프트웨어, 모델을 함께 최적화하는 공동설계 방식으로 처리 효율을 높였다는 설명이다. 백준호 대표는 “레니게이드는 솔라 모델을 가속하면서 엔비디아 H200과 대등한 수준의 처리 성능을 확보했다”며 “가격 대비 성능과 전력 대비 성능에서는 더 높은 효율을 보이고 있다”고 말했다. 김성훈 대표도 “현재 다음과 함께 서비스를 운영하면서 GPU를 사용할 때보다 약 30%의 비용 절감 효과를 보고 있다”고 설명했다. 퓨리오사AI는 기업의 AI 전환(AX) 환경에서는 처리량과 모델 구성에 따라 GPU 대비 1.5∼2배 높은 비용 효율을 확보할 수 있다고 보고 있다. 다만 H200과의 비교 조건과 모델 크기, 동시 처리량, 응답 지연시간 등 세부 측정값은 공개되지 않았다. 30% 비용 절감 역시 3사가 실제 운영 과정에서 산출한 수치로, 외부 기관의 독립적인 비교 검증 결과는 아니다. 향후 서비스 적용 범위가 확대됐을 때도 같은 비용 효율을 유지하는지가 상용 경쟁력을 가를 전망이다. ◆ 업스테이지의 모델, 퓨리오사AI의 칩, 다음의 이용자 이번 협력이 주목받는 이유는 국내 AI 산업이 부족했던 ‘실제 사용처’를 확보했다는 점이다. 국산 NPU는 성능을 갖추고도 대규모 상용 서비스 적용 사례와 이를 뒷받침하는 소프트웨어 생태계가 부족하다는 평가를 받아왔다. 국내 LLM 역시 모델을 개발한 뒤 이를 지속적으로 사용하는 대규모 이용자 접점을 확보하는 것이 과제였다. 업스테이지는 지난 5월 카카오로부터 다음 운영사 AXZ 인수를 마무리했다. 이를 통해 자체 LLM을 포털 검색에 적용하고 이용자 반응과 토큰 사용 데이터를 다시 모델 개선에 활용할 수 있는 구조를 확보했다. 업스테이지와 퓨리오사AI의 협력도 이번이 처음은 아니다. 두 회사는 2022년 업스테이지의 광학문자인식(OCR) 기술을 퓨리오사AI의 1세대 NPU ‘워보이’에 적용했다. 지난해 6월에는 솔라를 레니게이드에 최적화하고 온프레미스 생성형 AI 인프라를 공동 개발하기 위한 업무협약을 체결했다. 이번 다음 AI 요약은 당시 협력이 실제 서비스로 연결된 사례다. 3사는 이를 국내 기술로 반도체와 모델, 서비스를 연결한 첫 풀스택 소버린 AI 상용 사례라고 평가했다. 다만 ‘국내 최초’는 3사의 자체 판단이다. 줌인터넷을 운영하는 이스트에이드가 지난달 AI 검색 서비스 ‘AI 3초 요약’과 ‘AI 이슈 트렌드’에 LG AI연구원의 ‘K-엑사원’을 먼저 적용했지만, 다음은 AI 모델뿐 아니라 추론 반도체까지 국산 기술을 적용한 점을 차별화 요소로 내세우고 있다. ◆ 검색 질의 절반 이상으로 확대…비용 효율이 관건 다음은 현재 전체 검색 질의의 약 20%에 AI 요약을 적용하고 있다. 1차 목표는 적용 비중을 절반 이상으로 확대하는 것이다. 쇼핑과 맛집처럼 정보가 자주 바뀌고 이용자의 선택까지 연결되는 분야에는 별도의 버티컬 AI 서비스를 적용할 계획이다. 환각을 줄이기 위한 검색 구조도 고도화했다. 기존 키워드 검색과 의미를 중심으로 자료를 찾는 벡터 검색을 결합한 ‘하이브리드 검색’으로 최신 자료를 솔라에 전달하고, 답변 생성 과정은 하네스 엔지니어링으로 통제한다. 연내에는 후속 질문을 이어갈 수 있는 대화형 ‘AI 모드’도 출시할 예정이다. 장기적으로는 이용자의 관심사와 이용 기록을 바탕으로 개인별 정보를 제공하는 ‘1인 1에이전트’를 구상하고 있다. 관심 분야 뉴스를 매일 아침 자동으로 모아주는 서비스 등이 대표적인 활용 사례다. 서비스 확대에는 반도체 공급도 뒷받침돼야 한다. 퓨리오사AI는 올해 초 레니게이드 양산을 시작했으며 연내 최대 1만개까지 공급할 수 있다는 입장이다. 유럽에서는 에퀴닉스 리스본 데이터센터에 레니게이드 서버를 설치해 현지 기업의 성능 검증도 지원하고 있다. 이번 협력은 업스테이지가 참여하는 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트에도 중요한 실증 사례가 될 전망이다. 다음달 예정된 2차 평가에서는 모델 성능뿐 아니라 산업 적용성과 실제 서비스 활용도가 주요 평가 요소로 거론된다. 업스테이지는 다음달 후속 솔라 모델도 공개할 예정이다. 김성훈 대표는 “다음 AI 서비스를 이용하면 솔라와 국산 NPU를 함께 사용하는 선순환이 만들어진다”며 “더 많은 사용이 기술과 품질 개선으로 이어지고, 개선된 품질이 다시 사용량을 늘리는 생태계를 구축하겠다”고 말했다.
2026-07-15 14:01:14
-
초저지연 금융 인프라 키운다…KT클라우드, 여의도 DC 증설 착수
[경제일보] 국내 자본시장이 복수 거래시장 체제로 재편되면서 금융권의 데이터센터 수요가 빠르게 늘어나고 있다. 증권사들이 여러 거래시장을 동시에 연결하고 실시간 대용량 데이터를 처리해야 하는 환경이 조성되고 있고, 이에 KT클라우드가 초저지연 네트워크와 금융 특화 데이터센터를 확보하고 있다. 10일 KT클라우드는 금융 특화 데이터센터인 여의도 데이터센터(DC) 증설 공사에 착수했다고 밝혔다. 금융시장 구조 변화와 글로벌 투자 확대에 따른 인프라 수요 증가에 대응하기 위한 투자로, KT클라우드는 여의도 DC를 금융기관과 거래소, 글로벌 클라우드를 연결하는 금융 인프라 거점으로 육성한다는 계획이다. 최근 국내 금융시장은 복수 거래시장 체제 확산과 디지털 거래 증가로 IT 인프라의 중요성이 더욱 커지고 있다. 증권사와 금융기관들은 다수의 거래시장을 동시에 연결하면서 대규모 시장 데이터를 실시간으로 처리해야 하는 만큼 안정성과 초저지연 환경을 동시에 갖춘 데이터센터를 요구하고 있다. 해외 투자자의 국내 시장 참여 확대 역시 금융 인프라 고도화 수요를 키우는 요인으로 꼽힌다. 특히 금융권에서는 데이터센터의 입지가 서비스 경쟁력을 좌우하는 요소로 평가된다. 거래소와 가까울수록 네트워크 지연시간을 줄일 수 있어 초단타 매매(HFT)와 실시간 시세 전송, 리스크 관리 등 지연시간에 민감한 금융 서비스를 안정적으로 운영할 수 있기 때문이다. 이에 거래소와 인접한 금융 특화 데이터센터를 중심으로 금융사들의 입주 수요도 꾸준히 증가하고 있다. KT클라우드의 여의도 DC는 한국거래소(KRX)를 비롯한 주요 금융기관과 인접한 입지를 갖춘 금융 특화 데이터센터다. 현재 다수의 대형 증권사가 핵심 시스템을 구축해 운영하고 있으며, 이번 증설을 통해 오는 2027년 6월 준공을 목표로 2개 층 규모의 추가 수용 공간을 확보할 예정이다. 향후 여의도 권역 내 금융 인프라도 단계적으로 확대할 계획이다. 회사는 거래소 인접 입지를 활용한 근접 서버 호스팅 서비스를 고도화하는 동시에 '크로스커넥트', '원 DC 네트워크', 'HCX', DDoS 대응 서비스인 '클린존' 등을 통해 금융권이 요구하는 연결성과 보안성을 강화할 방침이다. 향후에는 'Time as a Service(TaaS)' 등 금융 특화 서비스도 확대해 금융 인프라 경쟁력을 높인다는 전략이다. 금융 데이터센터가 단순 서버 수용 시설을 넘어 AI와 클라우드 기반 금융 서비스의 핵심 인프라로 자리 잡고 있는 것으로 분석된다. 생성형 AI를 활용한 투자 분석과 이상거래 탐지, 실시간 리스크 관리 등 데이터 처리 수요가 증가하면서 안정적인 저지연 네트워크와 대용량 컴퓨팅 인프라의 중요성이 더욱 커지고 있다. 김봉균 KT클라우드 대표는 "금융시장의 구조 변화로 초저지연 거래 환경과 안정적인 연결성을 뒷받침하는 금융 인프라의 중요성이 더욱 커지고 있다"며 "여의도 DC를 국내 대표 금융 인프라 허브로 발전시켜 금융기관의 디지털 혁신과 글로벌 시장 연계를 적극 지원해 나가겠다"고 말했다.
2026-07-10 09:26:48
-
김창한 크래프톤 대표, 왜 AWS CEO를 만났나…AI 전환의 마지막은 '클라우드'
[경제일보] 김창한 크래프톤 대표가 아마존웹서비스(AWS) 최고경영자(CEO)를 만난 것은 단순한 파트너십 확대 이상의 의미를 갖는다. 크래프톤이 게임사를 넘어 AI 기업으로 체질 전환을 추진하는 가운데 AI를 대규모 서비스로 확장하기 위한 인프라 협력을 강화하는 행보로 해석된다. 크래프톤은 24일 링크드인 게시물을 통해 김 대표가 미국 시애틀 AWS 본사를 방문해 맷 가먼 AWS CEO와 회동했다고 밝혔다. 양사는 크래프톤의 AI 비전과 이를 지원할 클라우드·AI 인프라 활용 방안을 논의했다. 크래프톤은 그동안 ‘PUBG: 배틀그라운드’ 등 글로벌 게임 서비스를 AWS 클라우드 기반으로 운영해 왔지만 양사 CEO가 직접 만난 것은 이번이 처음이다. 이번 회동의 배경에는 AI 서비스 상용화 비용 문제가 있다. 크래프톤은 지난해 ‘AI 퍼스트’ 전략을 발표한 뒤 1000억원 이상을 투입해 GPU 클러스터를 구축하고 생성형 AI와 에이전틱 AI를 게임 개발·운영·콘텐츠에 적용하겠다는 계획을 제시했다. 그러나 자체 GPU 인프라만으로 연구개발과 실제 서비스 트래픽을 모두 감당하기는 쉽지 않다. 대규모 이용자가 동시에 접속하는 게임 서비스에서는 학습 비용보다 추론 비용과 지연시간, 운영 안정성이 더욱 중요하다. 게임 안의 AI NPC, 이용자 맞춤형 콘텐츠, 실시간 상호작용 기능이 확대될수록 AI 모델을 빠르고 안정적으로 구동하는 인프라가 필요하다. AWS와의 협력은 이 과제를 해결하기 위한 전략적 선택으로 풀이된다. 크래프톤이 특정 AI 모델 기업 한 곳에 기대기보다 클라우드 플랫폼과 접점을 넓히려는 움직임도 주목된다. AWS는 공식 자료를 통해 아마존 베드록(Amazon Bedrock)을 생성형 AI 애플리케이션과 에이전트 구축 플랫폼으로 소개하고 있다. 베드록은 다양한 파운데이션 모델 선택과 데이터 기반 맞춤화, 보안·개인정보 보호, 비용 최적화 기능을 제공한다. 크래프톤이 자체 AI 모델인 ‘라온’ 계열과 외부 모델, 게임 데이터, 이용자 경험을 결합하려면 멀티모델·멀티인프라 전략이 필요하다. 피지컬 AI 확장도 이번 만남을 설명하는 중요한 축이다. 크래프톤은 게임 속 가상 세계를 만드는 기업이지만 최근에는 로보틱스와 시뮬레이션 분야로 영역을 넓히고 있다. 피지컬 AI는 로봇이나 자율 시스템이 현실 환경을 인식·판단·행동하는 기술이다. 이를 구현하려면 가상 환경 학습, 대규모 시뮬레이션, 실시간 데이터 처리, 모델 배포 인프라가 필요하다. AWS의 클라우드·AI 인프라는 연구개발과 실제 서비스 운영을 연결하는 기반 역할을 할 수 있다. 이번 만남은 크래프톤의 빅테크 협력 확대 흐름과도 맞닿아 있다. 김 대표는 앞서 샘 올트먼 오픈AI CEO와 만났고 장병규 의장과 이강욱 CAIO는 젠슨 황 엔비디아 CEO와 게임 및 피지컬 AI 협력 가능성을 논의한 것으로 알려졌다. 오픈AI가 AI 모델을, 엔비디아가 AI 컴퓨팅 인프라를, AWS가 클라우드와 AI 플랫폼을 각각 상징한다면 크래프톤은 AI 기업 전환에 필요한 핵심 기반을 차례로 점검하고 있는 셈이다. 앞으로의 전망은 실행력에 달려 있다. AI NPC, 이용자 맞춤형 콘텐츠, 개발 자동화, 운영 효율화는 이미 게임업계 전반이 검토하는 영역이다. 차별화는 선언이 아니라 실제 서비스에서 나온다. 이용자가 체감할 만큼 자연스러운 AI 동료, 비용을 감당할 수 있는 추론 구조, 개인정보 및 저작권 리스크를 관리할 수 있는 운영 체계가 갖춰져야 한다. 크래프톤에 AWS는 단순한 서버 사업자가 아니다. ‘배틀그라운드’로 축적한 글로벌 운영 경험 위에 AI 서비스를 구현하려면 클라우드는 비용 경쟁력과 서비스 속도, 운영 안정성을 좌우하는 핵심 인프라다. 김창한 대표가 AWS CEO를 만난 이유도 여기에 있다. 크래프톤이 진정한 AI 기업으로 자리매김하기 위해서는 빅테크와의 접점을 실제 게임 경험과 생산성 개선, 피지컬 AI 사업 확장으로 연결해야 한다. 선언은 이미 나왔다. 남은 것은 AI가 게임 안에서 재미를 만들고 개발 현장에서 시간을 줄이며 현실 세계의 기술로 확장될 수 있음을 성과로 입증하는 일이다.
2026-06-24 16:28:19
-
GPU만으로 AI 강국은 안 된다…데이터센터·클라우드가 진짜 전장
[경제일보] 젠슨 황 엔비디아 최고경영자(CEO)의 방한이 던진 두 번째 질문은 인프라다. 한국이 엔비디아 GPU를 얼마나 많이 확보하느냐보다 중요한 것은 그 GPU를 어디에 꽂고, 어떤 전력과 냉각 체계로 돌리며, 어떤 클라우드 서비스와 산업 현장에 연결하느냐다. AI 시대의 경쟁력은 더 이상 모델 성능만으로 결정되지 않는다. 대규모 AI 모델을 학습하고 추론하려면 GPU, HBM, 서버, 전력, 냉각, 네트워크, 보안, 클라우드 운영 체계가 동시에 필요하다. 그래서 최근 글로벌 빅테크가 말하는 것은 데이터센터가 아니라 ‘AI 팩토리’다. 데이터를 원료로 넣고 지능을 생산하는 공장이라는 뜻이다. 한국 정부와 주요 기업이 엔비디아 GPU 26만개 이상을 도입하기로 한 계획은 이런 흐름의 출발점이다. 삼성, SK, 현대차, 네이버클라우드 등이 대규모 GPU 인프라를 활용해 제조, 자율주행, 클라우드, 산업용 AI 모델을 구축하겠다는 구상이다. 하지만 GPU 수량만으로 AI 강국이 되는 것은 아니다. 핵심은 운영 능력이다. 네이버는 이 구도에서 가장 중요한 클라우드 축이다. 네이버는 자체 초거대 AI와 클라우드, 데이터센터, 검색·커머스·콘텐츠 데이터를 갖춘 국내 대표 플랫폼 기업이다. 엔비디아 입장에서는 한국형 AI 서비스와 공공·민간 클라우드 수요를 연결할 파트너이고, 네이버 입장에서는 안정적인 GPU 확보와 AI 생태계 확장이 필요하다. 소버린 AI도 네이버 협력의 핵심이다. 소버린 AI는 단순히 국산 AI 모델을 만든다는 뜻이 아니다. 국내 데이터가 국내 법과 보안 기준에 맞는 클라우드 환경에서 학습·운영될 수 있어야 한다. 공공, 금융, 의료, 교육 분야에서 AI를 쓰려면 데이터 주권과 보안 통제가 필수다. 네이버클라우드가 엔비디아 GPU 인프라와 결합하면 한국형 AI 서비스의 기반을 넓힐 수 있다. LG그룹은 데이터센터의 물리적 인프라에서 존재감이 커지고 있다. AI 데이터센터는 전력과 냉각이 생명이다. AI 추론 수요가 늘어날수록 전력 사용량은 커지고, GPU 밀도가 높아질수록 발열도 증가한다. LG유플러스가 파주 AI 데이터센터를 통해 대규모 전력 기반 추론형 인프라를 추진하고, LG전자와 냉각 기술을 결합하려는 것도 이 때문이다. LG CNS는 스마트팩토리와 클라우드 운영 역량을 갖고 있다. AI가 실제 공장과 물류센터, 로봇 운영으로 내려오면 클라우드와 현장 시스템을 연결하는 역량이 중요해진다. 엔비디아의 옴니버스, 디지털 트윈, 로보틱스 플랫폼은 이런 현장형 AI 인프라와 맞물릴 가능성이 크다. LG가 가전과 제조 현장, 데이터센터와 냉각 기술을 묶을 수 있다면 피지컬 AI 시대의 실험장이 될 수 있다. SK 역시 인프라 기업으로 변신하고 있다. SK하이닉스가 HBM을 공급한다면 SK텔레콤은 AI 데이터센터, 통신망, 에너지·보안 인프라를 통해 엔비디아 생태계와 연결될 수 있다. AI 서비스가 대중화될수록 추론 수요는 통신망과 클라우드 가까이 내려온다. 엣지 AI와 AI 에이전트, 산업용 AI 서비스가 확대되면 통신사의 역할은 단순 회선 제공을 넘어 AI 인프라 운영자로 바뀐다. 문제는 병목이다. GPU는 돈을 주고 살 수 있지만 데이터센터는 하루아침에 지을 수 없다. 전력 인입, 냉각 설계, 부지 확보, 인허가, 보안, 운영 인력이 모두 필요하다. AI 데이터센터 구축에는 수년이 걸린다. 반면 AI 서비스 사용량과 추론 수요는 분기 단위로 급증한다. 이 간극을 줄이지 못하면 GPU 확보 계획은 숫자에 머물 수 있다. 전력 문제도 피할 수 없다. AI 데이터센터는 막대한 전기를 쓴다. 수도권 입지 수요는 높지만 전력망은 제한적이다. 지방 분산형 데이터센터를 추진하려면 전력, 냉각, 네트워크 지연시간, 고객 접근성을 함께 고려해야 한다. 정부의 전력·입지 규제 완화와 민간 투자 계획이 맞물리지 않으면 AI 인프라 경쟁에서 뒤처질 수 있다. 이번 젠슨 황 방한이 중요한 이유는 한국 AI 인프라의 방향을 묻고 있기 때문이다. 한국은 HBM을 공급하는 나라에서 GPU를 대규모로 운영하는 나라로 이동하고 있다. 더 나아가 AI 데이터센터와 클라우드를 통해 산업 현장의 AI 전환을 지원하는 국가가 될 수 있다. 그러나 승부는 선언이 아니라 실행에 있다. 네이버는 소버린 AI 클라우드의 고객과 서비스를 확보해야 한다. LG는 전력·냉각·스마트팩토리 인프라를 실제 수주로 연결해야 한다. SK는 HBM과 통신·데이터센터를 묶어 AI 인프라 사업자로 자리 잡아야 한다. 정부는 전력, 입지, 인재, 보안 규제를 정교하게 풀어야 한다. 엔비디아의 GPU가 한국에 들어오는 것은 출발점이다. 그 GPU 위에서 한국 기업이 어떤 AI 서비스를 만들고, 어떤 산업 데이터를 연결하며, 얼마나 안정적인 클라우드와 데이터센터를 운영하느냐가 진짜 경쟁이다. AI 강국의 조건은 칩을 사는 능력이 아니라 지능을 생산하는 공장을 운영하는 능력이다.
2026-06-07 16:33:41
-
-
-