검색결과 총 2건
-
AI 팩토리 시대 핵심은 경량화…노타, 솔라 오픈2 메모리 76% 줄였다
[경제일보] 생성형 인공지능(AI)의 경쟁 기준이 빠르게 변화하고 있다. 과거에는 얼마나 큰 AI 모델을 만들 수 있느냐가 경쟁력이었다면 최근에는 이를 얼마나 효율적으로 운영할 수 있는지가 핵심 요소로 떠오르고 있다. AI 에이전트 시대가 본격화되면서 기업들이 마주한 과제 역시 성능 경쟁을 넘어 GPU 비용과 운영 효율성 확보로 확대되는 가운데, 노타가 대규모 AI 모델을 GPU 2장만으로 구동할 수 있는 경량화 기술을 선보이며 기업들의 AI 전환(AX) 비용 절감에 나섰다. 27일 노타는 업스테이지와 함께 참여 중인 정부 독자 AI 파운데이션 모델 프로젝트의 2차 성과물인 '솔라 오픈2' 전용 경량화 모델을 공개했다고 밝혔다. 최근 글로벌 AI 시장에서는 딥시크와 문샷 AI의 '키미' 시리즈 등 고성능 오픈 웨이트 모델이 주목받고 있다. 다만 AI 경쟁의 기준은 단순히 모델 성능을 넘어 실제 업무 환경에서 얼마나 효율적으로 활용할 수 있는지로 확대되고 있다. 특히 문서 업무와 코딩, 검색, 툴 호출 등을 수행하는 AI 에이전트가 확산되면서 토큰 사용량과 연산 비용이 크게 증가하고 있어 AI 운영 비용을 낮추는 경량화 기술이 새로운 경쟁력으로 부상하고 있다. 기업들의 AI 인프라 경쟁 역시 새로운 국면을 맞고 있다. AI 팩토리와 AI 데이터센터 구축 경쟁이 본격화되면서 GPU 확보가 중요한 과제로 떠올랐지만, 높은 구축 비용과 전력 소비는 여전히 기업들의 부담으로 꼽힌다. 같은 성능을 보다 적은 GPU로 구현할 수 있다면 인프라 구축 비용과 운영 비용을 동시에 절감할 수 있는 만큼 AI 경량화 기술의 중요성도 커지고 있다. 솔라 오픈2는 문서 업무와 코딩, 툴 호출, 다단계 추론 등 실제 기업 업무에 활용할 수 있는 AI 에이전트 구현에 초점을 맞춘 대규모 언어모델(LLM)이다. 총 2500억개의 매개변수를 갖추고 있으며 실제 작업 시에는 필요한 150억개의 매개변수만 활성화하는 '전문가 혼합(MoE)' 구조를 채택했다. 하나의 모델 안에 있는 여러 연산 모듈 가운데 일부만 선택적으로 활용하는 방식으로 연산 효율성을 높인 것이 특징이다. 노타는 해당 솔라 오픈2의 기능을 실제 기업 환경에 보다 효율적으로 배포할 수 있도록 데이터 기반 MoE 양자화와 라우터 인지형 MoE 양자화, 비균일 전역 프루닝 기술 등을 적용했다고 설명했다. 양자화는 모델을 보다 낮은 정밀도의 데이터 형식으로 변환해 메모리 사용량을 줄이는 기술이며, 프루닝은 중요도가 낮은 연산 모듈을 선택적으로 제거해 모델을 경량화하는 기술이다. 특히 데이터 기반 MoE 양자화에는 모델 가중치를 4비트 저정밀 형식으로 변환하면서도 모든 전문가 모듈이 안정적인 통계치를 확보할 수 있도록 캘리브레이션 데이터를 합성하는 'PASCAL-MoE' 기술이 활용됐다. 라우터 인지형 MoE 양자화에는 양자화 이후에도 라우터가 전문가 모듈을 안정적으로 선택할 수 있도록 자체 개발한 양자화 알고리즘이 적용됐다. 이를 통해 노타는 원본 모델의 가중치 메모리를 기존 500.6GB에서 117.8GB로 약 76.5% 줄이는 데 성공했다고 강조했다. 기존에는 엔비디아 'H100 GPU' 8장이 필요했던 환경을 GPU 2장만으로 구동할 수 있도록 최적화했으며, 양자화 이후에도 AI 에이전트의 핵심 기능인 툴 호출 성능을 안정적으로 유지하는 것으로 알려졌다. 실제로 글로벌 AI 시장 역시 성능 경쟁에서 운영 효율성 경쟁으로 무게 중심이 이동하고 있다. 높은 성능의 AI 모델을 보다 적은 인프라로 구동할 수 있는 기술이 기업들의 AI 도입 장벽을 낮추는 핵심 요소로 떠오르면서 경량화 기술이 AI 팩토리 시대의 필수 기술로 자리 잡고 있는 것이다. 노타는 이번 솔라 오픈2 경량화 모델을 통해 국내 기업들이 보다 적은 비용으로 AI 에이전트를 도입하고 활용 범위를 확대할 수 있을 것으로 기대하고 있다. 특히 별도의 대규모 GPU 인프라를 구축하기 어려운 기업들도 효율적으로 AI 서비스를 운영할 수 있도록 지원해 AI 전환을 가속화한다는 계획이다. 노타가 공개한 솔라 오픈2 전용 경량화 모델은 글로벌 AI 플랫폼 허깅페이스를 통해 확인할 수 있다. 김태호 노타 CTO는 "이번 성과는 대규모 MoE 모델을 기업이 실제 도입할 수 있는 형태로 최적화했다는 데 의미가 있다"며 "기업이 자사의 인프라와 예산에 맞춰 에이전트 AI를 도입하고 활용 범위를 확장할 수 있도록 모델 구조와 하드웨어 환경에 최적화된 양자화 및 경량화 기술을 지속해서 고도화하겠다"고 말했다.
2026-07-27 14:27:30
-
업스테이지, 다음 품고 '모두를 위한 AI' 선언…AI 포털 전환 본격화
[경제일보] 업스테이지가 자체 인공지능(AI) 모델을 중심으로 기업, 개인, 포털을 연결하는 ‘업스테이지 컴퍼니’ 출범을 선언했다. 포털 다음 운영사 AXZ와 범용 AI 에이전트 플랫폼 타임리를 묶어 B2B와 B2C 양쪽에서 AI 확산을 추진하겠다는 전략이다. 업스테이지는 16일 서울 여의도 콘래드 호텔에서 미디어 데이를 열고 ‘모두를 위한 AI’ 비전을 공개했다. 행사에는 김성훈 업스테이지 대표, 진윤정 CFO, 이건수 AXZ 대표, 김대환 타임리 대표 등이 참석했다. 김성훈 대표는 “전 세계 200개 이상 엔터프라이즈 고객이 업스테이지 AI를 사용하고 있다”며 “신규 계약 기준으로도 전년 대비 많이 늘고 있다”고 밝혔다. 업스테이지는 국민성장펀드 첨단전략기금 1000억원 투자를 포함해 누적 투자 약 7300억원을 유치하며 국내 AI 소프트웨어 기업 유니콘 반열에 올랐다고 설명했다. 김 대표는 한국 AI 산업의 기회도 강조했다. 그는 미국과 중국의 AI 패권 경쟁을 “고래 싸움”에 비유하며 “새우가 병들지 않으려면 큰 새우가 되면 된다”고 말했다. 한국이 반도체, 데이터센터, 클라우드, AI 운영 역량을 모두 갖춘 만큼 소버린 AI 시장에서 기회를 잡을 수 있다는 뜻이다. 업스테이지는 독자 파운데이션 모델 경쟁력도 내세웠다. 개발 중인 오픈소스 모델 ‘솔라 오픈2’ 프리뷰 버전은 AI 성능평가기관 아티피셜 애널리시스(Artificial Analysis)의 지능지수에서 44.4점을 기록했다. 김 대표는 이 모델이 에이전트 활용에 충분한 성능을 갖췄다며 6월 말 솔라 오픈2, 7월 말 상용 모델 출시 계획을 제시했다. AI 전략의 핵심은 단순 챗봇이 아니라 에이전트다. 김 대표는 “챗GPT와 말만 하는 시대는 끝났고 이제는 에이전트를 통해 일을 시키는 시대”라고 말했다. 업스테이지가 공개한 ‘스튜디오’는 기업 업무 절차를 블록처럼 조합해 자동화하는 절차형 에이전트 플랫폼이다. 김 대표는 병원 사례를 들어 다른 병원에서 온 환자 기록을 의료진이 20분씩 뒤지던 일을 5분 안에 정리할 수 있다고 설명했다. 타임리는 B2B 확산의 축이다. 김대환 타임리 대표는 “모든 에이전트를 하나의 경험으로 제공하겠다”며 “개인이 만든 챗봇, 템플릿, 에이전트를 조직 전체의 AI 자산으로 전환하는 것이 핵심”이라고 말했다. 타임리는 12개사 70개 모델을 하나의 검색 환경에서 활용할 수 있도록 하고 PC를 끄더라도 클라우드 기반의 터미널을 활용, AI가 계속 일하는 구조를 지향한다. 현재 공공기관과 교육기관 등 600개 이상 고객사가 사용 중이다. 가장 큰 변화는 다음이다. 이건수 AXZ 대표는 “다음이 가진 가장 중요한 데이터는 전문가들이 만든 콘텐츠”라며 “다음 뉴스는 약 36년치 뉴스 데이터와 하루 3만~5만건의 기사를 보유하고 있다”고 말했다. 그는 다음이 주간 1000만명 이상 이용자를 갖고 있다며 이를 업스테이지 AI 모델과 결합해 ‘에이전트를 위한 포털’로 전환하겠다고 밝혔다. 다음의 첫 변화는 AI 검색이다. 기존 검색이 키워드를 입력하고 링크를 찾아보는 방식이었다면 다음은 키워드 검색과 벡터 검색을 결합한 하이브리드 검색으로 이동한다. 여기에 솔라 기반 에이전트를 붙여 사용자의 맥락을 이해하고 답을 정리하는 구조다. 이 대표는 AI 오버뷰를 7월 확대 적용하고 연말까지 적용 범위를 넓히겠다고 밝혔다. 차별화 지점은 버티컬 검색이다. 이 대표는 구글 AI 오버뷰나 네이버 AI 브리핑과 유사한 기능만으로는 차별화가 어렵다고 인정하면서 “사용자들의 생활 문제를 해결하는 버티컬 검색에 집중하겠다”고 말했다. 쇼핑, 맛집, 여행, 부동산, 신용카드처럼 실제 데이터베이스가 중요한 영역에서 파트너사의 실데이터와 다음 검색엔진, 업스테이지 모델을 결합하겠다는 구상이다. 예시는 구체적이었다. “150만원 미만으로 대학생이 쓰기 좋은 노트북 추천해줘”, “해외여행을 자주 가고 공항 라운지가 되는 연회비 3만원 이하 카드를 찾아줘”처럼 자연어로 검색하면 AI가 실제 존재하는 상품과 조건을 비교한다. 이 대표는 생성형 AI가 없는 맛집을 만들어내는 등 환각 문제가 있는 영역일수록 실제 데이터 기반 버티컬 검색이 필요하다고 설명했다. 뉴스와 콘텐츠도 에이전트화된다. 다음은 기사 페이지 안에서 AI가 미리 질문을 생성하고 이용자가 추가 질의를 이어갈 수 있는 ‘온 콘텍스트 AI’를 준비하고 있다. 뉴스 자체가 검색어이자 맥락이 되는 구조다. 삼성전자 주주가 관련 뉴스, 경쟁사 동향, IR 자료, 시장 리포트를 매일 아침 자동 브리핑받는 식의 개인화 서비스도 제시됐다. 수익화 질문에 김 대표는 ‘토크노믹스’를 꺼냈다. 그는 “AI로 돈을 번다는 것은 우리가 만든 모델이 얼마나 많은 토큰을 생산하고 소비하게 하느냐의 문제”라고 말했다. 다음을 통해 하루 1000만명이 검색하고 이들이 여러 쿼리를 AI 토큰으로 소비하면 업스테이지 단독 B2B 사업보다 훨씬 큰 사용량이 발생한다는 설명이다. 그는 하반기나 내년 초 토큰 판매량을 근거로 다시 설명할 수 있을 것이라고도 했다. 다음 인수에 대한 회의론도 Q&A에서 나왔다. 트래픽 부진, 이용자 습관 변화, 네이버와 글로벌 AI 서비스와의 경쟁을 어떻게 돌파할 것이냐는 질문에 이건수 대표는 “당장 판을 뒤집겠다는 것은 현실적으로 어렵다”고 답했다. 대신 “작은 승리를 여러 개 만들겠다”며 쇼핑, 부동산, 지역 정보 등 구체적 생활 검색에서 이용자 불편을 해결하는 방식으로 접근하겠다고 말했다. 뉴스제휴 정책 변화도 불가피해 보인다. 업스테이지와 AXZ는 언론사 뉴스 데이터를 모델 학습에 바로 쓰는 것은 아니라고 선을 그었다. 이 대표는 기사 기반 질문 생성은 현재 포털 검색 활용과 유사한 영역으로 보지만 언론사 데이터를 학습에 활용하려면 개별 협의가 필요하다고 밝혔다. 이에 따라 기존 카카오 체제의 뉴스제휴는 기사 송출과 배열 중심에서 AI 요약, 출처 표기, 질의응답, 데이터 활용 권리, 보상 구조까지 포함하는 새 협상 국면으로 이동할 가능성이 크다. 카카오와의 잔여 서비스 관계도 정리해야 할 과제다. AXZ는 카카오맵과 쇼핑하우가 분사·인수 대상에 포함되지 않았다고 설명했다. 기본적으로 카카오와 협업하되, 버티컬 검색 고도화를 위해 외부 파트너와도 폭넓게 협의하겠다는 입장이다. 이는 다음이 카카오 생태계에만 묶이지 않고 AI 검색 파트너 네트워크를 새로 짜겠다는 의미로 읽힌다. 댓글과 실시간 검색어도 AI 시대의 관리 과제로 떠올랐다. 이 대표는 실시간 트렌드가 검색 쿼리 유발 효과가 크고 전체 검색에서 두 자릿수 비중을 차지한다고 설명했다. 연예·스포츠 댓글 부활과 관련해서는 관련 협회와 협의해 우려가 큰 기사에는 언론사가 선제적으로 댓글을 막을 수 있는 선택권을 제공했다고 밝혔다. 김 대표는 AI 기술을 활용해 과거보다 적극적으로 관리하겠다고 덧붙였다. 투자금 활용 방향도 언급됐다. 업스테이지는 GPU 구매와 사업 운영에 자금을 쓰되, 절반 이상은 모델 학습에 투입할 계획이라고 밝혔다. 김 대표는 현재 우선순위가 대형 모델과 ‘셀프 임프루브먼트’가 가능한 모델 개발에 있다고 설명했다. IPO와 관련해서는 주관사 선정과 준비 사실은 인정했지만 구체적 일정이나 시장은 아직 정해지지 않았다고 했다. 한편 업스테이지 컴퍼니의 전략은 분명하다. 좋은 모델을 만드는 회사에서 사람들이 실제로 쓰게 만드는 회사로 이동하는 것이다. 솔라는 지능을 맡고 타임리는 기업 확산을 맡고 다음은 대중 접점을 맡는다. 성패는 모델 성능 발표가 아니라 이용자가 다음에서 AI 검색을 반복적으로 쓰는지, 언론사와 새로운 뉴스 데이터 질서를 만들 수 있는지, 기업 현장에 에이전트가 실제 업무 절차로 정착하는지에 달려 있다. 업스테이지의 다음 실험은 한국형 소버린 AI가 플랫폼과 만나 수익 모델로 진화할 수 있는지를 가늠할 첫 시험대다.
2026-06-16 14:05:16