업스테이지 '솔라 오픈 2' 공개…포털 다음 적용하고 국산 NPU 활용 넓힌다

[경제일보] 업스테이지가 실제 업무를 수행하는 AI 에이전트에 특화한 거대언어모델(LLM) ‘솔라 오픈 2’를 공개했다. 포털 다음을 대규모 실사용 기반으로 활용하는 동시에 다수의 국산 신경망처리장치(NPU)와 연동을 확대해 모델과 반도체, 서비스를 아우르는 소버린 AI 생태계를 구축한다는 전략이다.

업스테이지는 솔라 오픈 2의 모델 가중치를 글로벌 오픈소스 플랫폼 허깅페이스에 공개하고 아키텍처와 학습 방법, 평가 조건을 담은 기술 보고서도 발표했다고 23일 밝혔다.

솔라 오픈 2는 총 2500억개 매개변수 가운데 작업에 필요한 150억개만 활성화하는 전문가혼합(MoE) 구조를 채택했다. 모델 규모를 키우면서도 실제 추론에 필요한 연산량을 줄여 비용 효율을 높인 설계다.

최대 100만 토큰의 문맥을 처리해 여러 문서와 장시간 작업 이력을 한꺼번에 다룰 수 있다. 단순한 질의응답을 넘어 검색과 코딩, 문서 작성, 외부 도구 호출을 반복하며 업무를 마치는 AI 에이전트에 초점을 맞췄다.

기본 구동 권장 사양은 엔비디아 H200 4장이며 양자화를 적용하면 H200 2장으로도 운영할 수 있다. 업스테이지는 지시 이행과 도구 호출, 코딩, 한국어 업무 평가 등에서 주요 해외 모델과 경쟁 가능한 성능을 확보했다고 설명했다. 다만 벤치마크 결과는 회사 측 평가인 만큼 실제 서비스 환경에서 정확도와 속도, 운영 비용을 추가로 검증해야 한다.

◆ 다음 검색, AI 모델 실사용 시험대
 
솔라 오픈 2의 주요 활용처는 포털 다음이다. 업스테이지는 지난 5월 다음 운영사 AXZ 인수를 마무리한 뒤 7월부터 솔라를 적용한 ‘AI 요약’ 베타 서비스를 운영하고 있다.

AI 요약은 이용자가 검색어나 문장형 질문을 입력하면 언론사 제휴 콘텐츠와 카페, 티스토리 등에서 관련 문서를 찾아 핵심 내용을 정리하고 근거를 함께 제시한다. 절차가 필요한 정보는 단계별 목록으로, 비교가 필요한 검색은 표 형태로 보여준다.

다음은 키워드 검색과 의미 기반 벡터 검색을 결합한 하이브리드 검색을 활용한다. 검색엔진이 최신성과 관련성이 높은 문서를 먼저 고르면 솔라가 해당 자료를 바탕으로 답변을 생성하는 구조다. 모델이 오래된 학습 정보를 섞거나 문서에 없는 내용을 만들어내는 환각을 줄이기 위해 답변 범위를 검색 자료로 제한하는 기술도 적용했다.

현재 AI 요약은 전체 검색 질의의 일부에 제공되고 있다. AXZ는 적용 비중을 단계적으로 높이고 쇼핑과 맛집 등 분야별 검색으로 확대할 계획이다. 이후에는 앞선 대화 내용을 기억해 후속 질문에 답하고 여러 정보를 비교·정리하는 대화형 에이전트로 발전시킨다는 구상이다.

업스테이지가 다음을 직접 운영하게 되면서 검색 이용 과정에서 나타나는 응답 품질과 처리 속도, 오류 유형 등을 모델 개선에 빠르게 반영할 수 있게 된 점도 강점이다. 다만 이용자 검색 데이터를 모델 개발에 활용하는 과정에서는 개인정보 보호와 데이터 처리 기준을 명확히 마련해야 한다.

◆ 퓨리오사 포함 다수 국산 NPU로 활용 확대

업스테이지는 솔라 오픈 2를 다양한 국산 NPU에서 구동할 수 있도록 지원 범위를 넓힐 계획이다.

업스테이지 관계자는 “퓨리오사AI를 포함해 국내 NPU 기업들과 협력을 이어가겠지만 특정 한 업체만을 중심으로 추진하는 구조는 아니다”며 “국산 NPU에서 솔라 모델을 사용할 수 있도록 적용과 최적화를 점차 확대할 것”이라고 설명했다.

퓨리오사AI와의 협력은 국산 모델과 NPU를 실제 서비스에 연결한 선행 사례로 활용된다. 다음의 기존 AI 요약 서비스에는 퓨리오사AI의 2세대 NPU ‘레니게이드’가 일부 적용돼 솔라 계열 모델의 추론을 처리하고 있다. 이를 통해 응답 속도와 전력 효율, 동시 이용자 처리 능력 등을 상용 환경에서 검증하고 있다.

다만 솔라 오픈 2를 레니게이드에 적용하는 구체적인 일정이나 전체 인프라에서 차지할 비중은 정해지지 않았다. 향후 다른 국산 NPU 기업과의 협력 대상과 적용 서비스 역시 확정되는 대로 공개할 예정이다.

한편 국산 NPU 확산의 관건은 반도체 자체 성능뿐 아니라 새로운 모델을 빠르게 변환하는 컴파일러와 서빙 엔진, 장애 대응과 운영 도구 등 소프트웨어 생태계다. 다음처럼 이용자가 많은 서비스에서 GPU 수준의 안정성과 비용 효율을 입증해야 기업·공공 시장으로 적용 범위를 넓힐 수 있다.

업스테이지는 모델 가중치를 상업적으로 활용할 수 있도록 공개하고 미세조정과 지식증류를 통한 파생 모델 개발도 허용한다. 기업과 연구기관이 솔라 오픈 2를 자체 데이터와 국산 NPU에 맞게 조정하도록 해 산업별 AI 에이전트 개발을 촉진한다는 구상이다.

김성훈 업스테이지 대표는 “실제 업무 현장에서 일을 완수하는 에이전트 사용성에 방점을 둔 모델”이라며 “다음과 산업 현장에서 실사용 사례를 확대하고 국산 NPU를 포함한 AI 생태계 전반의 경쟁력을 높이겠다”고 말했다.