검색결과 총 11건
-
크래프톤, 게임 넘어 AI로…자체 개발 LLM '라온-1 미니' 공개
[경제일보] 크래프톤이 자체 개발한 거대언어모델(LLM)을 공개하며 게임을 넘어 인공지능(AI) 원천기술 확보에 속도를 내고 있다. 전체 매개변수 가운데 일부만 활성화하는 모델 구조와 자체 개발한 어텐션 기술을 적용해 성능과 추론 효율을 함께 확보한다는 전략이다. 국제 AI 학회에서 축적한 연구 성과를 자체 모델 개발로 연결하고, 오픈소스 공개를 통해 외부 개발자와 기업의 활용까지 끌어내겠다는 구상이다. 21일 크래프톤은 자체 개발한 300억개(30B) 규모의 LLM '라온-1 미니' 프리뷰 버전을 선보였다고 밝혔다. 모델 설계부터 학습까지 전 과정을 독자적으로 수행했으며, 한국어와 영어를 지원한다. 글로벌 AI 모델 공유 플랫폼 허깅페이스에 아파치 2.0 라이선스로 공개해 연구뿐 아니라 상업적 서비스와 제품 개발에도 활용할 수 있도록 공개했다. 라온-1 미니는 모델 규모를 유지하면서 실제 추론 과정에서 필요한 연산량을 줄이는 구조로 설계된 것이 특징이다. 전체 300억개 매개변수 가운데 약 40억개만 활성화하는 전문가 혼합(MoE) 구조를 적용했다. 또한 크래프톤이 자체 개발한 선형 어텐션 기술을 결합해 응답 속도를 높이고 추론 비용을 낮추는 것을 목표로 구현됐다. MoE는 입력된 정보에 따라 필요한 일부 전문가 모듈을 선택해 처리하는 방식이다. 전체 매개변수를 매번 모두 사용하는 구조와 비교해 연산 부담을 줄일 수 있다. 크래프톤은 모델의 절대적인 크기보다 실제 활용 환경에서의 성능과 비용 간 균형에 초점을 맞췄다고 설명했다. AI 서비스가 확산하면서 모델의 답변 품질뿐 아니라 이용자의 요청을 처리하는 데 필요한 연산 자원과 운영 비용도 중요해지고 있다는 판단이다. 특히 한국어 대화와 사용자의 지시를 정확히 따르는 능력, 여러 단계의 작업을 수행하는 AI 에이전트 활용도 고려해 만들어졌다. 크래프톤은 라온-1 미니 프리뷰가 해외 동급 규모 모델과 비교해 경쟁력 있는 성능을 보였고, 일부 평가 지표에서는 국내 대형 모델에 근접했다고 평가했다. 크래프톤은 모델을 지속적으로 개선한 뒤 정식 버전을 출시하고, 학습 과정과 최종 성능을 담은 기술 보고서도 공개할 계획이다. 이번 LLM 공개는 크래프톤이 추진해 온 AI 모델 라인업 확대와 연결된다. 크래프톤은 지난 4월 AI 모델 브랜드 '라온'을 출범하고 음성 언어 모델, 실시간 음성 대화 모델, 텍스트-음성 변환 모델, 비전 인코더 등 4종을 오픈소스로 공개했다. 이번에는 언어 모델까지 자체 개발하면서 음성·비전 등 개별 기능에 이어 다양한 AI 활용의 기반이 되는 모델까지 개발 범위를 넓혔다. 크래프톤의 AI 기술 개발은 외부 AI 모델을 활용하는 데 그치지 않고 핵심 기술을 내부에 축적하려는 전략으로 풀이된다. 자체 모델을 확보하면 서비스 목적에 맞춰 구조와 성능을 조정할 수 있고, 추론 효율을 개선해 운영 비용을 관리할 수 있을 것으로 전망된다 크래프톤은 자체 모델 개발을 뒷받침할 연구 역량도 강조하고 있다. 회사에 따르면 AI 연구 조직은 국제 AI 학회인 NeurIPS, ICML, ICLR 등에 지금까지 논문 54편을 발표했으며, 올해 NeurIPS 2026에서는 메인 트랙 논문 9편이 채택됐다. 연구 성과를 축적하는 데서 나아가 이를 실제 모델 설계와 학습 기술에 반영하고, 자체 AI 모델 경쟁력으로 연결하겠다는 취지로 풀이된다. 이강욱 크래프톤 최고AI책임자는 "라온-1 미니 공개는 크래프톤이 5년 넘게 축적해 온 AI 연구개발 역량을 통해 경쟁력 있는 언어 모델을 독립적으로 개발한 성과"라며 "성능은 높이고 비용 부담은 낮춘 가성비 LLM으로 다양한 산업 현장에서 AI 활용의 폭을 넓혀 나가겠다"고 말했다.
2026-10-21 17:16:43
-
-
업스테이지, '솔라 미니 4'로 기업 자동화 공략…업무 따라 모델 나눈다
[경제일보] 업스테이지가 반복 업무를 처리하는 소형 언어모델 ‘솔라 미니 4’를 선보이며 기업용 AI 제품군을 넓힌다. 복잡한 판단과 여러 단계의 작업에는 ‘프로’를, 처리량이 많은 업무에는 ‘미니’를 배치해 기업이 업무별로 모델과 비용을 선택하도록 한다. 업스테이지는 자체 개발한 거대언어모델(LLM) 솔라 미니 4를 공개했다고 1일 밝혔다. 전체 파라미터(매개변수)는 350억개지만, 답변을 생성할 때는 30억개만 활성화하는 전문가혼합(MoE) 구조를 적용했다. 입력에 필요한 전문가 부분을 골라 계산해 연산 부담을 줄이는 설계다. 성능 평가기관 아티피셜 애널리시스의 인텔리전스 인덱스에서 24점을 기록했다. 같은 평가기관이 공개한 알리바바 ‘큐원 3.6-35B-A3B’ 추론형 모델은 18점, 엔비디아 ‘네모트론 3.5 라이트닝’은 13점이다. 이 지수는 코딩과 추론, 지식, 에이전트 업무 수행 등을 종합 평가한다. 솔라 미니 4는 비교 대상 두 모델보다 높은 점수를 받았으며, 업스테이지는 이를 바탕으로 소형 모델의 성능과 운영 효율을 함께 내세우고 있다. 기업이 활용할 수 있는 범위도 넓혔다. 글로벌 AI 모델 중개 플랫폼 오픈라우터의 모델 안내에는 한 번에 처리할 수 있는 문맥 길이가 52만4288토큰으로 제시돼 있다. 토큰은 AI가 글을 처리하는 단위다. 긴 문서와 대화 이력을 입력해 작업하는 데 활용할 수 있으며, 외부 도구 호출과 정해진 형식의 응답 생성도 지원한다. 회사 측은 양자화를 적용하면 그래픽처리장치(GPU) 한 장으로도 구동할 수 있다고 설명했다. 양자화는 모델의 수치 표현 정밀도를 낮춰 메모리 사용량을 줄이는 기술이다. 기업 내부 서버에 설치하는 온프레미스 방식으로 운영할 수 있어 내부 데이터를 자체 환경에서 처리하려는 기업과 기관을 겨냥한다. 제품군은 업무 난이도와 처리량에 따라 나눴다. 솔라 프로는 복잡한 판단이 이어지는 고난도 에이전트 작업에, 솔라 미니는 단계별 업무 자동화와 대량 반복 작업에 초점을 맞춘다. 에이전트는 외부 도구를 사용하며 여러 단계의 업무를 수행하는 AI를 뜻한다. 기업은 작업에 맞춰 두 모델을 조합할 수 있다. 솔라 미니 4는 오픈라우터에서 API(프로그램 간 연결 인터페이스)로 이용할 수 있다. 업스테이지 공식 가격표의 할인 전 정상가는 100만토큰당 입력 0.10달러, 출력 0.40달러다. 같은 가격표에 제시된 솔라 프로 4의 입력 0.30달러, 출력 1.20달러와 비교하면 각각 3분의 1 수준이다. 김성훈 업스테이지 대표는 “복잡한 에이전트 업무는 ‘프로’, 대규모 업무 자동화는 ‘미니’로 체계화한 솔라 LLM을 통해 기업이 업무에 가장 알맞은 AI를 선택할 수 있도록 하겠다”고 말했다.
2026-10-01 11:30:48
-
-
티오리, 보안 AI, 답변 넘어 취약점 직접 검증…'실전훈련' 맡는다
[경제일보] 인공지능(AI)이 보안 지식을 설명하는 수준을 넘어 실제 시스템의 취약점을 찾아 재현하고 검증하도록 훈련하는 국가 프로젝트에 티오리가 참여한다. 티오리는 자율형 AI 보안 솔루션 ‘진트(Xint)’ 개발 경험을 활용해 보안 AI와 분석 도구를 연결하는 실행 환경을 구축한다. AI 기반 오펜시브 보안 기업 티오리는 과학기술정보통신부가 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업의 네이버클라우드 컨소시엄에 참여한다고 9일 밝혔다. 오펜시브 보안은 공격자의 관점에서 시스템을 시험해 취약점을 선제적으로 찾는 분야다. 이번 컨소시엄에는 네이버클라우드를 중심으로 LG CNS·LG AI연구원·LG유플러스와 티오리·S2W·샌즈랩·이스트시큐리티 등 AI·보안기업, 대학·연구기관 및 수요기관을 포함해 총 33개 기관이 참여한다. 한국항공우주산업(KAI), 한국수력원자력, 한전KDN 등 국가 기반시설 관련 기관도 실증에 나선다. 컨소시엄은 네이버의 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 기반으로 700B급(7000억개 매개변수) 전문가혼합(MoE) 보안 모델 2종을 병렬 개발한다. MoE는 작업에 필요한 일부 전문 모델만 선택적으로 가동하는 구조여서 매번 7000억개 매개변수 전체를 사용하는 방식과는 다르다. 하이퍼클로바X 기반 모델은 방어, 엑사원 기반 모델은 공격·검증 역량을 강화하는 방향으로 개발된다. 약 830테라바이트(TB)의 보안 데이터를 활용해 전력·금융·통신·반도체·방산·항공우주 등 7개 분야에서 실증할 계획이다. 티오리가 맡은 핵심 분야는 ‘하네스(Harness)’다. AI 모델을 취약점 스캐너와 디버거, 시험용 서버 등 실제 보안 도구·환경과 연결하고 명령 실행부터 결과 수집, 재현 여부 판정까지 관리하는 체계다. AI가 그럴듯한 분석 문장을 만드는 데 그치지 않고 취약점이 실제로 존재하는지 통제된 환경에서 입증하도록 설계한다. 학습 과정에는 전문가의 모범 사례를 활용하는 지도미세조정(SFT)과 검증 가능한 결과를 보상으로 삼는 강화학습(RLVR)이 적용된다. 예컨대 AI가 제시한 공격 경로가 시험 환경에서 재현되고 정해진 검증 절차를 통과했을 때만 보상을 주는 방식이다. 보안 AI의 고질적인 문제로 꼽히는 오탐과 재현 불가능한 답변을 줄이는 데 초점이 맞춰져 있다. 정부는 컨소시엄에 엔비디아 B200 그래픽처리장치(GPU) 256장을 지원한다. 전체 지원 기간은 10개월이지만, 우선 5개월간 제공한 뒤 중간평가를 거쳐 나머지 지원 여부를 결정한다. 네이버클라우드는 별도로 B200 4000장을 사전학습에 투입했고 LG 측도 H200 256장을 추가할 계획이라고 밝혔다. 정부는 공모 당시 국내 보안 산업에서 공동 활용할 수 있는 독자 모델 확보를 사업 목표로 제시했다. 박세준 티오리 대표는 “사이버보안 AI에서는 보안 지식을 얼마나 많이 아는지뿐 아니라 실제 환경에서 취약점을 찾아 검증할 수 있는지가 중요하다”며 “진트를 개발하며 확보한 에이전트와 취약점 검증 기술을 적용하겠다”고 말했다. 한편 공격 기능을 갖춘 모델은 방어 역량을 높이는 동시에 악용 가능성도 품고 있다. 컨소시엄이 개발 모델의 오픈소스 공개를 예고한 만큼 모델 가중치와 공격 기능의 공개 범위, 사용자 권한 관리, 실행 기록 보존, 격리된 시험환경 운영 기준이 함께 제시돼야 한다. 개발 규모보다 실제 취약점 탐지율과 오탐률, 재현 성공률, 검증 소요시간을 객관적으로 입증하는 작업이 국가 보안 AI의 신뢰도를 가르게 된다.
2026-09-10 08:53:23
-
-
"AI 도입했다고 생산성 오르지 않는다"…정재헌 SKT CEO가 말한 'AX의 J커브'
[경제일보] SK텔레콤이 인공지능(AI) 전환 과정에서 겪은 시행착오와 독자 AI 개발 경험을 바탕으로 'AX 시대의 일하는 방식'과 미래 인재상을 제시했다. 정재헌 SK텔레콤 CEO는 AI를 도입한다고 곧바로 생산성이 높아지는 것이 아니라 초기의 불편함을 견디고 업무 자체를 다시 설계해야 생산성의 급격한 상승으로 이어질 수 있다고 강조했다. 2일 SK텔레콤에 따르면 정재헌 CEO는 전날 서울대학교 제1공학관에서 대학생·대학원생 약 300명을 대상으로 'AI 시대의 선택과 기회'를 주제로 특강을 진행했다. 이번 강연은 SK텔레콤과 서울대가 10년째 운영하는 AI 공동과정의 첫 수업으로, 지난 1987년 서울대 공법학과에 입학한 정 CEO가 약 40년 만에 모교 강단에 선 자리로 알려졌다. 정 CEO가 이날 제시한 핵심 개념은 'AX의 J커브'다. AI 전환(AX) 초기에는 재교육과 업무 재설계, 데이터·조직 정비 등으로 오히려 생산성이 떨어질 수 있지만 이른바 '불편함의 골짜기'를 넘어선 조직은 어느 순간 생산성이 가파르게 상승한다고 설명했다. 그는 AX 전환을 위해 낯설게 보기, 극한 마주하기, 불편해지기 등 세 가지 방법론을 제시했다. 기존 업무 방식을 당연하게 받아들이지 않고 AI를 전제로 업무를 다시 설계하는 동시에 기존 방식으로는 달성하기 어려운 목표에 도전하고 AI 도입 초기의 시행착오를 견뎌야 한다는 의미로 풀이된다. SK텔레콤 내부 사례도 소개했다. 한 개발자가 고객 요청에 따른 시스템 수정 업무를 기존 방식으로 약 50시간에 걸쳐 처리했지만, 이를 AI로 전환하는 과정에서는 오히려 500시간 이상이 소요됐다. AI 에이전트를 새로 만들고 수정하며 수백 차례 검증하는 과정이 필요했지만 전환 작업이 완료된 이후 같은 업무에 걸리는 시간은 약 1시간으로 감소했다. 정 CEO가 강조한 '극한 마주하기'에는 독자 AI 모델 개발 경험도 포함됐다. SK텔레콤은 제한된 GPU 환경에서도 6880억 파라미터 규모의 초거대 AI 모델 'A.X K2'를 개발했다. A.X K2는 지난 7월 오픈웨이트 모델로 공개됐으며, 최근 공개된 기술보고서에서는 6880억 파라미터 규모의 전문가 혼합(MoE) 모델로 소개됐다. 특히 AI가 기업을 넘어 국가 간 경쟁으로 확산하고 있으며, 독자적인 AI 역량을 확보해야 한다는 것이다. 다만 정 CEO는 AI 시대에도 인간의 역할이 사라지는 것은 아니라고 강조했다. AI가 코딩 등 기술적인 업무를 점점 더 잘 수행할수록 사람에게는 자신의 전문 분야를 이해하고 AI를 활용해 생산성을 높이는 능력이 중요해진다는 설명이다. 특히 그는 AI 시대 인재에게 필요한 역량으로 '생각 근육', '적응 근육', '공감 근육', '신체 지능'을 제시했다. 본질을 파악하고 새로운 환경에 적응하며 다른 사람을 이해하고, 경험을 바탕으로 가치를 만들어내는 능력이다. 정재헌 CEO는 "AI가 모든 것을 결정할 것 같은 시대지만 그렇지 않다"며 "주도성을 가지고 스스로 방향을 정하는 통찰력과 공감 능력이 경쟁력"이라고 말했다. 이어 "가치를 판단하고 결정하는 일은 끝까지 사람의 몫일 것"이라며 "10년 뒤 AI 시대의 새로운 질문에 대한 답을 만들어갈 여러분과 혁신 현장에서 동료로 다시 만나기를 기대한다"고 전했다.
2026-09-02 10:44:57
-
독파모 2차 관문 앞…3팀 압축 임박…LG '몸집 키우기' VS '효율형 AI 효율·에이전트'
[경제일보] 정부의 독자 인공지능(AI) 파운데이션 모델 프로젝트(독파모) 2차 평가 결과 발표가 임박했다. LG AI연구원과 SK텔레콤, 업스테이지, 모티프테크놀로지스 4개 팀 가운데 3개 팀만 다음 단계에 진출한다. 독파모는 새 정부의 'AI 3대 강국 도약' 전략 핵심 과제로 지난해 8월 시작됐다. 해외 AI 모델 의존도를 낮추고 기술·경제·안보 리스크를 줄이겠다는 목적으로, 총사업비 1576억원을 들여 팀당 데이터 구축비 30억~50억원과 연간 20억원가량의 연구비, 컴퓨팅 자원을 지원한다. 6개월 단위 평가로 매번 팀을 떨어뜨려 2027년 상반기까지 최종 1~2개 팀만 남기는 구조다. 첫 단추부터 순탄치 않았다. 애초 선정된 5개 팀(네이버클라우드·NC AI·LG AI연구원·SK텔레콤·업스테이지) 가운데 지난 1월 15일 발표된 1차 평가에서 네이버클라우드와 NC AI가 동반 탈락했다. 네이버클라우드는 오픈소스 모델을 차용했다는 의혹이 불거지며 독자성 기준에 부합하지 못한다는 판정을 받았고, NC AI는 종합 점수 경쟁에서 밀렸다. 당초 계획보다 1개 팀이 더 빠지자 정부는 패자부활전을 열었지만 네이버클라우드와 NC AI, 그리고 최초 선정에서 탈락했던 카카오까지 국내 IT 양강이 모두 재도전을 거부했다. 결국 2월 20일 모티프테크놀로지스 컨소시엄이 새 정예팀으로 뽑히며 4개 팀 체제가 만들어졌다. 과학기술정보통신부는 독파모 2차 단계평가를 마무리하고 조만간 결과를 발표할 예정이다. 대상은 △LG AI연구원 'K-엑사원 2.0' △SK텔레콤 '에이닷엑스 케이투(A.X K2)' △업스테이지 '솔라 오픈 2' △모티프테크놀로지스 '모티프3'다. 평가는 벤치마크 40점(글로벌 평가기관 아티피셜 애널리시스 25점, NIA 자체 벤치마크 15점), 전문가 평가 35점, 국민 평가단 200명이 참여하는 사용자 평가 25점으로 구성된다. 외부에 공개된 벤치마크 지표만으로 결과를 예단하기 어려운 것도 이 때문이다. 네 팀의 전략은 두 갈래로 갈린다. 규모로 밀어붙인 쪽은 LG와 SKT다. LG AI연구원의 K-엑사원 2.0은 파라미터 7500억 개(750B)로 1차 모델(236B)보다 3배 이상 커졌고, 코딩·에이전틱 코딩 지표를 이전 대비 약 30% 개선했다고 밝혔다. 장문 이해 평가 OpenAI-MRCR 94.4점, 한국어 장문 이해 Ko-LongBench 89.6점을 기록했고 지원 언어도 10개로 늘렸다. SKT의 에이닷엑스 케이투(688B)는 수학·한국어 추론에 집중해 2026년 국제수학올림피아드(IMO) 평가에서 42점 만점에 29점으로 금메달 기준선을 넘겼고, 고난도 수학 추론 평가 MathArena AIME 2026에서는 97.1% 정확도로 싱킹 머신스랩의 오픈웨이트 모델 '잉클링'과 공동 최고점을 기록했다. 업스테이지와 모티프테크놀로지스는 작은 몸집으로 효율을 택했다. 업스테이지의 솔라 오픈 2(250B)는 실제 연산에는 150억 개만 쓰는 전문가 혼합(MoE) 구조로, 양자화 시 엔비디아 H200 GPU 2장으로 구동할 수 있다. 모티프3(314B)는 은행 업무 처리와 IT 장애 진단 등 실무형 평가에서 강점을 보였다. 공개된 AAII(Artificial Analysis Intelligence Index) 지표에서는 이 구도가 뒤집힌다. 모티프3가 47점으로 1위, 업스테이지 솔라 오픈 2가 37점으로 뒤를 이었고 SKT 35점, LG 31점 순이었다. 모델 규모는 LG와 SKT가 앞서지만 공개 지표에서는 상대적으로 작은 모티프와 업스테이지가 높은 점수를 받은 셈이다. 다만 AAII는 전체 평가의 25%에 불과해 이 순위가 곧 정부 최종 순위로 이어지지는 않는다. 2차 평가를 통과한 3개 팀은 추가 단계평가를 거쳐 최종 2개 팀으로 압축된다. 정부는 이 과정에서 확보한 고성능 GPU 배분과 국가기록원·대법원 판결문 등 공공데이터 제공을 병행해 2027년까지 글로벌 톱10 수준의 모델을 만들겠다는 목표를 세웠다.
2026-08-18 09:40:27
-
AI 팩토리 시대 핵심은 경량화…노타, 솔라 오픈2 메모리 76% 줄였다
[경제일보] 생성형 인공지능(AI)의 경쟁 기준이 빠르게 변화하고 있다. 과거에는 얼마나 큰 AI 모델을 만들 수 있느냐가 경쟁력이었다면 최근에는 이를 얼마나 효율적으로 운영할 수 있는지가 핵심 요소로 떠오르고 있다. AI 에이전트 시대가 본격화되면서 기업들이 마주한 과제 역시 성능 경쟁을 넘어 GPU 비용과 운영 효율성 확보로 확대되는 가운데, 노타가 대규모 AI 모델을 GPU 2장만으로 구동할 수 있는 경량화 기술을 선보이며 기업들의 AI 전환(AX) 비용 절감에 나섰다. 27일 노타는 업스테이지와 함께 참여 중인 정부 독자 AI 파운데이션 모델 프로젝트의 2차 성과물인 '솔라 오픈2' 전용 경량화 모델을 공개했다고 밝혔다. 최근 글로벌 AI 시장에서는 딥시크와 문샷 AI의 '키미' 시리즈 등 고성능 오픈 웨이트 모델이 주목받고 있다. 다만 AI 경쟁의 기준은 단순히 모델 성능을 넘어 실제 업무 환경에서 얼마나 효율적으로 활용할 수 있는지로 확대되고 있다. 특히 문서 업무와 코딩, 검색, 툴 호출 등을 수행하는 AI 에이전트가 확산되면서 토큰 사용량과 연산 비용이 크게 증가하고 있어 AI 운영 비용을 낮추는 경량화 기술이 새로운 경쟁력으로 부상하고 있다. 기업들의 AI 인프라 경쟁 역시 새로운 국면을 맞고 있다. AI 팩토리와 AI 데이터센터 구축 경쟁이 본격화되면서 GPU 확보가 중요한 과제로 떠올랐지만, 높은 구축 비용과 전력 소비는 여전히 기업들의 부담으로 꼽힌다. 같은 성능을 보다 적은 GPU로 구현할 수 있다면 인프라 구축 비용과 운영 비용을 동시에 절감할 수 있는 만큼 AI 경량화 기술의 중요성도 커지고 있다. 솔라 오픈2는 문서 업무와 코딩, 툴 호출, 다단계 추론 등 실제 기업 업무에 활용할 수 있는 AI 에이전트 구현에 초점을 맞춘 대규모 언어모델(LLM)이다. 총 2500억개의 매개변수를 갖추고 있으며 실제 작업 시에는 필요한 150억개의 매개변수만 활성화하는 '전문가 혼합(MoE)' 구조를 채택했다. 하나의 모델 안에 있는 여러 연산 모듈 가운데 일부만 선택적으로 활용하는 방식으로 연산 효율성을 높인 것이 특징이다. 노타는 해당 솔라 오픈2의 기능을 실제 기업 환경에 보다 효율적으로 배포할 수 있도록 데이터 기반 MoE 양자화와 라우터 인지형 MoE 양자화, 비균일 전역 프루닝 기술 등을 적용했다고 설명했다. 양자화는 모델을 보다 낮은 정밀도의 데이터 형식으로 변환해 메모리 사용량을 줄이는 기술이며, 프루닝은 중요도가 낮은 연산 모듈을 선택적으로 제거해 모델을 경량화하는 기술이다. 특히 데이터 기반 MoE 양자화에는 모델 가중치를 4비트 저정밀 형식으로 변환하면서도 모든 전문가 모듈이 안정적인 통계치를 확보할 수 있도록 캘리브레이션 데이터를 합성하는 'PASCAL-MoE' 기술이 활용됐다. 라우터 인지형 MoE 양자화에는 양자화 이후에도 라우터가 전문가 모듈을 안정적으로 선택할 수 있도록 자체 개발한 양자화 알고리즘이 적용됐다. 이를 통해 노타는 원본 모델의 가중치 메모리를 기존 500.6GB에서 117.8GB로 약 76.5% 줄이는 데 성공했다고 강조했다. 기존에는 엔비디아 'H100 GPU' 8장이 필요했던 환경을 GPU 2장만으로 구동할 수 있도록 최적화했으며, 양자화 이후에도 AI 에이전트의 핵심 기능인 툴 호출 성능을 안정적으로 유지하는 것으로 알려졌다. 실제로 글로벌 AI 시장 역시 성능 경쟁에서 운영 효율성 경쟁으로 무게 중심이 이동하고 있다. 높은 성능의 AI 모델을 보다 적은 인프라로 구동할 수 있는 기술이 기업들의 AI 도입 장벽을 낮추는 핵심 요소로 떠오르면서 경량화 기술이 AI 팩토리 시대의 필수 기술로 자리 잡고 있는 것이다. 노타는 이번 솔라 오픈2 경량화 모델을 통해 국내 기업들이 보다 적은 비용으로 AI 에이전트를 도입하고 활용 범위를 확대할 수 있을 것으로 기대하고 있다. 특히 별도의 대규모 GPU 인프라를 구축하기 어려운 기업들도 효율적으로 AI 서비스를 운영할 수 있도록 지원해 AI 전환을 가속화한다는 계획이다. 노타가 공개한 솔라 오픈2 전용 경량화 모델은 글로벌 AI 플랫폼 허깅페이스를 통해 확인할 수 있다. 김태호 노타 CTO는 "이번 성과는 대규모 MoE 모델을 기업이 실제 도입할 수 있는 형태로 최적화했다는 데 의미가 있다"며 "기업이 자사의 인프라와 예산에 맞춰 에이전트 AI를 도입하고 활용 범위를 확장할 수 있도록 모델 구조와 하드웨어 환경에 최적화된 양자화 및 경량화 기술을 지속해서 고도화하겠다"고 말했다.
2026-07-27 14:27:30
-
업스테이지 '솔라 오픈 2' 공개…포털 다음 적용하고 국산 NPU 활용 넓힌다
[경제일보] 업스테이지가 실제 업무를 수행하는 AI 에이전트에 특화한 거대언어모델(LLM) ‘솔라 오픈 2’를 공개했다. 포털 다음을 대규모 실사용 기반으로 활용하는 동시에 다수의 국산 신경망처리장치(NPU)와 연동을 확대해 모델과 반도체, 서비스를 아우르는 소버린 AI 생태계를 구축한다는 전략이다. 업스테이지는 솔라 오픈 2의 모델 가중치를 글로벌 오픈소스 플랫폼 허깅페이스에 공개하고 아키텍처와 학습 방법, 평가 조건을 담은 기술 보고서도 발표했다고 23일 밝혔다. 솔라 오픈 2는 총 2500억개 매개변수 가운데 작업에 필요한 150억개만 활성화하는 전문가혼합(MoE) 구조를 채택했다. 모델 규모를 키우면서도 실제 추론에 필요한 연산량을 줄여 비용 효율을 높인 설계다. 최대 100만 토큰의 문맥을 처리해 여러 문서와 장시간 작업 이력을 한꺼번에 다룰 수 있다. 단순한 질의응답을 넘어 검색과 코딩, 문서 작성, 외부 도구 호출을 반복하며 업무를 마치는 AI 에이전트에 초점을 맞췄다. 기본 구동 권장 사양은 엔비디아 H200 4장이며 양자화를 적용하면 H200 2장으로도 운영할 수 있다. 업스테이지는 지시 이행과 도구 호출, 코딩, 한국어 업무 평가 등에서 주요 해외 모델과 경쟁 가능한 성능을 확보했다고 설명했다. 다만 벤치마크 결과는 회사 측 평가인 만큼 실제 서비스 환경에서 정확도와 속도, 운영 비용을 추가로 검증해야 한다. ◆ 다음 검색, AI 모델 실사용 시험대 솔라 오픈 2의 주요 활용처는 포털 다음이다. 업스테이지는 지난 5월 다음 운영사 AXZ 인수를 마무리한 뒤 7월부터 솔라를 적용한 ‘AI 요약’ 베타 서비스를 운영하고 있다. AI 요약은 이용자가 검색어나 문장형 질문을 입력하면 언론사 제휴 콘텐츠와 카페, 티스토리 등에서 관련 문서를 찾아 핵심 내용을 정리하고 근거를 함께 제시한다. 절차가 필요한 정보는 단계별 목록으로, 비교가 필요한 검색은 표 형태로 보여준다. 다음은 키워드 검색과 의미 기반 벡터 검색을 결합한 하이브리드 검색을 활용한다. 검색엔진이 최신성과 관련성이 높은 문서를 먼저 고르면 솔라가 해당 자료를 바탕으로 답변을 생성하는 구조다. 모델이 오래된 학습 정보를 섞거나 문서에 없는 내용을 만들어내는 환각을 줄이기 위해 답변 범위를 검색 자료로 제한하는 기술도 적용했다. 현재 AI 요약은 전체 검색 질의의 일부에 제공되고 있다. AXZ는 적용 비중을 단계적으로 높이고 쇼핑과 맛집 등 분야별 검색으로 확대할 계획이다. 이후에는 앞선 대화 내용을 기억해 후속 질문에 답하고 여러 정보를 비교·정리하는 대화형 에이전트로 발전시킨다는 구상이다. 업스테이지가 다음을 직접 운영하게 되면서 검색 이용 과정에서 나타나는 응답 품질과 처리 속도, 오류 유형 등을 모델 개선에 빠르게 반영할 수 있게 된 점도 강점이다. 다만 이용자 검색 데이터를 모델 개발에 활용하는 과정에서는 개인정보 보호와 데이터 처리 기준을 명확히 마련해야 한다. ◆ 퓨리오사 포함 다수 국산 NPU로 활용 확대 업스테이지는 솔라 오픈 2를 다양한 국산 NPU에서 구동할 수 있도록 지원 범위를 넓힐 계획이다. 업스테이지 관계자는 “퓨리오사AI를 포함해 국내 NPU 기업들과 협력을 이어가겠지만 특정 한 업체만을 중심으로 추진하는 구조는 아니다”며 “국산 NPU에서 솔라 모델을 사용할 수 있도록 적용과 최적화를 점차 확대할 것”이라고 설명했다. 퓨리오사AI와의 협력은 국산 모델과 NPU를 실제 서비스에 연결한 선행 사례로 활용된다. 다음의 기존 AI 요약 서비스에는 퓨리오사AI의 2세대 NPU ‘레니게이드’가 일부 적용돼 솔라 계열 모델의 추론을 처리하고 있다. 이를 통해 응답 속도와 전력 효율, 동시 이용자 처리 능력 등을 상용 환경에서 검증하고 있다. 다만 솔라 오픈 2를 레니게이드에 적용하는 구체적인 일정이나 전체 인프라에서 차지할 비중은 정해지지 않았다. 향후 다른 국산 NPU 기업과의 협력 대상과 적용 서비스 역시 확정되는 대로 공개할 예정이다. 한편 국산 NPU 확산의 관건은 반도체 자체 성능뿐 아니라 새로운 모델을 빠르게 변환하는 컴파일러와 서빙 엔진, 장애 대응과 운영 도구 등 소프트웨어 생태계다. 다음처럼 이용자가 많은 서비스에서 GPU 수준의 안정성과 비용 효율을 입증해야 기업·공공 시장으로 적용 범위를 넓힐 수 있다. 업스테이지는 모델 가중치를 상업적으로 활용할 수 있도록 공개하고 미세조정과 지식증류를 통한 파생 모델 개발도 허용한다. 기업과 연구기관이 솔라 오픈 2를 자체 데이터와 국산 NPU에 맞게 조정하도록 해 산업별 AI 에이전트 개발을 촉진한다는 구상이다. 김성훈 업스테이지 대표는 “실제 업무 현장에서 일을 완수하는 에이전트 사용성에 방점을 둔 모델”이라며 “다음과 산업 현장에서 실사용 사례를 확대하고 국산 NPU를 포함한 AI 생태계 전반의 경쟁력을 높이겠다”고 말했다.
2026-07-23 10:57:02
-