검색결과 총 9건
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위
[경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.
2026-08-18 11:09:21
-
SKT, 독자 AI 'A.X K2' 앞세워 제조·국방 현장 공략
[경제일보] SK텔레콤이 독자 AI 파운데이션 모델 'A.X K2'를 앞세워 제조와 국방, 바이오 등 산업 현장 공략에 나선다. 지난달 29일 모델을 공개한 데 이어 4일 회사 뉴스룸 인터뷰를 통해 세부 전략을 밝혔다. 단순 질의응답을 넘어 스스로 계획을 세우고 도구를 활용해 업무를 수행하는 '에이전틱 AI'를 구현해 한국형 소버린 AI 생태계를 만들겠다는 구상이다. 김태윤 SK텔레콤 파운데이션모델담당은 "A.X K2의 가장 큰 변화는 '답하는 AI'에서 '스스로 계획하고 실행하는 AI'로 진화한 것"이라며 "에이전틱 시대에 맞춰 추론 능력을 크게 강화했고 특히 수학과 한국어 영역에서 의미 있는 성과를 냈다"고 말했다. ◆ 매개변수 6880억개, 추론엔 330억개만 활성화 A.X K2는 매개변수 6880억개 규모의 초거대언어모델(LLM)이다. 직전 모델인 519B 규모 A.X K1보다 커졌지만 추론 과정에서는 330억개(33B)만 활성화하는 MoE 구조를 적용해 추론 비용은 기존 수준으로 유지했다. 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2%포인트, 장문 이해와 AI 에이전트 평가에서는 83.9%포인트 개선됐다. 초고난도 수학 벤치마크 'Apex' 점수는 1.0에서 45.8로 뛰었고 AIME26에서는 97.1점을 기록했다. 한국어 지식 평가(KMMLU-Pro) 80.5점, 한국 문화 이해(CLIcK) 91.6점을 냈고 통신 분야 에이전트 도구 활용을 재는 τ²-Bench Telecom에서는 오픈웨이트 모델 가운데 최고 성능을 기록했다고 회사는 설명했다. 핵심 기술은 SK텔레콤이 자체 개발한 SGA(Sparse Gated Attention)다. 여러 차례 대화와 도구 호출, 긴 문서 참조를 반복하는 AI 에이전트 특성상 긴 문맥 처리 효율이 중요한데 SGA는 입력이 길어질수록 처리 속도와 안정성이 오르도록 설계됐다. 120K 토큰 입력 기준 토큰 처리량은 A.X K1 대비 67.7% 개선됐다. 텍스트 모델 외에 제조 도면과 문서를 이해하는 비전언어모델 'A.X K2 VL', 상담·회의 음성을 분석하는 'A.X K2 ALM', 크래프톤과 공동 개발한 음성 모델 'A.X K2 라온스피치'도 함께 공개해 멀티모달 구성을 갖췄다. 산업 현장 적용도 본격화하고 있다. KG스틸, 자동차 부품업체 코넥과는 생산 라인의 과거 불량 사례를 학습해 원인을 분석하고 조치를 제안하는 제조 특화 AI 에이전트를 실증 중이다. SK하이닉스에는 사내 AI 서비스 'LLM Chat'에 경량 모델을 적용해 반도체 지식 검색과 정보 정리를 지원한다. 국방부에는 A.X K1을 FP8·FP4·INT4로 양자화해 공급했고 A.X K2도 온프레미스 기반 폐쇄망 환경에 제공할 계획이다. 민감한 데이터는 외부 학습에 쓰지 않고 기관 내부에서만 학습하도록 했다. 김 담당은 "국내 업무 환경에서는 언어뿐 아니라 제도와 문화적 맥락을 이해하는 것이 중요하다"며 "국내 기업과 공공기관이 안심하고 활용할 수 있는 소버린 AI를 구현하는 것이 목표"라고 설명했다. ◆ 허깅페이스 공개하며 조단위 후속모델 준비 SK텔레콤은 A.X K2를 허깅페이스에 Apache 2.0 라이선스로 공개하고 API도 제공할 예정이다. 스타트업 액셀러레이팅 프로그램 '스케치 with AI', '모두의 챌린지 AX-LLM'을 통해 개발자와 스타트업의 상업적 활용 생태계도 넓힌다. 앞서 A.X K1은 정부 지원 없이 상시 1000개 이상의 자체 GPU로 개발됐다. 이번에 예고한 조(兆) 단위 매개변수 후속 모델은 정부 GPU 인프라와 자체 투자를 함께 활용해 규모를 키우고 에이전틱 강화학습과 사이버보안 역량도 고도화한다는 계획이다. 서울대, KAIST, 크래프톤과 차세대 아키텍처 연구도 병행하고 독자 AI 파운데이션 모델(독파모) 컨소시엄 참여사인 리벨리온과는 국산 NPU 기반 모델 서빙 최적화와 상용 서비스 실증을 강화한다. 리벨리온은 앞서 자체 NPU '리벨카드' 단일 서버로 A.X K1 구동에 성공한 바 있다. 한편 회사가 제시한 벤치마크 수치는 자체 측정 결과이며 독립 기관의 검증을 거친 값은 아니다. 오픈소스로 공개돼 외부 개발자들이 성능을 검증할 여지는 있지만 남은 과제는 이 수치가 실제 제조·국방·바이오 현장에서 상업적 계약과 매출로 이어지느냐다. 김 담당은 "A.X K2는 한국이 설계부터 학습까지 자체 기술로 개발한 AI 모델이 글로벌 최고 수준에 도달할 수 있다는 가능성을 보여준 사례"라며 "개방과 협력을 통해 국내 AI 생태계의 기반을 만들고 산업 현장과 국민이 체감할 수 있는 AI 서비스를 확대해 나가겠다"고 말했다.
2026-08-04 10:10:29
-
-
SKT, 6880억개 매개변수 'A.X K2' 공개…산업 AX 넘어 조 단위 AI 모델 간다
[경제일보] 인공지능(AI) 경쟁이 거대언어모델(LLM)의 성능을 넘어 산업 현장에 얼마나 효과적으로 적용할 수 있느냐의 경쟁으로 확대되고 있다. 글로벌 빅테크들이 조(兆) 단위 매개변수 모델을 앞세워 AI 주도권 경쟁을 벌이는 가운데 SK텔레콤이 독자 AI 파운데이션 모델 '에이닷엑스 케이투(A.X K2)'를 공개하고 제조와 국방, 바이오 등 산업 현장의 AI 전환(AX)에 속도를 낸다. 향후 조 단위 모델로 확장하는 로드맵도 제시하며 글로벌 AI 경쟁력 확보에도 나설 계획이다. 29일 SK텔레콤은 글로벌 오픈소스 플랫폼 허깅페이스에 매개변수 6880억개(688B) 규모의 독자 AI 파운데이션 모델 'A.X K2'를 공개했다고 밝혔다. A.X K2는 지난해 공개한 5190억개(519B) 규모의 A.X K1의 후속 모델이다. 모델 규모를 확대하는 동시에 수학과 과학 추론 능력, 한국어 지식 이해 능력과 장문 추론 성능 등을 강화했다. SK텔레콤에 따르면 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2% 포인트 향상됐으며, 장문 이해와 AI 에이전트 관련 평가에서는 약 83.9% 포인트 개선된 것으로 나타났다. 이번 성능 향상의 핵심은 SK텔레콤이 자체 개발한 'SGA(희소 게이트 어텐션)' 구조다. 긴 문맥을 처리할 때 관련성이 높은 정보만 선별적으로 참조하는 방식으로, 산업 현장에서 요구되는 정확성과 운영 효율을 높이기 위해 개발됐다. SK텔레콤은 이를 통해 장문의 문서를 이해하고 복잡한 추론을 수행해야 하는 기업용 AI 서비스에 보다 최적화된 성능을 구현했다고 설명했다. A.X K2는 최근 6개월 이내 공개된 글로벌 주요 AI 모델들과도 경쟁력을 확보했다. SK텔레콤은 큐원(Qwen3.5-397B-A17B)과 딥시크(DeepSeek-V4-Flash), GLM-5.1, 키미 K2.6(Kimi-K2.6) 등 해외 주요 AI 모델과 동급 수준의 벤치마크 결과를 기록했다고 밝혔다. SK텔레콤은 이번 A.X K2 공개를 계기로 산업 현장과 국민의 일상에 AI를 적용하는 '산업 AI' 전략에도 속도를 낸다. 이를 위해 총 4차례의 사후 학습을 거쳐 응답 품질과 안정성, 운영 효율 등을 종합적으로 점검했으며 제조와 국방, 바이오 등 다양한 분야에서 활용 사례를 확대하고 있다. 제조 분야에서는 KG스틸과 코넥에 제조 특화 AI 에이전트를 적용한다. 하반기에는 KG스틸 당진공장의 냉간 압연 라인과 코넥의 주조·가공 공정에 제조 특화 AI 에이전트 데모 버전을 적용해 현장 실증을 진행할 예정이다. 산업 현장의 노하우를 AI에 접목해 생산성과 품질 관리 효율을 높이는 것이 목표다. 국방 분야에서는 국방부와 협업해 A.X K1 기반의 양자화 모델 3종을 개발했다. 높은 수준의 보안과 데이터 주권이 요구되는 국방 분야의 특성을 고려해 메모리 사용량을 줄이고 처리 속도를 높이는 양자화 기술을 적용했다. 국방부와 SK텔레콤은 육·해·공군과 해병대 산하 부대에서 해당 모델을 활용할 계획이다. 바이오 분야로의 적용도 검토 중이다. 현재 SK텔레콤은 SK바이오팜과 난치성 암 표적 치료제 개발에 AI를 활용하고 있으며, 통상 1~2년이 소요되던 신약 개발 초기 연구 기간을 약 5개월 수준으로 단축하는 성과를 거둔 것으로 알려졌다. 사무 환경과 일상 영역으로의 적용도 확대되고 있다. SK텔레콤은 A.X K2를 기업용 AI 서비스 '에이닷 비즈(A.Biz)'에 적용해 뉴스레터 생성과 자료 수집·분석, 보고서 작성 기능 등을 제공하고 있다. SK하이닉스의 사내 업무용 AI 도구에도 A.X K2 경량 모델을 제공해 문서 작성과 정보 정리 등 다양한 업무에 활용 중이다. 일상생활에서는 에이닷 전화의 'AI 제안' 기능과 에이닷 '노트' 기능에 A.X K2 경량 모델을 적용했다. 통화 내용을 기반으로 일정과 할 일을 추출하거나 기록된 내용을 목적에 맞게 정리해 이용자의 후속 행동을 지원한다. 이와 함께 SK텔레콤은 자사 AI 모델을 API 형태로 제공하며 국내 AI 생태계 확대에도 나서고 있다. 과학기술정보통신부가 주최하는 '전국민 AI 경진대회' 참가자들과 중소벤처기업부의 '모두의 챌린지 AX-LLM'에 선정된 스타트업 등에 A.X K1을 제공하고 있으며, 정부가 추진하는 '모두의 AI' 사업에도 참여할 예정이다. SK텔레콤은 향후 A.X K2의 후속 모델을 조 단위 매개변수 규모로 확대해 글로벌 경쟁력을 확보한다는 계획이다. 최근 공개된 키미가 2조8000억개 규모의 매개변수를 기반으로 미국 최상위 AI 모델에 준하는 성능을 선보이는 등 글로벌 AI 시장에서는 조 단위 모델이 새로운 경쟁 기준으로 자리 잡고 있다. 오픈AI와 구글, 앤트로픽 등 글로벌 빅테크들은 모델 규모를 공개하지 않고 있지만, 최정상급 AI 모델은 조 단위 모델을 기반으로 구축한 뒤 이를 경량화하는 방식이 일반적인 흐름으로 평가된다. SK텔레콤 역시 글로벌 선도 사업자 수준의 AI 경쟁력을 확보하기 위해 독자 AI 모델의 규모와 성능을 지속적으로 고도화한다는 방침이다. 또한 SK텔레콤은 A.X K2를 중심으로 비전 인코더 기반의 비전 언어(VL) 모델과 오디오 인코더·디코더 기반의 음성 모델 등 파생 모델 라인업도 공개했다. 이미지와 텍스트를 함께 이해하는 'A.X K2 VL Light-Preview'는 보고서와 매뉴얼, 법률 문서 분석 등에 활용할 수 있으며, 'A.X K2 ALM'은 고객센터 음성 통화 분석 등에 적용될 예정이다. 크래프톤이 개발한 'A.X K2 Raon-Speech'는 향후 게임 내 AI 음성 상호작용 기술 고도화에 활용된다. SK텔레콤은 제조와 국방, 바이오를 비롯한 산업 현장과 국민의 일상 전반에 AI를 적용하는 동시에 조 단위 독자 AI 모델 개발을 통해 글로벌 AI 경쟁력 확보에 속도를 낸다는 전략이다. 김태윤 SK텔레콤 파운데이션 모델 담당은 "개인의 일상생활부터 사무 환경, 제조 현장까지 폭넓게 활용될 수 있도록 다양한 기능을 고도화했다"며 "앞으로도 다양한 산업 분야에 A.X K2를 적용·발전시켜 국가 경쟁력 강화에 기여해 나가겠다"고 말했다.
2026-07-29 09:16:12
-
카카오, '카나나' 경량 언어모델 4종 공개…한국어 AI 생태계 확대 나선다
[경제일보] 인공지능(AI) 시장의 경쟁이 거대언어모델(LLM)을 넘어 스마트폰과 PC 등 기기에서 직접 구동되는 온디바이스 AI로 확대되면서 경량 언어모델(SLM)의 중요성이 커지고 있다. 글로벌 빅테크들이 경량 AI 모델을 앞세워 온디바이스 AI 생태계 선점에 나선 가운데 카카오가 자체 AI 모델 '카나나'의 경량 언어모델을 오픈소스로 공개하며 한국어 기반 AI 생태계 확대에 나섰다. 28일 카카오는 글로벌 AI 오픈소스 플랫폼 허깅페이스에 스마트폰 등과 같은 디바이스 환경에서 구동할 수 있는 경량 언어모델(SLM) 4종을 공개했다고 밝혔다. 공개된 모델은 'Kanana-2-1.3B-base', 'Kanana-2-1.3B-instruct', 'Kanana-2-3B-base', 'Kanana-2-3B-instruct' 등 총 4종이다. 최근 AI 업계는 거대언어모델 중심의 경쟁과 함께 스마트폰과 개인용 PC 등에서 직접 구동되는 온디바이스 AI 경쟁이 본격화되고 있다. 클라우드 기반 AI 서비스가 높은 성능을 제공하는 대신 높은 비용과 개인정보 보호 문제가 제기되면서 경량 AI 모델의 중요성이 커지고 있기 때문이다. 글로벌 기업들 역시 온디바이스 AI를 핵심 전략으로 내세우거나 경량 오픈소스 모델을 공개하며 관련 생태계 확대에 속도를 내고 있다. 카카오 역시 이 같은 흐름에 맞춰 클라우드 기반 대규모 AI와 온디바이스 AI를 동시에 확보하는 '투트랙' 전략을 강화하고 있다. 이번에 공개한 모델들은 카카오가 다양한 AI 모델을 개발하며 축적한 기술과 경험을 바탕으로 개발됐으며, 현재 '카나나 인 카카오톡'과 카카오톡 대화 요약 및 통화 요약, AI 국민비서 등 다양한 서비스에 카카오의 경량 AI 모델이 적용되고 있다. 카카오는 이번 모델들의 가장 큰 특징이 작은 크기에도 한국어와 영어 모두에서 경쟁력 있는 성능을 구현했다는 것이라고 설명했다. 카카오는 유사 규모의 최신 오픈소스 모델과 비교해 한국어와 영어, 지식, 수학, 코드 등 주요 벤치마크 대부분에서 우수한 성능을 기록했다고 강조했다. 특히 'Kanana-2-1.3B-instruct'와 함께 개발된 'Kanana-2-0.9B-instruct'는 대화와 지식, 코드 생성, 수학, 지시 이행, 툴 호출 등 실제 서비스 활용 역량에서도 글로벌 모델과 경쟁력 있는 성능을 보였다. 경량 모델임에도 실제 서비스 적용이 가능한 수준의 성능을 확보하는 데 초점을 맞춘 것이다. 특히 카카오는 자체 개발한 한국어 특화 토크나이저를 모델 전반에 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저는 AI가 텍스트를 이해하기 위해 문장을 일정 단위로 분리하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 적용할수록 같은 문장을 보다 적은 토큰으로 처리할 수 있어 연산 속도는 빨라지고 비용은 줄어드는 것으로 알려졌다. 온디바이스 환경에 최적화된 설계도 적용됐다. 카카오는 긴 대화를 처리할 때 메모리 사용량이 급격히 증가하는 문제를 해결하기 위해 '슬라이딩 윈도우 어텐션' 구조를 도입했다. 이를 통해 최대 3만2000 토큰(약 2만4000 단어) 길이의 대화에서도 메모리 사용량을 최대 72.7%까지 줄이면서 안정적인 성능을 유지할 수 있는 것으로 나타났다. 카카오는 이번 모델을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포한다. 개발자와 스타트업, 연구기관 등이 별도의 제약 없이 활용할 수 있도록 개방해 국내 한국어 AI 생태계 확대에도 기여한다는 방침이다. AI 시장이 클라우드 기반 거대언어모델과 온디바이스 AI를 중심으로 재편되면서 경량 AI 모델 확보 경쟁 역시 본격화되고 있다. 카카오는 이번 오픈소스 공개를 계기로 자체 AI 모델 경쟁력을 강화하는 동시에 한국어 기반 AI 생태계 확대에도 속도를 낸다는 계획이다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며, 이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.
2026-07-28 11:13:17
-
AI 팩토리 시대 핵심은 경량화…노타, 솔라 오픈2 메모리 76% 줄였다
[경제일보] 생성형 인공지능(AI)의 경쟁 기준이 빠르게 변화하고 있다. 과거에는 얼마나 큰 AI 모델을 만들 수 있느냐가 경쟁력이었다면 최근에는 이를 얼마나 효율적으로 운영할 수 있는지가 핵심 요소로 떠오르고 있다. AI 에이전트 시대가 본격화되면서 기업들이 마주한 과제 역시 성능 경쟁을 넘어 GPU 비용과 운영 효율성 확보로 확대되는 가운데, 노타가 대규모 AI 모델을 GPU 2장만으로 구동할 수 있는 경량화 기술을 선보이며 기업들의 AI 전환(AX) 비용 절감에 나섰다. 27일 노타는 업스테이지와 함께 참여 중인 정부 독자 AI 파운데이션 모델 프로젝트의 2차 성과물인 '솔라 오픈2' 전용 경량화 모델을 공개했다고 밝혔다. 최근 글로벌 AI 시장에서는 딥시크와 문샷 AI의 '키미' 시리즈 등 고성능 오픈 웨이트 모델이 주목받고 있다. 다만 AI 경쟁의 기준은 단순히 모델 성능을 넘어 실제 업무 환경에서 얼마나 효율적으로 활용할 수 있는지로 확대되고 있다. 특히 문서 업무와 코딩, 검색, 툴 호출 등을 수행하는 AI 에이전트가 확산되면서 토큰 사용량과 연산 비용이 크게 증가하고 있어 AI 운영 비용을 낮추는 경량화 기술이 새로운 경쟁력으로 부상하고 있다. 기업들의 AI 인프라 경쟁 역시 새로운 국면을 맞고 있다. AI 팩토리와 AI 데이터센터 구축 경쟁이 본격화되면서 GPU 확보가 중요한 과제로 떠올랐지만, 높은 구축 비용과 전력 소비는 여전히 기업들의 부담으로 꼽힌다. 같은 성능을 보다 적은 GPU로 구현할 수 있다면 인프라 구축 비용과 운영 비용을 동시에 절감할 수 있는 만큼 AI 경량화 기술의 중요성도 커지고 있다. 솔라 오픈2는 문서 업무와 코딩, 툴 호출, 다단계 추론 등 실제 기업 업무에 활용할 수 있는 AI 에이전트 구현에 초점을 맞춘 대규모 언어모델(LLM)이다. 총 2500억개의 매개변수를 갖추고 있으며 실제 작업 시에는 필요한 150억개의 매개변수만 활성화하는 '전문가 혼합(MoE)' 구조를 채택했다. 하나의 모델 안에 있는 여러 연산 모듈 가운데 일부만 선택적으로 활용하는 방식으로 연산 효율성을 높인 것이 특징이다. 노타는 해당 솔라 오픈2의 기능을 실제 기업 환경에 보다 효율적으로 배포할 수 있도록 데이터 기반 MoE 양자화와 라우터 인지형 MoE 양자화, 비균일 전역 프루닝 기술 등을 적용했다고 설명했다. 양자화는 모델을 보다 낮은 정밀도의 데이터 형식으로 변환해 메모리 사용량을 줄이는 기술이며, 프루닝은 중요도가 낮은 연산 모듈을 선택적으로 제거해 모델을 경량화하는 기술이다. 특히 데이터 기반 MoE 양자화에는 모델 가중치를 4비트 저정밀 형식으로 변환하면서도 모든 전문가 모듈이 안정적인 통계치를 확보할 수 있도록 캘리브레이션 데이터를 합성하는 'PASCAL-MoE' 기술이 활용됐다. 라우터 인지형 MoE 양자화에는 양자화 이후에도 라우터가 전문가 모듈을 안정적으로 선택할 수 있도록 자체 개발한 양자화 알고리즘이 적용됐다. 이를 통해 노타는 원본 모델의 가중치 메모리를 기존 500.6GB에서 117.8GB로 약 76.5% 줄이는 데 성공했다고 강조했다. 기존에는 엔비디아 'H100 GPU' 8장이 필요했던 환경을 GPU 2장만으로 구동할 수 있도록 최적화했으며, 양자화 이후에도 AI 에이전트의 핵심 기능인 툴 호출 성능을 안정적으로 유지하는 것으로 알려졌다. 실제로 글로벌 AI 시장 역시 성능 경쟁에서 운영 효율성 경쟁으로 무게 중심이 이동하고 있다. 높은 성능의 AI 모델을 보다 적은 인프라로 구동할 수 있는 기술이 기업들의 AI 도입 장벽을 낮추는 핵심 요소로 떠오르면서 경량화 기술이 AI 팩토리 시대의 필수 기술로 자리 잡고 있는 것이다. 노타는 이번 솔라 오픈2 경량화 모델을 통해 국내 기업들이 보다 적은 비용으로 AI 에이전트를 도입하고 활용 범위를 확대할 수 있을 것으로 기대하고 있다. 특히 별도의 대규모 GPU 인프라를 구축하기 어려운 기업들도 효율적으로 AI 서비스를 운영할 수 있도록 지원해 AI 전환을 가속화한다는 계획이다. 노타가 공개한 솔라 오픈2 전용 경량화 모델은 글로벌 AI 플랫폼 허깅페이스를 통해 확인할 수 있다. 김태호 노타 CTO는 "이번 성과는 대규모 MoE 모델을 기업이 실제 도입할 수 있는 형태로 최적화했다는 데 의미가 있다"며 "기업이 자사의 인프라와 예산에 맞춰 에이전트 AI를 도입하고 활용 범위를 확장할 수 있도록 모델 구조와 하드웨어 환경에 최적화된 양자화 및 경량화 기술을 지속해서 고도화하겠다"고 말했다.
2026-07-27 14:27:30
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개
[경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.
2026-06-16 14:07:30
-
구글, '젬마4' 출시로 오픈소스 AI 경쟁 참전…'제미나이' 투트랙 전략
[경제일보] 구글이 오픈형 인공지능(AI) 모델 '젬마 4'를 공개하며 개방형 AI 시장 공략에 속도를 내고 있다. 고급 추론 능력과 온디바이스 실행을 강화한 모델을 앞세워 개발자 생태계를 확대하고 폐쇄형 모델인 제미나이와의 투트랙 전략으로 AI 경쟁력 강화에 나서는 것으로 분석된다. 2일(현지시간) 구글은 고급 추론과 에이전트 기반 워크플로우를 지원하는 오픈형 모델 제품군 '젬마 4'를 출시했다고 밝혔다. 젬마 4는 아파치 2.0 라이선스로 제공되며 상업적 활용이 가능하다. 구글은 오픈형 모델을 통해 개발자와 기업이 다양한 환경에서 AI를 활용할 수 있도록 접근성을 확대한다는 전략이다. 젬마 4는 'Effective 2B(E2B)', 'Effective 4B(E4B)', '26B Mixture of Experts(MoE)', '31B Dense' 등 총 4가지 모델로 구성됐다. 해당 모델들은 단순한 대화 기능을 넘어 복잡한 논리 처리와 에이전트 기반 자동화 작업을 지원하도록 설계됐다. 특히 고급 추론 기능과 코드 생성 능력, 이미지·오디오 처리 기능 등 멀티모달 지원을 강화했으며 최대 256K 컨텍스트를 지원해 긴 문서 처리도 가능하다. 또한 140개 이상의 언어를 지원해 글로벌 애플리케이션 개발 환경을 제공한다. 구글은 이번 젬마 4를 통해 온디바이스 AI 전략도 강화했다. E2B와 E4B 모델은 스마트폰과 노트북, IoT 기기 등 엣지 환경에서 실행할 수 있도록 설계됐다. 이를 통해 클라우드 연결 없이도 AI 기능을 활용할 수 있으며 낮은 레이턴시와 개인정보 보호 측면에서도 장점을 제공한다. 특히 구글 픽셀을 비롯해 퀄컴, 미디어텍 등 주요 반도체 기업과 협력을 통해 스마트폰과 라즈베리 파이, 엔비디아 젯슨 나노 등 다양한 기기에서 오프라인 실행을 지원한다. 온디바이스 AI 확산이 가속화되는 가운데 구글이 모바일 중심 AI 경쟁력 확보에 나선 것으로 풀이된다. 오픈형 AI 모델 경쟁도 한층 치열해지고 있다. 메타의 'Llama' 시리즈를 비롯해 '미스트랄', 알리바바 'Qwen', 마이크로소프트 'Phi' 등 주요 기업들이 오픈형 모델을 잇따라 공개하며 개발자 생태계 확보 경쟁에 나서고 있다. 이에 구글 역시 젬마 4를 통해 오픈형 AI 시장에서 영향력을 확대하려는 전략으로 분석된다. 구글은 폐쇄형 모델인 제미나이를 중심으로 고성능 AI 서비스를 제공하는 동시에 젬마 시리즈를 통해 구글의 AI 전략 다변화를 진행하고 있다. 제미나이가 클라우드 기반 서비스와 기업 고객 중심이라면 젬마는 개발자와 스타트업을 대상으로 한 오픈형 생태계 구축에 초점이 맞춰져 있다. 두 모델을 병행 운영하며 AI 플랫폼 경쟁력을 강화하려는 전략으로 풀이된다. 또한 구글은 허깅페이스, vLLM, Ollama, NVIDIA NIM 등 주요 개발 도구에서 젬마 4를 출시 당일부터 지원해 개발자 생태계 확대에도 집중한다. 또한 구글 AI 스튜디오와 구글 콜랩, 버텍스 AI 등을 통해 모델 학습과 배포 환경을 확인할 수 있어 개발자는 로컬 환경뿐 아니라 구글 클라우드를 통해 확장 가능한 AI 서비스를 구축할 수 있을 것으로 전망된다. 하드웨어 지원 범위도 확대됐다. 젬마 4는 소비자용 GPU부터 엔비디아 H100 GPU, 구글 TPU까지 다양한 환경에서 실행할 수 있도록 최적화됐다. AMD GPU와의 연동도 지원하며 엣지 기기부터 클라우드까지 폭넓은 환경에서 활용 가능하도록 설계됐다. 이번 젬마 4 출시 이후 온디바이스 AI와 개방형 생태계를 중심으로 AI 시장 주도권 경쟁이 확대될 것으로 분석된다. 구글이 젬마 4를 통해 개발자 생태계 확보에 나서면서 AI 플랫폼 경쟁 구도도 한층 치열해질 전망이다.
2026-04-03 11:32:17
-
엔씨 이어 크래프톤도 AI 경쟁 참전…크래프톤, 멀티모달 AI '라온' 공개
[경제일보] 크래프톤이 자체 AI 모델 브랜드를 공개하며 게임업계의 인공지능(AI) 경쟁이 본격화되고 있다. 엔씨가 게임 산업의 AI 활용에 가장 앞서가는 것으로 평가되는 가운데 게임사들이 AI 기술을 단순 연구 수준을 넘어 실제 개발·서비스 전반에 적용하면서 AI 기반 게임 산업 경쟁이 빠르게 확대되는 모습이다. 2일 크래프톤은 AI 모델 브랜드 '라온'을 론칭하고 음성 지원 대규모 언어 모델(LLM), 실시간 음성 대화 모델, 텍스트-음성 변환(TTS) 모델, 비전 인코더 등을 글로벌 플랫폼 허깅페이스에 오픈소스로 공개했다고 밝혔다. AI의 발전으로 인해 기존 대비 게임 제작 비용은 최대 10분의 1 수준으로 줄고 개발 속도는 최대 60배까지 빨라지고 있는 것으로 나타나고 있다. 원재호 앵커노드 대표는 지난 2월 열린 'AI&게임 산업 포럼'에서 "과거에는 수개월에서 1년 이상 걸리던 작업을 단 6일만에 완료했다"며 AI의 유용성을 설명했다. 이에 크래프톤도 AI 모델 브랜드인 '라온'을 론칭하는 등 AI 사업에 뛰어든 것으로 풀이된다. 특히 데이터 수집부터 모델 학습, 성능 평가까지 파운데이션 모델 개발 전 과정을 자체적으로 수행했다는 점에서 AI 기술 내재화를 진행한 것으로 분석된다. 이번에 공개된 모델은 '라온-Speech', '라온-SpeechChat', '라온-OpenTTS', '라온-VisionEncoder' 등 4종이다. 음성 이해·생성, 실시간 음성 대화, 음성 합성, 이미지 이해 기능을 포함해 멀티모달 AI 역량을 확보한 것이 특징이다. 라온-Speech는 90억 파라미터 규모 음성 언어 모델로 음성 텍스트 변환, 음성 기반 질의응답 등 다양한 태스크에서 사용 가능하도록 설계됐고, 라온-SpeechChat은 실시간 양방향 대화가 가능한 풀 듀플렉스 기술을 적용해 사용자와 자연스럽게 대화가 가능하다. 또한 라온-OpenTTS는 공개 음성 데이터 기반으로 학습된 텍스트-음성 변환 모델이며, 라온-VisionEncoder는 이미지 정보를 AI가 이해 가능한 형태로 변환하는 비전 인코더다. 크래프톤이 멀티모달 AI 모델을 공개한 것은 향후 게임 개발과 서비스 전반에 AI를 적용하기 위한 전략으로 풀이된다. 음성 기반 NPC, 자동 스토리 생성, 실시간 캐릭터 상호작용 등 새로운 게임 경험 구현이 가능해지기 때문이다. 최근 글로벌 게임업계에서도 AI 도입이 빠르게 확산되고 있다. 생성형 AI를 활용한 NPC 대화, 자동 콘텐츠 제작, 개발 자동화 등 AI 기반 게임 제작 방식이 새로운 흐름으로 자리 잡고 있다. 게임 개발 비용 증가와 콘텐츠 제작 속도 경쟁이 심화되면서 AI 도입 필요성도 커지고 있다. 최근 엔씨는 자체 AI 기술을 외부에 개방하며 산업 생태계 확장에 나섰다. 이를 위해 별도 AI 전문 법인 NC AI를 설립하고 AI 기반 제작 솔루션을 상용화했다. NC AI의 대표 솔루션인 'VARCO' 라인업은 게임 제작 전반을 자동화하는 것이 특징이다. 2D 이미지를 3D 모델로 자동 변환하는 VARCO 3D, 이미지 기반 사운드 생성 기능을 제공하는 VARCO Sound, 게임 특화 번역 기능을 지원하는 VARCO Trans 등이 포함된다. NC AI는 해당 기술을 통해 제작 시간은 최대 75%까지 단축하고 사운드 및 현지화 비용도 크게 줄일 수 있다고 설명했다. 임수진 NC AI 상무는 'AI&게임 산업 포럼'에서 "지난해 기술 검증을 마쳤고 올해는 AI 기반 게임이 본격적으로 시장에 등장하는 원년이 될 것"이라며 "AI는 개발 효율성을 높이는 것을 넘어 게임 제작 방식 자체를 바꾸는 핵심 기술"이라고 말했다. 크래프톤도 지난해 개인용 AI 비서 KIRA를 공개하는 등 AI 에이전트, CPC(Co-Playable Character) 등 AI 기반 상호작용 기술을 개발해 게임 적용을 추진하고 있다. 게임사별로 AI 기술 적용 방향이 다양해지면서 AI 중심 경쟁이 본격화될 전망이다. 게임사들이 자체 AI 모델 확보에 나서면서 향후 AI 기반 게임 콘텐츠 경쟁이 더욱 치열해질 것으로 분석된다. 특히 음성·대화·시각 인식 기술이 결합된 AI 캐릭터와 자동 콘텐츠 생성 기술이 차세대 게임 경험의 핵심 요소로 부상할 것으로 전망된다. 이강욱 크래프톤 CAIO는 "이번 '라온' 모델 시리즈 공개는 AI 기술 역량을 축적해 나가는 과정의 중요한 이정표"라며 "대규모 학습 데이터와 핵심 모델을 오픈소스로 공유해 연구자와 개발자들이 자유롭게 활용할 수 있도록 하고 멀티모달 기술 발전과 국내 AI 생태계의 성장에 기여하기를 기대한다"고 말했다.
2026-04-02 16:59:04