2026.09.20 일요일
검색
'국산NPU' 검색결과
기간검색
-
~
검색영역
검색어
-
KT, '모두의 AI' 풀스택 승부수…국산 NPU부터 국민 서비스까지 잇는다 [경제일보] KT가 정부의 ‘모두의 AI’ 사업에 국산 AI 반도체부터 AI 모델·플랫폼, 클라우드·네트워크까지 묶은 ‘AI 풀스택’ 전략으로 도전장을 냈다. 단순히 여러 AI 기업을 모으는 데 그치지 않고 각사의 기술을 하나의 서비스 체계로 연결해 실제 국민이 사용하는 AI 서비스로 구현하겠다는 구상이다. AI 모델 경쟁이 인프라와 서비스 운영 능력을 포함한 종합 경쟁으로 확대되는 가운데 KT가 통신·클라우드 사업자로서 강점을 내세운 셈이다. 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 ‘전 국민 AI 서비스 보편적 활용 지원’ 사업은 국산 AI 모델을 기반으로 국민 누구나 AI 서비스를 쉽고 부담 없이 이용할 수 있도록 하는 것이 핵심이다. 당초 8월 11일까지였던 공모는 수정 공고를 거쳐 18일 마감됐으며, SK텔레콤·KT·카카오 등 6개 컨소시엄이 제안서를 제출했다. 아직 사업자가 선정된 것은 아니며, 각 컨소시엄이 어떤 서비스와 기술을 제시했는지가 향후 경쟁의 핵심이 될 전망이다. ◆ 리벨리온부터 업스테이지까지…‘국산 AI 스택’ 결집 KT 컨소시엄의 인프라 영역에는 리벨리온, 래블업, 베슬AI코리아가 참여한다. 리벨리온은 국산 신경망처리장치(NPU), 래블업은 AI 컴퓨팅 자원 운영, 베슬AI코리아는 AI 개발·운영 플랫폼을 담당한다. 여기에 업스테이지, 모티프테크놀로지스, NC AI, 솔트룩스, 액션파워 등 AI 모델·플랫폼 기업들이 합류했다. KT는 전국 통신망과 클라우드·데이터센터, 대규모 서비스 운영 경험을 바탕으로 이 기술들을 실제 서비스 환경에서 안정적으로 운영하는 역할을 맡는다. KT가 이처럼 인프라부터 모델까지 한꺼번에 묶은 것은 ‘모두의 AI’ 사업의 성격 때문이다. 일반적인 기업용 AI 사업이라면 특정 모델이나 솔루션의 성능이 중요하지만, 전 국민을 대상으로 하는 서비스는 수많은 이용자가 동시에 접속해도 안정적으로 작동해야 한다. 모델 성능뿐 아니라 GPU·NPU 자원 배분, 추론 비용, 네트워크 품질, 보안과 개인정보 보호, 장애 대응까지 하나의 운영 체계에서 관리해야 한다. 특히 국산 NPU를 실제 대규모 서비스에 적용할 수 있는지도 중요한 시험대다. 그동안 국내 AI 반도체 기업들은 기술력을 확보했지만 대규모 상용 서비스에서 성능과 안정성을 검증할 기회가 제한적이었다. 국민 대상 AI 서비스가 구축되면 국산 NPU가 실제 사용 환경에서 경쟁력을 입증할 수 있는 기회가 될 수 있다. ◆ 승부처는 ‘AI 오케스트레이션’…KT가 노리는 역할 KT가 강조하는 ‘AI 오케스트레이션’은 이 컨소시엄의 차별화 포인트다. 서로 다른 AI 모델과 컴퓨팅 자원을 서비스 목적에 맞춰 조합하고 관리하는 방식이다. 하나의 AI 모델에 모든 기능을 맡기는 것이 아니라 질문의 성격과 작업 난이도, 비용 등에 따라 적합한 모델과 인프라를 선택하는 구조다. 이는 AI 시장이 단순한 ‘최고 성능 모델’ 경쟁에서 실제 업무를 수행하는 에이전트와 서비스 경쟁으로 넘어가는 흐름과도 맞닿아 있다. 정부 사업 역시 모델 하나를 개발하는 것보다 국민 생활과 연결되는 검색·쇼핑·주거·교육·금융 등 다양한 서비스를 실제 이용환경에서 구현하는 것이 중요하다. 앞서 KT가 공개한 컨소시엄에는 다음, 무신사, 직방, EBS, BC카드 등 생활 밀착형 서비스 기업도 참여하고 있다. KT 입장에서는 이번 사업이 단순한 정부 사업 수주 이상의 의미를 갖는다. 통신사의 AI 전환 전략에서 가장 어려운 과제 가운데 하나가 AI 기술을 실제 고객이 돈을 내고 사용하는 서비스로 연결하는 것이기 때문이다. KT는 이미 클라우드·데이터센터와 AX 사업을 확대하고 있는 만큼 ‘모두의 AI’를 통해 국산 AI 모델과 인프라를 실제 대규모 서비스에서 운영한 경험까지 확보할 경우 향후 공공·금융·기업 시장에서 새로운 사업 기회를 만들 수 있다. 결국 이번 경쟁에서 중요한 것은 참여 기업의 숫자가 아니다. 국산 AI 모델과 NPU를 실제 국민 서비스에서 얼마나 안정적으로 돌리고, 이를 지속 가능한 비용 구조로 운영할 수 있느냐가 관건이다. KT가 내세운 AI 풀스택과 오케스트레이션 전략이 실제 서비스 품질과 운영 효율로 이어질 경우 통신사를 넘어 ‘AI 인프라·서비스 운영자’로서의 입지를 강화할 수 있을 전망이다. 이진형 KT AX사업부문 AX사업본부장 상무는 “국내 AI 전문기업들의 기술력과 KT의 운영 경험을 결합해 국민 누구나 안정적이고 신뢰할 수 있는 AI 서비스를 이용할 수 있는 기반을 마련하겠다”고 말했다.2026-08-23 16:30:00
-
SKT, 독자 AI 'A.X K2' 앞세워 제조·국방 현장 공략 [경제일보] SK텔레콤이 독자 AI 파운데이션 모델 'A.X K2'를 앞세워 제조와 국방, 바이오 등 산업 현장 공략에 나선다. 지난달 29일 모델을 공개한 데 이어 4일 회사 뉴스룸 인터뷰를 통해 세부 전략을 밝혔다. 단순 질의응답을 넘어 스스로 계획을 세우고 도구를 활용해 업무를 수행하는 '에이전틱 AI'를 구현해 한국형 소버린 AI 생태계를 만들겠다는 구상이다. 김태윤 SK텔레콤 파운데이션모델담당은 "A.X K2의 가장 큰 변화는 '답하는 AI'에서 '스스로 계획하고 실행하는 AI'로 진화한 것"이라며 "에이전틱 시대에 맞춰 추론 능력을 크게 강화했고 특히 수학과 한국어 영역에서 의미 있는 성과를 냈다"고 말했다. ◆ 매개변수 6880억개, 추론엔 330억개만 활성화 A.X K2는 매개변수 6880억개 규모의 초거대언어모델(LLM)이다. 직전 모델인 519B 규모 A.X K1보다 커졌지만 추론 과정에서는 330억개(33B)만 활성화하는 MoE 구조를 적용해 추론 비용은 기존 수준으로 유지했다. 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2%포인트, 장문 이해와 AI 에이전트 평가에서는 83.9%포인트 개선됐다. 초고난도 수학 벤치마크 'Apex' 점수는 1.0에서 45.8로 뛰었고 AIME26에서는 97.1점을 기록했다. 한국어 지식 평가(KMMLU-Pro) 80.5점, 한국 문화 이해(CLIcK) 91.6점을 냈고 통신 분야 에이전트 도구 활용을 재는 τ²-Bench Telecom에서는 오픈웨이트 모델 가운데 최고 성능을 기록했다고 회사는 설명했다. 핵심 기술은 SK텔레콤이 자체 개발한 SGA(Sparse Gated Attention)다. 여러 차례 대화와 도구 호출, 긴 문서 참조를 반복하는 AI 에이전트 특성상 긴 문맥 처리 효율이 중요한데 SGA는 입력이 길어질수록 처리 속도와 안정성이 오르도록 설계됐다. 120K 토큰 입력 기준 토큰 처리량은 A.X K1 대비 67.7% 개선됐다. 텍스트 모델 외에 제조 도면과 문서를 이해하는 비전언어모델 'A.X K2 VL', 상담·회의 음성을 분석하는 'A.X K2 ALM', 크래프톤과 공동 개발한 음성 모델 'A.X K2 라온스피치'도 함께 공개해 멀티모달 구성을 갖췄다. 산업 현장 적용도 본격화하고 있다. KG스틸, 자동차 부품업체 코넥과는 생산 라인의 과거 불량 사례를 학습해 원인을 분석하고 조치를 제안하는 제조 특화 AI 에이전트를 실증 중이다. SK하이닉스에는 사내 AI 서비스 'LLM Chat'에 경량 모델을 적용해 반도체 지식 검색과 정보 정리를 지원한다. 국방부에는 A.X K1을 FP8·FP4·INT4로 양자화해 공급했고 A.X K2도 온프레미스 기반 폐쇄망 환경에 제공할 계획이다. 민감한 데이터는 외부 학습에 쓰지 않고 기관 내부에서만 학습하도록 했다. 김 담당은 "국내 업무 환경에서는 언어뿐 아니라 제도와 문화적 맥락을 이해하는 것이 중요하다"며 "국내 기업과 공공기관이 안심하고 활용할 수 있는 소버린 AI를 구현하는 것이 목표"라고 설명했다. ◆ 허깅페이스 공개하며 조단위 후속모델 준비 SK텔레콤은 A.X K2를 허깅페이스에 Apache 2.0 라이선스로 공개하고 API도 제공할 예정이다. 스타트업 액셀러레이팅 프로그램 '스케치 with AI', '모두의 챌린지 AX-LLM'을 통해 개발자와 스타트업의 상업적 활용 생태계도 넓힌다. 앞서 A.X K1은 정부 지원 없이 상시 1000개 이상의 자체 GPU로 개발됐다. 이번에 예고한 조(兆) 단위 매개변수 후속 모델은 정부 GPU 인프라와 자체 투자를 함께 활용해 규모를 키우고 에이전틱 강화학습과 사이버보안 역량도 고도화한다는 계획이다. 서울대, KAIST, 크래프톤과 차세대 아키텍처 연구도 병행하고 독자 AI 파운데이션 모델(독파모) 컨소시엄 참여사인 리벨리온과는 국산 NPU 기반 모델 서빙 최적화와 상용 서비스 실증을 강화한다. 리벨리온은 앞서 자체 NPU '리벨카드' 단일 서버로 A.X K1 구동에 성공한 바 있다. 한편 회사가 제시한 벤치마크 수치는 자체 측정 결과이며 독립 기관의 검증을 거친 값은 아니다. 오픈소스로 공개돼 외부 개발자들이 성능을 검증할 여지는 있지만 남은 과제는 이 수치가 실제 제조·국방·바이오 현장에서 상업적 계약과 매출로 이어지느냐다. 김 담당은 "A.X K2는 한국이 설계부터 학습까지 자체 기술로 개발한 AI 모델이 글로벌 최고 수준에 도달할 수 있다는 가능성을 보여준 사례"라며 "개방과 협력을 통해 국내 AI 생태계의 기반을 만들고 산업 현장과 국민이 체감할 수 있는 AI 서비스를 확대해 나가겠다"고 말했다.2026-08-04 10:10:29
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 상품은 넘치고 차별화는 어려워지고…유통가가 먼저 노린 것은](https://image.ajunews.com/content/image/2026/09/18/20260918162725759046_518_323.jpg)