2026.09.01 화요일
검색
'초거대언어모델' 검색결과
기간검색
-
~
검색영역
검색어
-
SKT, 독자 AI 'A.X K2' 앞세워 제조·국방 현장 공략 [경제일보] SK텔레콤이 독자 AI 파운데이션 모델 'A.X K2'를 앞세워 제조와 국방, 바이오 등 산업 현장 공략에 나선다. 지난달 29일 모델을 공개한 데 이어 4일 회사 뉴스룸 인터뷰를 통해 세부 전략을 밝혔다. 단순 질의응답을 넘어 스스로 계획을 세우고 도구를 활용해 업무를 수행하는 '에이전틱 AI'를 구현해 한국형 소버린 AI 생태계를 만들겠다는 구상이다. 김태윤 SK텔레콤 파운데이션모델담당은 "A.X K2의 가장 큰 변화는 '답하는 AI'에서 '스스로 계획하고 실행하는 AI'로 진화한 것"이라며 "에이전틱 시대에 맞춰 추론 능력을 크게 강화했고 특히 수학과 한국어 영역에서 의미 있는 성과를 냈다"고 말했다. ◆ 매개변수 6880억개, 추론엔 330억개만 활성화 A.X K2는 매개변수 6880억개 규모의 초거대언어모델(LLM)이다. 직전 모델인 519B 규모 A.X K1보다 커졌지만 추론 과정에서는 330억개(33B)만 활성화하는 MoE 구조를 적용해 추론 비용은 기존 수준으로 유지했다. 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2%포인트, 장문 이해와 AI 에이전트 평가에서는 83.9%포인트 개선됐다. 초고난도 수학 벤치마크 'Apex' 점수는 1.0에서 45.8로 뛰었고 AIME26에서는 97.1점을 기록했다. 한국어 지식 평가(KMMLU-Pro) 80.5점, 한국 문화 이해(CLIcK) 91.6점을 냈고 통신 분야 에이전트 도구 활용을 재는 τ²-Bench Telecom에서는 오픈웨이트 모델 가운데 최고 성능을 기록했다고 회사는 설명했다. 핵심 기술은 SK텔레콤이 자체 개발한 SGA(Sparse Gated Attention)다. 여러 차례 대화와 도구 호출, 긴 문서 참조를 반복하는 AI 에이전트 특성상 긴 문맥 처리 효율이 중요한데 SGA는 입력이 길어질수록 처리 속도와 안정성이 오르도록 설계됐다. 120K 토큰 입력 기준 토큰 처리량은 A.X K1 대비 67.7% 개선됐다. 텍스트 모델 외에 제조 도면과 문서를 이해하는 비전언어모델 'A.X K2 VL', 상담·회의 음성을 분석하는 'A.X K2 ALM', 크래프톤과 공동 개발한 음성 모델 'A.X K2 라온스피치'도 함께 공개해 멀티모달 구성을 갖췄다. 산업 현장 적용도 본격화하고 있다. KG스틸, 자동차 부품업체 코넥과는 생산 라인의 과거 불량 사례를 학습해 원인을 분석하고 조치를 제안하는 제조 특화 AI 에이전트를 실증 중이다. SK하이닉스에는 사내 AI 서비스 'LLM Chat'에 경량 모델을 적용해 반도체 지식 검색과 정보 정리를 지원한다. 국방부에는 A.X K1을 FP8·FP4·INT4로 양자화해 공급했고 A.X K2도 온프레미스 기반 폐쇄망 환경에 제공할 계획이다. 민감한 데이터는 외부 학습에 쓰지 않고 기관 내부에서만 학습하도록 했다. 김 담당은 "국내 업무 환경에서는 언어뿐 아니라 제도와 문화적 맥락을 이해하는 것이 중요하다"며 "국내 기업과 공공기관이 안심하고 활용할 수 있는 소버린 AI를 구현하는 것이 목표"라고 설명했다. ◆ 허깅페이스 공개하며 조단위 후속모델 준비 SK텔레콤은 A.X K2를 허깅페이스에 Apache 2.0 라이선스로 공개하고 API도 제공할 예정이다. 스타트업 액셀러레이팅 프로그램 '스케치 with AI', '모두의 챌린지 AX-LLM'을 통해 개발자와 스타트업의 상업적 활용 생태계도 넓힌다. 앞서 A.X K1은 정부 지원 없이 상시 1000개 이상의 자체 GPU로 개발됐다. 이번에 예고한 조(兆) 단위 매개변수 후속 모델은 정부 GPU 인프라와 자체 투자를 함께 활용해 규모를 키우고 에이전틱 강화학습과 사이버보안 역량도 고도화한다는 계획이다. 서울대, KAIST, 크래프톤과 차세대 아키텍처 연구도 병행하고 독자 AI 파운데이션 모델(독파모) 컨소시엄 참여사인 리벨리온과는 국산 NPU 기반 모델 서빙 최적화와 상용 서비스 실증을 강화한다. 리벨리온은 앞서 자체 NPU '리벨카드' 단일 서버로 A.X K1 구동에 성공한 바 있다. 한편 회사가 제시한 벤치마크 수치는 자체 측정 결과이며 독립 기관의 검증을 거친 값은 아니다. 오픈소스로 공개돼 외부 개발자들이 성능을 검증할 여지는 있지만 남은 과제는 이 수치가 실제 제조·국방·바이오 현장에서 상업적 계약과 매출로 이어지느냐다. 김 담당은 "A.X K2는 한국이 설계부터 학습까지 자체 기술로 개발한 AI 모델이 글로벌 최고 수준에 도달할 수 있다는 가능성을 보여준 사례"라며 "개방과 협력을 통해 국내 AI 생태계의 기반을 만들고 산업 현장과 국민이 체감할 수 있는 AI 서비스를 확대해 나가겠다"고 말했다.2026-08-04 10:10:29
-
GPU 최적화부터 모델 개발까지…메가존클라우드·아크릴, AI 인프라 협력 본격화 [경제일보] 생성형 인공지능(AI) 도입이 확산되면서 AI 인프라 경쟁도 새로운 국면에 접어들고 있다. 과거 GPU를 얼마나 많이 확보하느냐가 경쟁력이었다면 최근에는 이를 얼마나 효율적으로 활용하고 최적화할 수 있는지가 핵심 요소로 떠오르고 있다. AI 모델의 규모가 커지고 기업들의 AI 전환(AX)이 본격화되면서 메가존클라우드는 아크릴과 손을 잡고 GPU 인프라 구축부터 운영과 최적화, 모델 개발까지 아우르는 통합 AI 인프라 수요에 대응한다는 구상이다. 24일 메가존클라우드는 AX 인프라 전문기업 아크릴과 'AI 인프라 사업 확대 및 글로벌 시장 진출을 위한 전략적 파트너십'을 체결했다고 밝혔다. 양사는 경기 과천 메가존산학연센터에서 최근 협약식을 열고 대규모 GPU 인프라가 필요한 기업과 공공기관을 대상으로 양사의 기술력과 사업 역량을 결합한 AX 환경을 제공하기로 했다. 메가존클라우드의 AI·클라우드 인프라 구축 역량과 아크릴의 AI 개발 및 인프라 최적화 기술을 결합해 고객별 수요에 맞는 공동 사업 모델을 발굴한다는 계획이다. 최근 AI 시장은 초거대언어모델(LLM)을 넘어 AI 에이전트와 피지컬 AI 등으로 빠르게 확대되고 있다. 이에 AI 서비스를 실제 산업 현장에 적용하기 위한 인프라 경쟁도 치열해지고 있으며, 특히 기업들이 AI를 도입하는 과정에서 GPU 확보뿐 아니라 운영 비용과 자원 활용 효율성을 높이는 것이 중요한 과제로 떠오르고 있다. GPU는 AI 모델 학습과 추론을 위한 핵심 자원이지만 높은 비용과 전력 소비, 운영 복잡성 등으로 인해 효율적인 자원 관리가 필수적이다. AI 모델의 성능이 높아질수록 필요한 GPU 자원 역시 증가하는 만큼 GPU 활용률을 높이고 고객 환경에 맞는 인프라를 구축하는 기술 경쟁도 본격화되고 있다. 메가존클라우드는 엔비디아 기반 GPU 서버와 클라우드 인프라를 공급·구축하고 고객 환경에 적합한 시스템 설계와 비용 효율화 방안을 제공하는 것으로 알려졌다. AI와 클라우드 인프라 구축 노하우를 바탕으로 기업들의 AX 환경 구축을 지원해 왔으며, 이번 협력을 통해 AI 인프라 사업 확대에도 속도를 낸다는 방침이다. 아크릴은 AI 풀스택 플랫폼 '조나단'과 AI 인프라 운영·최적화 플랫폼 'GPUBASE'를 기반으로 모델 개발부터 GPU 자원 관리까지 지원한다. 조나단은 데이터 준비와 AI 모델 학습·검증, 배포와 서비스 적용에 이르는 전 과정을 하나의 환경에서 수행할 수 있도록 지원하는 엔드투엔드 풀스택 플랫폼이다. GPUBASE는 GPU와 서버, 스토리지, 네트워크 자원을 통합 관리해 대규모 컴퓨팅 환경의 성능과 효율성을 높이는 솔루션이다. GPU 자원 할당과 가상화, 작업 스케줄링, 데이터 통신 최적화, 인프라 모니터링 등을 통해 자원 활용도를 개선하고 안정적인 시스템 운영을 지원한다. 양사는 우선 대규모 GPU 환경에서 성능 테스트를 진행한 뒤 기업과 공공기관을 대상으로 AX 환경 공급 등 공동 프로젝트를 단계적으로 추진할 계획이다. 향후에는 헬스케어와 공공, 보험 분야를 중심으로 산업별 특화 서비스를 발굴하고 각사가 보유한 파트너 및 고객 네트워크를 활용해 글로벌 시장 진출 기회도 함께 모색한다는 구상이다. 박외진 아크릴 대표는 "이번 협력을 통해 고성능 AI 인프라 아키텍팅부터 자원 최적화, 모델 개발과 서비스 적용까지 연결되는 통합 사업 체계를 마련할 수 있게 됐다"며 "헬스케어와 공공 분야에서 성공 사례를 확보하고 국내외 시장에서 새로운 성장 기회를 창출해 나가겠다"고 말했다. AI 인프라 시장 역시 단순한 GPU 공급을 넘어 모델 개발과 운영, 자원 최적화까지 아우르는 통합 서비스 경쟁으로 확대되고 있다. 특히 기업들이 AI 서비스를 안정적으로 운영하기 위해서는 인프라 구축과 비용 효율성, GPU 활용률 등을 종합적으로 고려해야 하는 만큼 산업별 맞춤형 AI 인프라에 대한 수요도 지속적으로 증가할 것으로 전망된다. 메가존클라우드와 아크릴은 이번 협력을 계기로 AI 인프라 구축부터 GPU 자원 최적화, 모델 개발과 서비스 운영까지 연결되는 통합 AX 환경을 제공하고, 국내를 넘어 글로벌 시장에서도 공동 사업 기회를 확대해 나갈 계획이다. 염동훈 메가존클라우드 대표는 "AI 도입이 확대되면서 AI 인프라 수요도 빠르게 늘고 있는 만큼, 안정적이고 효율적인 GPU 인프라 운영 역량이 핵심 경쟁력으로 자리 잡고 있다"며 "메가존클라우드의 AI·클라우드 인프라 구축 노하우와 아크릴의 GPU 최적화 기술을 바탕으로 산업별 특화 서비스를 발굴하고, 국내외 파트너십을 기반으로 글로벌 사업 기회도 확대해 나갈 것"이라고 말했다.2026-07-24 16:09:26
-
LLM 넘어 피지컬 AI 시대…노타, AMD와 로보틱스 시장 정조준 [경제일보] 생성형 인공지능(AI) 경쟁이 초거대언어모델(LLM)을 넘어 현실 공간에서 스스로 판단하고 움직이는 '피지컬 AI'로 확대되고 있다. 로봇이 제한된 연산 자원에서도 AI를 안정적으로 구동하기 위해서는 AI 모델을 경량화하고 최적화하는 기술의 중요성이 커지는 가운데, 노타가 글로벌 반도체 기업 AMD와 손잡고 로보틱스 시장 공략에 나선다. 24일 노타는 미국 샌프란시스코에서 열린 'AMD 어드밴싱 AI 2026'에서 AMD 로보틱스 파트너 네트워크에 참여하며 온디바이스 AI 최적화 기술을 로보틱스 분야로 확대한다고 밝혔다. 최근 글로벌 AI 시장은 생성형 AI를 넘어 AI 에이전트와 피지컬 AI 경쟁으로 빠르게 이동하고 있다. 특히 로봇이 사람과 상호작용하고 주변 환경을 인식해 자율적으로 동작하기 위해서는 AI 모델을 실제 하드웨어 환경에 맞춰 최적화하는 기술이 핵심 경쟁력으로 떠오르고 있다. AI 모델의 성능이 높아질수록 요구되는 연산량과 메모리 사용량도 함께 증가하는 만큼 전력과 메모리, 연산 자원이 제한된 로봇 환경에서는 AI 모델을 그대로 적용하기 어렵기 때문이다. 이에 글로벌 빅테크들은 반도체와 소프트웨어, 로보틱스 기업들을 연결하는 생태계를 구축하며 피지컬 AI 시장 선점에 나서고 있다. AMD 로보틱스 파트너 네트워크는 AMD의 컴퓨팅 기술을 기반으로 임베디드와 엣지, 클라우드 환경에서 로보틱스 솔루션의 개발과 배포를 지원하는 개방형 생태계다. 제조 전문기업(ODM)과 독립 소프트웨어 공급업체(ISV), 센서 공급업체, 시스템 통합업체(SI) 등이 참여해 로보틱스 솔루션의 개발부터 배포까지 전 과정에서 협력한다. 케이비 탄자부르 바스카르 AMD 로보틱스 총괄은 "AMD 로보틱스 파트너 네트워크는 제조 전문기업, 독립 소프트웨어 공급업체, 시스템 통합업체를 하나로 연결해 산업 전반에서 확장 가능한 로보틱스 솔루션 구현을 지원한다"며 "하드웨어와 소프트웨어, 생태계 협업을 결합한 통합 접근 방식을 통해 로보틱스 혁신을 가속화하고 파트너의 시장 기회를 확대하는 것을 목표로 한다"고 말했다. 노타는 이번 파트너 네트워크 참여를 통해 AI 모델 경량화와 하드웨어 맞춤형 최적화 기술을 로보틱스 분야에 본격적으로 적용할 계획이라고 설명했다. 로봇에 탑재되는 프로세서와 시스템 환경에 맞춰 AI 모델의 크기와 연산량, 메모리 사용량 등을 최적화해 제한된 연산 자원에서도 안정적으로 AI를 구동할 수 있도록 지원한다는 구상이다. 특히 로봇은 스마트폰이나 서버와 달리 제한된 전력과 연산 자원 속에서 실시간으로 주변 환경을 인식하고 판단해야 하는 만큼, AI 모델을 얼마나 효율적으로 실행할 수 있는지가 서비스 경쟁력을 좌우하는 것으로 알려졌다. 온디바이스 AI 기술을 활용하면 데이터를 외부 서버로 전송하지 않고도 기기 내부에서 AI를 실행할 수 있어 응답 속도와 보안성 측면에서도 강점을 갖는다. 노타의 AI 최적화 기술은 온디바이스 AI를 넘어 피지컬 AI 구현의 핵심 기반 기술로도 주목받고 있다. 로봇이 실제 공간에서 자율적으로 움직이고 작업을 수행하기 위해서는 AI 모델이 다양한 하드웨어 환경에서도 안정적으로 동작해야 하기 때문이다. 앞서 노타는 스마트시티와 산업 안전, 모빌리티 등 다양한 엣지 AI 분야에서 AI 모델 최적화 기술을 확보해 온 바 있다. 이번 AMD 로보틱스 파트너 네트워크 참여를 계기로 해당 기술의 적용 범위를 로보틱스 분야까지 확대하며 글로벌 시장 공략에도 속도를 낸다는 방침이다. 노타는 AMD 로보틱스 파트너 네트워크 참여 기업들과 협력을 확대하며 산업 현장에서 활용 가능한 피지컬 AI 솔루션 확산에도 나설 계획이다. 채명수 노타 대표는 "피지컬 AI가 산업 현장에서 실질적인 가치를 제공하기 위해서는 AI 모델을 실제 로봇의 연산 및 메모리 환경에 맞게 최적화하는 기술이 필수적"이라며 "AMD 로보틱스 파트너 네트워크 참여를 계기로 온디바이스 AI 최적화 기술을 로보틱스 분야로 확대하고, AMD 로보틱스 파트너 네트워크 참여 기업들과 협력해 산업 현장에서 활용 가능한 피지컬 AI 솔루션 확산에 기여하겠다"고 말했다.2026-07-24 08:30:20
-
AI 에이전트 시대 준비하는 LG유플러스…개인화 AI 기술 'SIGIR 2026' 채택 [경제일보] 인공지능(AI) 경쟁의 무게 중심이 초거대언어모델(LLM) 개발에서 이용자를 얼마나 정교하게 이해하고 개인화된 서비스를 제공할 수 있는지로 이동하고 있다. 이에 LG유플러스는 차세대 개인화 AI 기술을 앞세워 AI 에이전트 시대를 준비하며 글로벌 기술 경쟁력 확보에 나선다. 23일 LG유플러스는 자체 개발한 차세대 개인화 AI 기술 '퍼스널 인텔리전스' 관련 논문이 세계 최고 권위의 정보검색 분야 국제 학술대회 'SIGIR 2026'에 채택됐다고 밝혔다. SIGIR은 정보검색 분야를 대표하는 국제 학술대회로 전 세계 주요 연구기관과 글로벌 빅테크 기업들이 최신 AI 및 정보검색 기술을 발표하는 자리로 오는 24일(현지시간)까지 열린다. LG유플러스는 이번 논문 채택이 LG유플러스의 개인화 AI 기술이 학문적 성과뿐 아니라 실제 서비스 적용 가능성까지 인정받았다는 점에서 의미가 있다고 평가했다. 최근 AI 업계에서는 단순 질의응답을 넘어 이용자의 상황과 맥락을 이해하고 필요한 작업을 스스로 수행하는 'AI 에이전트' 경쟁이 본격화되고 있다. 이용자의 취향과 행동 패턴을 얼마나 정교하게 분석할 수 있는지가 차세대 AI 서비스의 핵심 경쟁력으로 떠오르면서 개인화 기술의 중요성도 커지고 있다. LG유플러스가 개발한 퍼스널 인텔리전스는 다양한 고객 데이터를 종합적으로 분석해 고객의 상황과 관심사를 파악하는 개인화 AI 기술이다. 통화 요약과 앱·웹 이용 기록, 위치 기반 패턴 등 서로 다른 데이터를 결합해 고객을 보다 입체적으로 이해할 수 있도록 설계됐다. 기존 개인화 기술은 연령이나 특정 서비스 이용 기록 등 제한된 정보를 바탕으로 서비스를 추천하는 방식이 주를 이뤘다. 이로 인해 고객의 다양한 상황과 관심사를 종합적으로 파악하는 데 한계가 있다는 지적이 제기돼 왔다. LG유플러스는 해당 한계를 해결하기 위해 여러 종류의 고객 데이터를 함께 분석하는 기술을 개발했다고 설명했다. 고객이 자주 이용하는 서비스는 물론 관심을 보이는 콘텐츠와 앱·웹 사용 패턴 등을 종합적으로 분석해 보다 정교한 개인화 서비스를 제공할 수 있도록 구성한 것이다. 이를 통해 이용자는 자신의 관심사와 상황을 반복해서 입력하지 않아도 보다 적합한 서비스를 추천받을 수 있다. 예를 들어 요금제나 콘텐츠 추천 과정에서 연령과 같은 일반적인 기준에 의존하는 것이 아니라 실제 이용 패턴과 관심사를 반영한 맞춤형 서비스 제공이 가능해질 전망이다. 실제 통신 서비스 환경을 고려한 기술 설계도 특징이다. LG유플러스는 데이터 외부 이동이 제한된 환경에서도 안정적으로 작동할 수 있도록 기술을 설계했으며, 대규모 트래픽이 발생하는 상황에서도 일관된 성능을 유지할 수 있도록 했다. 하루 수십만 건 이상의 데이터를 처리하면서도 정확도를 확보하고 오류 발생 시 복구할 수 있는 체계도 함께 적용했다. LG유플러스는 향후 퍼스널 인텔리전스를 '에이전틱 컨텍스트 엔지니어링' 기술로 고도화할 계획이다. 이는 AI가 고객과의 대화나 서비스 이용 과정에서 새롭게 얻은 정보를 스스로 분석하고 기존 정보와 연결해 고객에 대한 이해를 지속적으로 발전시키는 기술이다. 기존의 퍼스널 인텔리전스가 다양한 고객 데이터를 종합적으로 분석해 개인화된 서비스를 제공하는 단계라면, 향후에는 고객의 관심사나 상황 변화까지 AI가 실시간으로 파악해 최적의 서비스를 제안하는 AI 에이전트 형태로 진화시키겠다는 구상이다. LG유플러스는 퍼스널 인텔리전스 기술을 IPTV 콘텐츠 추천과 고객 상담 서비스 등 고객 접점 전반에 확대 적용하는 방안을 추진하고 있다. 아울러 임직원의 업무를 지원하는 사내 AI 에이전트(B2E) 영역으로도 활용 범위를 넓히는 방안을 검토 중이다. 전영환 LG유플러스 퍼스널 에이전트 기술팀 팀장은 "이번 SIGIR 논문 채택은 LG유플러스가 개발해 온 개인화 AI 기술의 경쟁력을 인정받은 결과"라며 "앞으로도 고객을 더 잘 이해하는 AI 기술을 고도화해 차별화된 개인화 서비스를 제공해 나가겠다"고 말했다.2026-07-23 09:45:37
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 사상 최악의 기후재난, 네팔 대홍수가 묻는 것](https://image.ajunews.com/content/image/2026/08/31/20260831101315475035_518_323.jpg)