2026.10.16 금요일
검색
'AI평가' 검색결과
기간검색
-
~
검색영역
검색어
-
LG유플러스, AI 운영관리 시장 출사표…어라이즈 AI와 'AI 에이전트 감시' 협력 [경제일보] 인공지능(AI)이 단순히 정보를 제공하는 수준을 넘어 실제 업무를 수행하고 다른 시스템과 연동하는 단계로 발전하면서 잘못된 판단이나 행동을 사전에 탐지하고 통제하는 기술인 'AI 운영관리'의 중요성이 커지고 있다. 이에 LG유플러스는 글로벌 AI 운영관리 기업과 손잡고 관련 기술 확보에 나서면서 국내에서도 AI를 '도입하는 것'에서 '안정적으로 운영하는 것'으로 경쟁 범위를 확대하고 있다. 1일 LG유플러스는 글로벌 AI 운영관리 기업 어라이즈 AI와 전략적 업무협약(MOU)을 체결하고 AI 에이전트의 성능과 품질을 관리하고 안전성을 높이기 위한 기술 협력에 나선다고 밝혔다. 이번 협력은 기업의 AI 활용이 확대되면서 AI 에이전트의 성능을 지속적으로 평가하고 운영 과정에서 발생하는 오류와 위험 요소를 관리할 필요성이 커진 데 따른 것으로 풀이된다. 양사는 한국어·음성 기반 AI 평가 기술 개발, AI가 부정확하거나 부적절한 답변을 생성하지 않도록 하는 안전장치 기술 개발, 국내 B2B 시장 공동 사업 기회 발굴 등을 추진할 계획이다. LG유플러스가 이번 협력을 통해 주목하는 영역은 AI 모델 자체보다 AI가 실제 기업 환경에서 제대로 작동하는지를 관리하는 기술이다. 생성형 AI가 문서 작성이나 검색 등 보조 업무를 넘어 AI 에이전트 형태로 업무를 직접 수행하기 시작하면서 단순한 답변 오류도 기업의 업무 효율성과 비용, 보안 등에 영향을 미칠 수 있기 때문이다. 특히 AI 에이전트는 사용자의 질문에 답하는 데 그치지 않고 여러 정보를 검색하거나 외부 시스템과 연결해 업무를 수행하는 방식으로 활용 범위가 확대되고 있다. 이에 AI가 어떤 답변을 내놓았는지뿐 아니라 어떤 과정을 거쳐 결과를 도출했는지, 잘못된 정보를 기반으로 업무를 수행하지 않았는지 등을 지속적으로 확인할 필요성이 커지고 있다. AI 도입이 확대될수록 기업에게는 관리 부담이 커지고 있는 것으로 나타나고 있다. 하나의 AI 모델을 사용하는 단계에서는 결과물을 사람이 검토하는 방식으로 대응할 수 있지만 여러 AI 에이전트가 업무별로 배치되고 실제 의사결정이나 업무 처리 과정에 참여하게 되면 모든 결과를 사람이 일일이 확인하는 데 한계가 있기 때문이다. 이에 AI의 답변 품질을 자동으로 평가하고 오류를 분석하거나 위험한 응답을 사전에 탐지하는 AI 운영관리 기술이 새로운 시장으로 부상하고 있다. AI를 얼마나 정확하게 만드는지를 넘어 실제 서비스 환경에서 얼마나 안정적으로 유지할 수 있는지가 기업의 AI 경쟁력을 좌우하는 단계로 넘어가고 있는 것이다. 어라이즈 AI는 생성형 AI와 AI 에이전트의 성능을 측정하고 오류를 분석하는 AI 운영관리 기업이다. 통신과 금융, 제조, 유통 등 다양한 산업군을 대상으로 AI 서비스 품질 관리 솔루션을 제공하고 있다. 패트릭 켈리 어라이즈 AI 아시아태평양 지역 총괄 책임자는 "LG유플러스와의 협력을 통해 한국 시장에서 AI 운영 혁신 사례를 함께 만들어 갈 수 있게 돼 뜻깊게 생각한다"며 "양사가 보유한 기술과 경험을 바탕으로 안전하고 신뢰할 수 있는 AI 서비스 환경 구축을 지원하겠다"고 말했다. LG유플러스는 어라이즈 AI와의 협력을 통해 국내 기업 환경에 맞는 AI 평가 및 관리 기술을 확보한다는 계획이다. 특히 한국어와 음성 기반 AI 평가 기술을 공동으로 개발한다는 점에서 국내 기업용 AI 시장을 겨냥한 기술 경쟁력을 강화할 수 있을 것으로 전망된다. AI 에이전트가 기업의 고객센터와 영업, 마케팅, 내부 업무 등 다양한 영역으로 확산될 경우 기업마다 AI의 성능과 안정성을 관리할 필요성도 커질 수 있다. AI 에이전트가 잘못된 정보를 제공하는 것뿐 아니라 권한 밖의 업무를 수행하거나 부적절한 결과를 내놓는 상황까지 고려해야 하기 때문이다. 안전장치 기술 역시 AI 에이전트 확산 과정에서 중요한 요소가 될 전망이다. 기업이 AI를 업무 시스템과 연결할수록 AI가 접근할 수 있는 데이터와 권한의 범위가 넓어질 수 있어 단순한 모델 성능 평가만으로는 충분하지 않은 것으로 나타나고 있으며, AI의 답변이 적절한지 확인하는 동시에 위험한 응답이나 행동을 탐지하고 필요할 경우 이를 제한할 수 있는 관리 체계가 요구된다. 특히 AI 에이전트 시장이 초기 단계인 만큼 기업들이 어떤 수준의 AI 관리 기술을 필요로 하는지 시장의 요구를 빠르게 파악하는 것도 중요하다. AI 모델의 성능이 빠르게 개선되는 상황에서 운영관리 기술 역시 모델 변화에 맞춰 지속적으로 고도화돼야 하기 때문이다. 이에 AI 시대의 경쟁력은 AI를 도입했는지 여부를 넘어 이를 얼마나 안정적으로 운영할 수 있는지에 따라 갈릴 것으로 전망된다. 이상엽 LG유플러스 CTO 전무는 "AI가 기업의 핵심 업무 환경으로 자리 잡으면서 성능뿐 아니라 신뢰성과 운영 안정성이 중요한 경쟁력으로 떠오르고 있다"며 "어라이즈 AI와의 협력을 통해 AI 운영 관리 역량을 강화하고 고객이 신뢰할 수 있는 AI 서비스를 제공하겠다"고 말했다.2026-09-01 09:51:37
-
AAII 1위 모티프는 왜 탈락했나…독파모 평가 공개 놓고 논란 [경제일보] 정부의 ‘독자 AI 파운데이션 모델 프로젝트’(독파모) 2차 평가에서 글로벌 성능지표 1위를 기록한 모티프테크놀로지스가 탈락하면서 평가 방식의 투명성을 둘러싼 논쟁이 커지고 있다. 모티프의 ‘Motif 3’는 글로벌 AI 평가기관 아티피셜 애널리시스의 AAII에서 47점을 받아 업스테이지(37점), SK텔레콤(35점), LG AI연구원(31점)을 모두 앞섰다. 하지만 최종 종합평가에서는 4개 팀 중 최하위를 기록했다. 모티프테크놀로지스는 27일 과학기술정보통신부에 공식 이의를 제기하고 전체 평가 항목별·업체별 점수와 판단 근거, 벤치마크 배점 산정 방식, 전문가 평가 기준, 사용자 평가 방법론 및 블라인드 평가 여부 등을 공개해 달라고 요구했다. 이의 제기 결과와 관계없이 독파모 3차에는 참여하지 않겠다는 입장도 밝혔다. ◆ ‘AAII 47점’이 탈락으로 이어진 이유 핵심은 AAII가 독파모 전체 평가의 일부에 불과했다는 점이다. 2차 평가는 벤치마크 40점, 전문가 평가 35점, 사용자 평가 25점 등 총 100점으로 구성됐다. 벤치마크 가운데 AAII가 25점, 한국지능정보사회진흥원(NIA) 평가가 15점이다. 전문가 평가는 AI 전문가 10명이 개발 전략·기술, 개발 성과·계획, 파급효과·기여계획 등을 평가했고 사용자 평가는 AI 스타트업 대표 등 전문 사용자 49명과 일반 국민 185명이 참여했다. 따라서 AAII에서 47점을 받은 것이 곧 독파모 2차 평가에서 가장 높은 점수를 받았다는 의미는 아니다. 실제 정부 발표에서도 4개 팀의 벤치마크 점수 평균은 22.5점이었고 1위와 4위의 격차는 4점에 그쳤다. 전문가 평가의 1·4위 격차는 2.4점, 사용자 평가에서는 5점이었다. 즉 글로벌 벤치마크만 놓고 보면 차이가 있었지만 100점짜리 종합평가에서는 다른 항목이 순위를 충분히 뒤집을 수 있는 구조였다. 과기정통부가 공개한 탈락 사유도 여기에 있다. 류제명 과기정통부 2차관은 모티프가 기술력 측면에서는 뛰어난 성과를 냈지만 “사용성·활용성 측면에서는 다른 모델보다 다소 낮은 평가”를 받았다고 설명했다. 반면 업스테이지는 포털 다음 서비스 실증과 국산 NPU 협업, SK텔레콤은 대규모 상용 서비스 및 산업 특화 에이전트 실증, LG AI연구원은 국제기구 협업과 에이전틱 AI 차별성 및 위험관리 등에서 높은 평가를 받았다. ◆ ‘성능 좋은 모델’과 ‘쓸 수 있는 모델’은 다르다 정부가 사용성과 활용성을 별도로 본 이유도 있다. 이번 독파모 사업의 다음 단계는 단순히 높은 벤치마크 점수를 기록하는 모델을 만드는 데 그치지 않고 실제 국민 서비스와 산업 현장에 적용할 수 있는 AI를 만드는 데 초점이 맞춰져 있기 때문이다. 이에 따라 모델의 답변 성능뿐 아니라 서비스 적용 계획, 산업 생태계 기여, 실제 사용 효용 등을 평가하도록 구조가 바뀌었다. 실제 AAII 역시 모델의 추론·지식·코딩 등 다양한 능력을 종합적으로 보는 글로벌 지표지만 특정 모델의 실제 서비스 안정성이나 한국 산업 환경에서의 활용성을 모두 보여주는 것은 아니다. 모티프 역시 이 점을 인정하면서도 파운데이션 모델의 핵심 가치는 챗봇 사용성보다 여러 분야로 확장 가능한 기반 성능에 있다고 주장하고 있다. 논란은 결국 ‘국가대표 AI를 무엇으로 뽑을 것인가’라는 문제로 이어진다. 글로벌 성능을 우선하면 모티프의 탈락은 납득하기 어렵지만, 실제 국민 서비스와 산업 적용까지 고려한다면 모델 성능 외 평가가 필요하다는 정부 논리에도 일리가 있다. 문제는 어느 쪽이 맞느냐보다 그 판단을 검증할 수 있도록 세부 점수와 평가 기준을 얼마나 공개할 수 있느냐다. 모티프가 제기한 가장 큰 문제도 바로 이 부분이다. 모티프는 AAII 47점과 다른 평가 결과가 크게 엇갈린 이유를 알 수 있도록 세부 점수와 전문가·사용자 평가 근거를 공개해야 한다고 요구하고 있다. 특히 사용자 평가에서 브랜드 인지도나 선입견이 결과에 영향을 줬는지, 블라인드 평가가 적용됐는지도 확인해야 한다는 주장이다. 정부도 평가방식 자체의 한계를 인식하고 있다. 과기정통부는 3차 평가를 앞두고 소수 승자만 뽑는 기존 방식을 넘어 프런티어급 모델 경쟁이 가능하도록 지원체계를 전면 재편하는 방안을 검토하고 있다. 3차 진출팀에는 엔비디아 B200 GPU 지원도 상반기 768장에서 하반기 약 1000장 수준으로 확대할 계획이다. 한편 이번 논란에서 중요한 것은 모티프를 다시 선정하느냐가 아니다. 국민 세금이 투입되는 국가대표 AI 선발전이라면 왜 탈락했는지를 외부에서도 검증할 수 있어야 한다는 것이다. 글로벌 벤치마크와 실제 활용성 가운데 어느 쪽에 더 높은 가치를 둘지는 정책적 선택일 수 있다. 다만 그 선택이 설득력을 가지려면 점수와 기준이 투명하게 공개돼야 한다. 이번 이의 제기가 독파모의 기술 경쟁뿐 아니라 국가 AI 선발 시스템 자체의 신뢰도를 점검하는 계기가 될 전망이다.2026-08-27 09:38:30
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 반도체 호황에 취한 정부, 민생은 무너진다](https://image.ajunews.com/content/image/2026/10/15/20261015173614583906_518_323.jpg)