LG유플러스, AI 운영관리 시장 출사표…어라이즈 AI와 'AI 에이전트 감시' 협력

[경제일보] 인공지능(AI)이 단순히 정보를 제공하는 수준을 넘어 실제 업무를 수행하고 다른 시스템과 연동하는 단계로 발전하면서 잘못된 판단이나 행동을 사전에 탐지하고 통제하는 기술인 'AI 운영관리'의 중요성이 커지고 있다. 이에 LG유플러스는 글로벌 AI 운영관리 기업과 손잡고 관련 기술 확보에 나서면서 국내에서도 AI를 '도입하는 것'에서 '안정적으로 운영하는 것'으로 경쟁 범위를 확대하고 있다.

1일 LG유플러스는 글로벌 AI 운영관리 기업 어라이즈 AI와 전략적 업무협약(MOU)을 체결하고 AI 에이전트의 성능과 품질을 관리하고 안전성을 높이기 위한 기술 협력에 나선다고 밝혔다.

이번 협력은 기업의 AI 활용이 확대되면서 AI 에이전트의 성능을 지속적으로 평가하고 운영 과정에서 발생하는 오류와 위험 요소를 관리할 필요성이 커진 데 따른 것으로 풀이된다. 양사는 한국어·음성 기반 AI 평가 기술 개발, AI가 부정확하거나 부적절한 답변을 생성하지 않도록 하는 안전장치 기술 개발, 국내 B2B 시장 공동 사업 기회 발굴 등을 추진할 계획이다.

LG유플러스가 이번 협력을 통해 주목하는 영역은 AI 모델 자체보다 AI가 실제 기업 환경에서 제대로 작동하는지를 관리하는 기술이다. 생성형 AI가 문서 작성이나 검색 등 보조 업무를 넘어 AI 에이전트 형태로 업무를 직접 수행하기 시작하면서 단순한 답변 오류도 기업의 업무 효율성과 비용, 보안 등에 영향을 미칠 수 있기 때문이다.

특히 AI 에이전트는 사용자의 질문에 답하는 데 그치지 않고 여러 정보를 검색하거나 외부 시스템과 연결해 업무를 수행하는 방식으로 활용 범위가 확대되고 있다. 이에 AI가 어떤 답변을 내놓았는지뿐 아니라 어떤 과정을 거쳐 결과를 도출했는지, 잘못된 정보를 기반으로 업무를 수행하지 않았는지 등을 지속적으로 확인할 필요성이 커지고 있다.

AI 도입이 확대될수록 기업에게는 관리 부담이 커지고 있는 것으로 나타나고 있다. 하나의 AI 모델을 사용하는 단계에서는 결과물을 사람이 검토하는 방식으로 대응할 수 있지만 여러 AI 에이전트가 업무별로 배치되고 실제 의사결정이나 업무 처리 과정에 참여하게 되면 모든 결과를 사람이 일일이 확인하는 데 한계가 있기 때문이다.

이에 AI의 답변 품질을 자동으로 평가하고 오류를 분석하거나 위험한 응답을 사전에 탐지하는 AI 운영관리 기술이 새로운 시장으로 부상하고 있다. AI를 얼마나 정확하게 만드는지를 넘어 실제 서비스 환경에서 얼마나 안정적으로 유지할 수 있는지가 기업의 AI 경쟁력을 좌우하는 단계로 넘어가고 있는 것이다.

어라이즈 AI는 생성형 AI와 AI 에이전트의 성능을 측정하고 오류를 분석하는 AI 운영관리 기업이다. 통신과 금융, 제조, 유통 등 다양한 산업군을 대상으로 AI 서비스 품질 관리 솔루션을 제공하고 있다.

패트릭 켈리 어라이즈 AI 아시아태평양 지역 총괄 책임자는 "LG유플러스와의 협력을 통해 한국 시장에서 AI 운영 혁신 사례를 함께 만들어 갈 수 있게 돼 뜻깊게 생각한다"며 "양사가 보유한 기술과 경험을 바탕으로 안전하고 신뢰할 수 있는 AI 서비스 환경 구축을 지원하겠다"고 말했다.

LG유플러스는 어라이즈 AI와의 협력을 통해 국내 기업 환경에 맞는 AI 평가 및 관리 기술을 확보한다는 계획이다. 특히 한국어와 음성 기반 AI 평가 기술을 공동으로 개발한다는 점에서 국내 기업용 AI 시장을 겨냥한 기술 경쟁력을 강화할 수 있을 것으로 전망된다.

AI 에이전트가 기업의 고객센터와 영업, 마케팅, 내부 업무 등 다양한 영역으로 확산될 경우 기업마다 AI의 성능과 안정성을 관리할 필요성도 커질 수 있다. AI 에이전트가 잘못된 정보를 제공하는 것뿐 아니라 권한 밖의 업무를 수행하거나 부적절한 결과를 내놓는 상황까지 고려해야 하기 때문이다.

안전장치 기술 역시 AI 에이전트 확산 과정에서 중요한 요소가 될 전망이다. 기업이 AI를 업무 시스템과 연결할수록 AI가 접근할 수 있는 데이터와 권한의 범위가 넓어질 수 있어 단순한 모델 성능 평가만으로는 충분하지 않은 것으로 나타나고 있으며, AI의 답변이 적절한지 확인하는 동시에 위험한 응답이나 행동을 탐지하고 필요할 경우 이를 제한할 수 있는 관리 체계가 요구된다.

특히 AI 에이전트 시장이 초기 단계인 만큼 기업들이 어떤 수준의 AI 관리 기술을 필요로 하는지 시장의 요구를 빠르게 파악하는 것도 중요하다. AI 모델의 성능이 빠르게 개선되는 상황에서 운영관리 기술 역시 모델 변화에 맞춰 지속적으로 고도화돼야 하기 때문이다. 이에 AI 시대의 경쟁력은 AI를 도입했는지 여부를 넘어 이를 얼마나 안정적으로 운영할 수 있는지에 따라 갈릴 것으로 전망된다.

이상엽 LG유플러스 CTO 전무는 "AI가 기업의 핵심 업무 환경으로 자리 잡으면서 성능뿐 아니라 신뢰성과 운영 안정성이 중요한 경쟁력으로 떠오르고 있다"며 "어라이즈 AI와의 협력을 통해 AI 운영 관리 역량을 강화하고 고객이 신뢰할 수 있는 AI 서비스를 제공하겠다"고 말했다.