델 "에이전틱 AI, 책상까지 내려온다"…토큰 비용에 '분산처리' 승부수

[경제일보] 인공지능(AI)이 질문에 답하는 수준을 넘어 실제 업무를 수행하는 ‘에이전틱 AI’로 진화하면서 기업의 AI 인프라 전략도 바뀌고 있다. 모든 AI 연산을 클라우드와 데이터센터에 집중하는 방식에서 벗어나 업무 특성과 데이터 민감도, 비용에 따라 PC·워크스테이션·기업 데이터센터·클라우드로 나눠 처리하는 ‘분산 AI’가 새로운 선택지로 떠오르고 있다.

델 테크놀로지스는 25일 서울 코엑스에서 열린 ‘델 테크놀로지스 포럼 2026’과 연계해 기자 간담회를 열고 에이전틱 AI 시대 기업의 핵심 과제로 AI 토큰 비용 관리와 데이터 보안, 인프라 현대화를 제시했다. 유상모 한국 델 테크놀로지스 사장은 이 자리에서 “AI를 어디에서 얼마나 효율적으로 처리할 것인지가 중요해지고 있다”고 강조했다.

델의 ‘2026 모던 엔터프라이즈 레디니스 조사’에 따르면 국내 응답 기업의 72%가 현재 데이터센터가 대규모 AI·분석 워크로드를 지원하기에 충분하지 않다고 답했다. 84%는 데이터센터 현대화 계획을 갖고 있었다. 이는 AI 도입이 모델 선택을 넘어 기존 인프라의 전면적인 재설계 문제로 번지고 있음을 보여준다.

◆ AI 에이전트 늘수록 ‘토큰 비용’이 변수

유 사장은 기자 간담회에서 AI 에이전트가 확산할수록 기업이 AI 사용량과 비용을 함께 관리해야 한다고 강조했다. 그는 “가치가 낮은 업무에 많은 토큰을 쓰는 반면 가치 있는 업무에는 적은 토큰만 사용하는 상황도 발생한다”며 AI 활용을 무조건 늘리는 방식보다 업무별 효율성을 따져야 한다고 지적했다.

에이전틱 AI는 사용자의 요청을 해석하고 검색·도구 호출·실행을 반복하기 때문에 단순 질의응답보다 토큰 사용량이 커질 수 있다. 이에 따라 델은 대규모 연산은 클라우드나 데이터센터에서 처리하고, 반복적인 추론이나 외부 전송이 부담스러운 민감정보는 사용자 PC와 워크스테이션에서 처리하는 ‘데스크사이드 AI’ 전략을 제시했다.

 
정재욱 델 테크놀로지스 이사는 “클라우드는 대규모 연산에, 데이터 소유권과 통제가 중요한 연산은 기업 데이터센터에 적합하다”며 “반복적인 추론이나 민감한 데이터는 데스크사이드에서 처리해 효율을 확보할 수 있다”고 설명했다.

AI PC는 CPU·GPU·NPU를 활용해 일부 AI 추론을 기기 자체에서 수행할 수 있다. 클라우드 API 호출을 줄여 토큰 비용을 낮추는 동시에 민감한 데이터의 외부 전송을 줄이는 수단으로 활용할 수 있다.

델은 인텔 코어 울트라 시리즈3와 AMD 라이젠 AI 프로 400 시리즈 등을 탑재한 기업용 ‘델 프로’ 제품군을 확대하고 있다. 일부 모델에는 고성능 NPU를 적용해 온디바이스 AI 활용 범위를 넓혔다.

델이 인용한 조사에서도 국내 응답자의 90%가 현대적인 디바이스가 회의·협업의 질을 높인다고 답했고, 87%는 노후 장비가 AI 애플리케이션 도입의 걸림돌이라고 답했다. AI PC가 단순한 업무용 기기를 넘어 기업 AI 인프라의 한 축으로 부상하고 있다는 설명이다.

◆ AI 확산할수록 보안·규제도 앞단으로

AI 인프라의 분산은 보안 문제와도 연결된다. 국내 조사 응답자의 75%는 AI 데이터 관련 정부 규제 대응에 어려움을 느꼈고, 65%는 보안·컴플라이언스 문제가 AI 도입을 지연하거나 중단시킨 요인이라고 답했다. 60%는 제3자가 접근할 가능성이 있는 생성형 AI 도구에 회사의 중요 데이터를 맡기기 어렵다고 했다.

델은 AI 활용이 확대될수록 보안을 사후적으로 추가하기보다 PC·데이터센터·클라우드 등 인프라 설계 단계에서부터 보안과 데이터 거버넌스를 함께 구축해야 한다고 강조했다.

결국 에이전틱 AI 시대의 경쟁력은 가장 강력한 모델을 확보하는 데서 끝나지 않는다. 어떤 업무를 어떤 모델로 처리하고, 어디에서 연산하며, 얼마의 비용으로 운영할 것인지를 결정하는 능력이 기업 AI 경쟁력을 좌우할 전망이다. AI 에이전트가 기업 구성원의 업무 파트너로 자리 잡을수록 ‘AI를 많이 쓰는 기업’보다 ‘AI를 효율적으로 배치하는 기업’이 비용과 생산성 경쟁에서 앞설 가능성이 커지고 있다.