2026.09.23 수요일
검색
'AI 비용' 검색결과
기간검색
-
~
검색영역
검색어
-
바운드포, AI API 비용 폭증 막는다…'파레토'로 토큰 지출 사전 통제 [경제일보] 생성형 인공지능(AI)과 AI 에이전트 도입이 확산하면서 기업들의 관심이 'AI를 얼마나 많이 활용하느냐'에서 'AI를 얼마나 효율적으로 활용하느냐'로 옮겨가고 있다. 이에 데이터 파운드리 기업 바운드포가 AI 토큰 비용을 사전에 통제하는 서비스를 선보이며 기업용 AI 비용 관리 시장 공략에 나섰다. 단순히 사용량과 비용을 보여주는 기존 모니터링 방식에서 나아가 예산을 초과할 것으로 예상되는 AI API 호출을 실행 단계에서 차단하는 방식이다. 12일 바운드포는 자사 AI 데이터 운영 플랫폼 '드로파이'에 AI 토큰 지출 관리 서비스 '파레토'를 새롭게 추가했다고 밝혔다. 최근 기업들은 하나의 AI 모델만 사용하는 것이 아니라 업무 성격에 따라 여러 생성형 AI 모델과 API를 동시에 활용하고 있다. 고성능 모델을 적극적으로 활용해 AI 사용량 자체를 늘리는 이른바 '토큰맥싱'이 확산하는 등 AI 활용 확대가 기업 경쟁력으로 여겨지고 있지만, 사용량이 늘어날수록 비용 부담 역시 커지는 구조다. 특히 AI 에이전트가 확산하면서 토큰 비용의 성격도 달라지고 있다. 사람이 직접 AI를 사용하는 경우에는 사용 시간이나 빈도에 일정한 한계가 있지만, AI 에이전트는 업무가 완료될 때까지 API를 자동으로 호출할 수 있다. 로봇이나 각종 디바이스에 AI가 탑재되면 24시간 작동하면서 지속적으로 모델을 호출하는 환경도 가능하다. 이 과정에서 오류가 발생해 같은 요청을 반복하거나, 단순한 작업에 고성능 모델을 계속 사용하는 경우 예상하지 못한 비용이 누적될 수 있다. AI 사용량을 늘리는 것 자체가 목표였던 단계에서 벗어나 기업이 AI 비용의 발생 구조까지 관리해야 하는 단계로 넘어가고 있는 것이다. 기존 기업용 비용 관리 방식만으로는 해당 변화에 대응하기 어렵다는 지적도 나온다. 일반적으로 기업은 월말 청구서나 사용량 데이터를 통해 어느 서비스에서 비용이 발생했는지를 확인한다. 다만 AI API는 호출량과 토큰 사용량에 따라 비용이 실시간으로 증가하기 때문에 사후에 비용을 확인하는 것만으로는 이미 발생한 지출을 되돌리기 어려운 것으로 평가된다. 바운드포는 파레토를 내놓은 것도 해당 문제를 겨냥했다. 바운드포는 파레토가 관리자가 설정한 예산 한도와 정책을 AI API 호출 과정에 적용해 일정 수준을 넘어서는 요청을 실행 전에 차단할 수 있도록 설계됐다고 설명했다. 사용 이후 비용을 분석하는 '사후 관측'보다 비용이 발생하기 전에 통제하는 '사전 통제'에 초점을 맞춘 것이 특징이다. 기업은 팀이나 프로젝트별로 AI 사용 예산을 설정할 수 있으며 현재 사용량과 예상 지출을 확인할 수 있도록 구성됐다. AI 에이전트가 자동으로 API를 호출하는 환경에서도 정해진 예산 범위 안에서 서비스를 운영할 수 있도록 하는 방식이다. 비용이 발생하는 패턴을 분석해 불필요한 지출을 찾아내는 기능도 제공한다. 실패한 API 요청이 반복되면서 비용이 누적되는 재시도, 사실상 동일한 요청을 반복 처리하는 중복 호출, 상대적으로 단순한 작업에 고성능 모델을 사용하는 과사양 모델 사용 등을 분석해 절감 가능성이 있는 영역을 리포트로 제공한다. 기업 입장에서는 어떤 모델을 얼마나 사용했는지를 확인하는 것뿐 아니라 어떤 업무에 어떤 모델을 사용했는지, 불필요한 호출이 발생하고 있는지, 설정한 예산을 넘어설 가능성이 있는지까지 관리해야 하기 때문에 AI 에이전트가 업무 자동화의 중심으로 자리 잡을수록 비용 통제의 중요성은 더욱 커질 전망이다. AI 에이전트가 여러 단계의 업무를 수행하는 과정에서 하나의 요청에 그치지 않고 여러 모델과 API를 연속적으로 호출할 수 있기 때문이다. 피지컬 AI 확산도 변수다. 로봇이나 자율 시스템 등이 AI 모델을 활용해 주변 상황을 판단하고 행동하는 환경에서는 서비스가 작동하는 동안 지속적인 AI 추론과 API 호출이 발생할 수 있다. AI가 소프트웨어 안에서만 사용되는 것이 아니라 현실 세계의 기기와 연결될수록 토큰 비용이 기업의 운영비와 직접 연결될 가능성도 커지고 있다. AI 시장의 경쟁 기준이 변하고 있다. 기존에는 더 뛰어난 성능의 모델을 확보하거나 이를 다양한 업무에 빠르게 적용하는 것이 기업의 AI 경쟁력으로 평가됐다면, 앞으로는 동일한 업무를 얼마나 적은 비용으로 처리할 수 있는지까지 중요한 요소가 될 전망이다. 바운드포는 파레토를 자사 AI 데이터 운영 플랫폼인 드로파이에 결합하면서 데이터 관리와 AI 비용 통제를 하나의 플랫폼에서 제공하는 방향으로 사업을 확대한다는 구상이다. AI 활용 과정에서 발생하는 데이터를 관리하는 동시에 해당 데이터를 바탕으로 AI 사용 패턴과 비용 구조를 분석해 운영 효율까지 높이겠다는 것이다. 황인호 바운드포 대표는 "로봇과 디바이스가 24시간 AI를 호출하는 환경에서는 비용을 사후에 분석하는 방식만으로는 한계가 있었고, 파레토는 피지컬 AI 현장에서 바운드포가 직접 겪은 문제를 해결하는 과정에서 탄생한 서비스"라며 "앞으로도 현장에서 검증한 운영 경험을 서비스로 고도화해 AI 데이터 관리부터 비용 통제까지 기업의 AI 운영 전반을 지원해 나가겠다"고 말했다.2026-08-12 11:05:01
-
최태원 "AI 비용 너무 높다…기술 혁신으로 낮춰야" [경제일보] 최태원 SK그룹 회장이 인공지능(AI) 산업의 지속적인 성장을 위해서는 AI 서비스 비용을 획기적으로 낮추는 기술 혁신이 필요하다고 강조했다. AI 데이터센터와 반도체 투자 확대를 통해 비용 효율성을 높이고 AI 생태계 확장을 이끌겠다는 구상이다. 14일 업계에 따르면 최 회장은 최근 미국 테크 전문 플랫폼 '식스파이브미디어(The Six Five Media)'와의 인터뷰에서 "현재 AI 비용이 너무 높다"며 "기술적 돌파구를 함께 찾아 비용을 낮춰야 한다"고 밝혔다. 최 회장은 "반도체 가격이 높고 공급도 충분하지 않아 AI 인프라 구축 부담이 커지고 있다"며 "생산능력을 확대하려면 일정한 시간이 필요한 만큼 당장 해결할 수 있는 문제는 아니다"라고 진단했다. 이를 해결하기 위한 방안으로 정부가 추진하는 '3대 메가 프로젝트'와 연계한 AI 데이터센터 투자 계획도 소개했다. 그는 "약 1000조원을 투자해 총 15GW 규모의 AI 데이터센터를 단계적으로 구축할 계획"이라며 "더 낮은 비용으로 운영되고 더 효율적으로 토큰을 생성할 수 있는 차세대 AI 데이터센터 구축에 집중하고 있으며 이를 위해 다양한 파트너들과 협력하고 있다"고 말했다. AI 산업이 요구하는 막대한 투자 규모에 대해서도 언급했다. 최 회장은 "처음 1조달러 규모의 투자 계획을 세웠을 때만 해도 이런 규모가 될 것으로 예상하지 못했다"며 "AI 산업은 막대한 비용과 초대형 데이터센터를 필요로 하기 때문에 지금의 투자 규모가 가능해졌다"고 설명했다. 최근 진행된 SK하이닉스의 미국 나스닥 미국주식예탁증서(ADR) 상장에 대해서는 글로벌 기업으로 도약하기 위한 중요한 전환점이라고 평가했다. 그는 "한국뿐 아니라 미국에서도 주식이 거래되면서 글로벌 인재 확보와 새로운 투자 기회를 만들 수 있게 됐다"며 "미국 투자자들이 참여하면서 글로벌 기업에 걸맞은 새로운 거버넌스 체계도 구축할 수 있게 됐다"고 말했다. 이어 "미국을 기반으로 연구개발(R&D)을 확대하고 AI 스타트업과 협력 기회도 넓힐 수 있다"며 "하이엔드 메모리를 넘어 AI와 에너지 분야까지 투자 영역을 확대할 계획"이라고 덧붙였다. 향후 5년간 메모리 생산능력을 두 배로 확대하는 과정에서 가장 큰 변수로는 지정학적 리스크와 자금 조달을 꼽았다. 최 회장은 "갑작스러운 지정학적 사건은 에너지 가격을 자극할 수 있고 AI 산업 성장에도 영향을 줄 수 있다"며 "AI 산업에는 막대한 자금이 필요한 만큼 충분한 투자가 이뤄지지 않으면 현재의 성장 모멘텀을 잃을 수 있다"고 말했다. 그러면서 "현재 AI는 아직 완전하지 않지만 앞으로 5년 정도 지나면 훨씬 신뢰할 수 있는 수준으로 발전할 것"이라며 "생산성이 크게 향상되면서 선순환 구조가 만들어질 것으로 기대한다"고 전망했다. 범용인공지능(AGI) 시대를 대비한 정부의 역할도 주문했다. 최 회장은 "AGI 시대에 도달할 때까지 정부의 지속적인 투자와 지원이 필요하다"며 "그렇지 않으면 국가 경쟁력은 물론 국가 안보에도 영향을 미칠 수 있다"고 강조했다. 끝으로 그는 SK그룹이 글로벌 AI 산업의 핵심 기업으로 성장한 배경에 대해 "37세에 회장을 맡은 뒤 아버지에게 '위기를 피하지 말고 오히려 강점으로 바꾸라'는 가르침을 받았다"며 "메모리 사업도 15년 넘게 도전한 끝에 범용 제품이던 메모리를 국가 전략산업으로 성장시키는 데 기여할 수 있었다"고 말했다.2026-07-14 17:07:47
-
오픈AI, 'GPT-5.6' 전면 개방…AI 전쟁, 성능 넘어 '토큰 효율'로 [경제일보] 프런티어 AI 경쟁의 무게중심이 최고 성능에서 비용 대비 성능으로 옮겨가고 있다. 오픈AI가 코딩·추론·보안 능력을 높이면서 토큰 사용량을 줄인 GPT-5.6을 정식 출시했다. 오픈AI(CEO 샘 올트먼)는 9일(현지시간) 제한적 사전 공개를 마치고 GPT-5.6 제품군을 일반에 제공한다고 밝혔다. 최상위 모델 ‘솔(Sol)’, 성능과 비용의 균형을 맞춘 ‘테라(Terra)’, 속도와 가격 경쟁력을 강조한 ‘루나(Luna)’로 구성됐다. GPT-5.6은 챗GPT와 코덱스, API를 통해 전 세계에 순차 적용된다. 챗GPT 유료 이용자는 추론 강도 ‘중간’ 이상에서 솔을 사용할 수 있다. 코덱스와 챗GPT 워크에서는 요금제에 따라 3개 모델을 선택할 수 있으며 API에서는 솔·테라·루나가 모두 제공된다. 오픈AI가 이번에 전면에 내세운 것은 ‘달러당 성능’이다. 더 많은 토큰을 투입해 점수를 높이는 기존 방식에서 벗어나 같은 비용으로 더 많은 작업을 끝내거나 동일한 결과를 더 싸게 제공하겠다는 전략이다. 올트먼 CEO는 CNBC 인터뷰에서 “GPT-5.6 솔의 에이전틱 코딩 작업 토큰 효율이 54% 향상됐다”며 기업 고객이 AI 비용 대비 가치를 중시하고 있다고 강조했다. 성능은 분야별로 엇갈렸다. 오픈AI가 공개한 터미널-벤치 2.1에서 솔은 88.8%로 앤트로픽의 미토스5(88%)를 근소하게 앞섰다. 사이버짐에서도 84.5%를 기록해 미토스5(83.8%)보다 높았다. 장기 전문 업무 수행 능력을 평가하는 ‘에이전트의 마지막 시험’에서는 52.7%로 페이블5(40.5%)와 오퍼스4.8(45.2%)을 웃돌았다. 모든 코딩 지표에서 우위에 선 것은 아니다. SWE-벤치 프로에서는 솔이 64.6%를 기록해 미토스5(80.3%)와 오퍼스4.8(69.2%)에 뒤졌다. 익스플로잇벤치에서도 73.5%로 미토스5(78%)보다 낮았다. 특정 벤치마크 승리를 모델의 전반적 우위로 해석하기 어려운 이유다. 아티피셜 애널리시스 지능지수에서도 솔은 58.9점으로 페이블5(59.9점)에 이어 2위를 기록했다. 다만 오픈AI는 솔이 페이블5와 한 점 이내 성능을 내면서 작업 시간은 61% 줄이고 추정 비용은 절반 수준으로 낮췄다고 설명했다. 사이버보안 능력이 높아진 만큼 안전장치도 강화했다. 오픈AI는 일반 공개 전 약 70만 A100 환산 GPU 시간을 자동 레드티밍에 투입했으며 실시간 검사와 계정 단위 모니터링을 함께 적용했다. 다만 자체 평가에서 GPT-5.6은 생물학과 사이버보안 분야 모두 ‘치명적 위험’ 기준을 넘지 않았다고 밝혔다. API 가격은 100만 토큰당 입력·출력 기준 솔 5달러·30달러, 테라 2.5달러·15달러, 루나 1달러·6달러다. GPT-5.6의 승부수는 최고 점수 하나가 아니라 성능과 속도, 비용을 함께 낮추는 데 있다. 기업용 AI 시장에서 모델의 경제성이 새로운 선택 기준으로 굳어질지 주목된다.2026-07-10 14:47:05
-
![[AI시대 대격변] 한국경제 3주체를 다시 짜라 ①기업·재벌편](https://image.ajunews.com//content/image/2026/07/09/20260709165036954321.png)
한국경제 3주체를 다시 짜라 ①기업·재벌편 [경제일보] 인공지능(AI) 시대는 한국경제에 기술 도입을 넘어선 전방위 개혁을 요구하고 있다. 기업은 AI를 비용 절감 수단이 아니라 조직과 사업모델 혁신의 계기로 삼아야 한다. 소비자는 편리함에 머무르지 않고 데이터 주권과 알고리즘 감시 능력을 갖춰야 한다. 정부는 규제 완화와 산업 지원을 넘어 인프라, 인재, 안전망, 신뢰 체계를 함께 설계해야 한다. 이에 본지는 이번 기획을 통해 AI시대 한국경제 3주체의 역할 변화와 개혁 과제를 짚고, 한국경제가 관성의 경제에서 학습의 경제로 전환하기 위한 해법을 모색한다. <편집자주> 한국 대기업들이 인공지능(AI) 전환의 한복판에 섰다. 반도체 기업은 AI 서버의 핵심 부품인 고대역폭메모리(HBM)와 첨단 패키징 경쟁에 뛰어들고 있고, 플랫폼 기업은 초거대 AI와 클라우드 인프라를 강화하고 있다. 자동차·조선·철강·금융권도 생산공정 자동화, 로봇, AI 상담, 리스크 관리 등으로 적용 범위를 넓히고 있다. 정부와 기업의 투자 시계도 빨라지고 있다. 최근 한국 정부는 삼성전자와 SK하이닉스 등을 축으로 대규모 AI·반도체 투자 전략을 추진하고 있다. 삼성전자와 SK하이닉스는 약 800조원 규모의 신규 반도체 제조시설 투자에 참여하고, 충청권에는 81조원 규모의 반도체 패키징 클러스터가 조성된다. 또 SK·GS·네이버 등이 AI 데이터센터 구축에 참여하고 장기적으로 관련 투자가 1000조원 이상으로 확대될 수 있다는 구상도 내놨다. 실제 정부는 지난달 29일 SK·GS·네이버와 협력해 1단계로 8.4GW 규모의 AI 데이터센터를 구축하겠다고 밝혔다. SK가 5GW, GS가 2.4GW, 네이버가 1GW 규모로 참여하며 관련 투자 규모는 550조원으로 제시됐다. 투자 규모만 놓고 보면 한국 기업들은 다시 한 번 ‘큰 판’을 벌이고 있다. 그러나 현장에선 “AI 투자가 곧 AI 경쟁력은 아니다”라는 지적도 나온다. 한 대기업 AI 전략 담당자는 “지금은 어느 그룹이나 AI 조직과 태스크포스는 갖추고 있지만 실제 업무에 적용하려면 데이터 접근권, 보안, 법무, 감사, 성과평가가 모두 걸린다”며 “AI 도입보다 어려운 것은 부서 간 칸막이를 허무는 일”이라고 말했다. HBM이 바꾼 증시 서열…AI가 기업가치 기준 흔든다 AI 전환은 이미 국내 증시의 기업가치 평가 기준도 바꾸고 있다. 대표 사례가 SK하이닉스다. SK하이닉스는 AI 반도체 수요 확대와 HBM 시장 선점 효과에 힘입어 지난달 22일 코스피 장중 시가총액에서 삼성전자를 앞질렀다. 이는 단순한 주가 순위 변화가 아니다. 한국 반도체 산업의 무게중심이 범용 메모리 중심에서 AI용 고부가 메모리와 패키징, 고객 맞춤형 공급망으로 이동하고 있다는 신호다. 과거에는 생산능력과 원가 경쟁력이 핵심이었다면 이제는 엔비디아 등 글로벌 빅테크·AI 반도체 기업과 얼마나 긴밀하게 연결돼 있는지, 차세대 HBM을 얼마나 빨리 개발·공급할 수 있는지가 기업가치를 좌우한다. 다만 AI 반도체 호황이 항상 주가 상승으로만 이어지는 것은 아니다. 실제 8일 삼성전자와 SK하이닉스 주가는 미국 반도체주 약세와 AI 붐 지속성에 대한 우려 속에 장중 동반 약세를 보였다. 증권업계 한 관계자는 “AI 반도체가 한국 증시의 핵심 테마가 된 것은 분명하지만 시장은 이제 단순한 실적 증가보다 지속 가능한 가격 결정력과 고객 기반을 본다”며 “AI 사이클이 길어질수록 기업 간 격차는 더 커질 수 있다”고 말했다. 계열사 울타리에 갇힌 데이터, AI 경쟁력의 병목 AI 경쟁력은 반도체와 데이터센터 같은 하드웨어 투자만으로 결정되지 않는다. 기업 내부의 데이터 활용 구조가 핵심 변수다. 한국 대기업은 제조, 금융, 유통, 통신, 물류 등 방대한 데이터를 갖고 있다. 그러나 계열사별·부서별로 데이터가 분산돼 있고, 보안과 개인정보, 감사 리스크 때문에 실제 활용은 제한적인 경우가 많다. 한 제조업계 관계자는 “공장에는 설비 데이터가 쌓이고, 영업부서에는 고객 데이터가 쌓이며, 구매부서에는 공급망 데이터가 쌓이지만 이를 하나의 모델로 연결하는 일은 쉽지 않다”며 “AI 프로젝트를 시작하면 기술 문제가 아니라 내부 승인 절차에서 시간이 더 걸리는 경우가 많다”고 했다. 재벌 구조의 강점이던 수직계열화도 AI시대에는 양면성을 갖는다. 위기 때 빠르게 자원을 동원하는 데는 유리하지만 데이터와 인재가 계열사 내부에 갇히면 개방형 혁신에는 불리할 수 있다. 한 스타트업 대표는 “대기업들이 AI 스타트업과 협업을 말하지만 실제 계약 단계에서는 지식재산권, 데이터 소유권, 보안 조항이 지나치게 무겁다”며 “함께 실험하고 성과를 나누는 방식으로 바뀌어야 한다”고 지적했다. AI 도입보다 어려운 건 일하는 방식의 개혁 기업들이 생성형 AI를 사내 업무에 도입하면서 보고서 초안 작성, 회의록 정리, 시장조사, 고객 응대, 코드 작성, 번역, 계약서 검토 등에서 AI 활용이 확대되고 있다. 그러나 전문가들은 AI를 업무 도구로 배포하는 것만으로 생산성 향상이 보장되지는 않는다고 지적한다. 지난 5월 arXiv에 공개된 조원익·김성훈·김근혜의 포지션 페이퍼 ‘Adopting AI in Practice Does Not Guarantee the Productivity Boost’는 AI 도입이 곧바로 생산성 향상으로 이어지는 것은 아니라고 지적했다. 논문은 인력 구성, 구성원의 기초 역량, 학습곡선, 인센티브 구조, 목표 설정의 유연성 등이 AI 생산성 효과를 좌우한다고 분석했다. 한 경영학 교수는 “AI는 단순히 업무 시간을 줄이는 기술이 아니라 의사결정 방식을 바꾸는 기술”이라며 “기업이 AI를 제대로 쓰려면 어떤 업무를 AI에 맡기고 어떤 판단은 사람이 책임질지 조직 원칙을 세워야 한다”고 말했다. 중간관리자의 역할 변화도 불가피하다. 지금까지 중간관리자는 자료를 취합하고 보고서를 다듬고 리스크를 걸러내는 역할을 해왔다. 그러나 생성형 AI가 정보 수집과 문서 작성의 상당 부분을 보조하면서 중간관리자의 경쟁력은 보고서 작성 능력이 아니라 문제 정의, 결과 검증, 부서 간 조정 능력으로 이동하고 있다. AI 전환은 청년 채용과 인재 육성 방식에도 영향을 미친다. 반복적 사무 업무와 초급 분석 업무가 AI로 대체되면 신입사원이 조직에서 배우는 첫 단계가 줄어들 수 있다. 한 대기업 인사 담당자는 “AI 도입 이후 신입사원에게 맡길 수 있는 단순 업무는 줄어드는 반면, 처음부터 문제 해결형 역량을 요구하는 분위기가 강해지고 있다”며 “채용 규모를 줄이는 유혹이 생기지만 장기적으로는 인재 풀이 약해질 수 있어 재교육 체계를 함께 고민하고 있다”고 말했다. AI 거버넌스도 기업 경쟁력 됐다 AI 활용이 확대될수록 기업의 책임도 커진다. 한국은 AI 기본법 시행을 앞두고 있으며, 고영향 AI에 대한 인간 감독과 투명성 확보가 주요 쟁점으로 떠올랐다. 특히 금융, 보험, 의료, 채용, 교육처럼 개인의 권리와 직접 연결되는 분야에서는 AI가 어떤 데이터를 사용했고, 어떤 기준으로 판단했으며, 오류가 발생했을 때 누가 책임질지가 중요해진다. 금융권 한 관계자는 “AI 상담이나 대출심사는 소비자 편의성을 높일 수 있지만 설명 책임이 약하면 민원과 분쟁으로 이어질 수 있다”며 “AI를 많이 쓰는 회사보다 AI 판단을 얼마나 투명하게 관리하는지가 앞으로 더 중요한 평판 요소가 될 것”이라고 말했다. 산업계에서는 AI 활용이 실제 경쟁력으로 이어지려면 조직 운영 방식의 변화가 병행돼야 한다는 지적이 나온다. 과거 대기업의 성장 방식은 계열사 내부에서 원료 조달, 부품 생산, 완제품 제조, 금융 지원을 묶는 수직계열화가 중심이었다. 그러나 AI 분야에서는 데이터, 클라우드, 알고리즘, 소프트웨어 인재가 기업 안팎에 분산돼 있어 외부 스타트업과 대학, 협력사와의 공동 개발과 실험이 중요해지고 있다. 전문가들은 AI 경쟁력이 투자 규모만으로 결정되지는 않는다고 본다. 반도체 설비 확충과 데이터센터 구축은 AI 전환의 기반에 해당하지만 이후에는 내부 인재 재교육, 중간관리자 역할 재정립, AI 활용 책임 체계, 외부 생태계와의 협업 구조가 함께 작동해야 한다는 설명이다. 한 재계 관계자는 “한국 대기업의 AI 경쟁력은 대규모 투자 이후의 실행 구조에서 갈릴 가능성이 크다”며 “총수의 투자 결정을 현장의 실험과 조직 학습으로 연결하고, 계열사 중심의 폐쇄형 운영을 개방형 협력 모델로 전환할 수 있는지가 향후 AI 전환의 핵심 변수로 꼽힌다”고 말했다.2026-07-09 16:51:36
-
질문은 한 줄인데 청구서는 백 줄…기업 AI 비용, 토큰 관리가 새 과제 [경제일보] 생성형 인공지능(AI) 도입이 확산되면서 기업들의 새로운 고민으로 '토큰 비용 관리'가 떠오르고 있다. AI 활용이 늘어날수록 생산성은 높아지지만 예상보다 빠르게 증가하는 운영 비용이 부담으로 작용하고 있기 때문이다. . 17일 업계에 따르면 국내 일부 IT 기업과 AI 도입 기업들은 최근 생성형 AI 운영 과정에서 토큰 비용 최적화 방안을 검토하고 있는 것으로 알려졌다. AI 서비스 사용자가 늘어난 영향도 있지만, 단순 이용량 증가보다 AI 서비스 구조 자체가 비용 상승을 유발하고 있는 것으로 분석된다. 토큰은 대규모 언어 모델(LLM)이 텍스트를 처리하는 기본 단위다. 기업들은 일반적으로 AI 사용량에 따라 토큰 비용을 지불한다. 문제는 직원이 입력하는 질문은 짧지만 AI가 답변을 생성하기 위해 처리하는 정보량은 훨씬 많다는 것이다. 특히 RAG 기반 AI 서비스가 토큰 사용량을 급증시키는 것으로 알려졌다. RAG는 사용자의 질문에 답하기 위해 사내 문서와 데이터베이스를 검색한 뒤 관련 정보를 함께 분석하는 기술이다. 최근 기업들은 사내 위키와 규정집, 회의록, 기술 문서, 고객 응대 매뉴얼 등을 AI와 연동해 업무 지원 서비스를 구축하고 있다. 예를 들어 직원이 "출장비 정산 기준을 알려달라"고 한 줄짜리 질문을 입력하더라도 AI는 관련 인사 규정과 회계 규정, 출장 규정, 과거 질의응답 자료 등을 함께 검색해 읽은 뒤 답변을 생성한다. 이 과정에서 실제 입력 토큰 규모는 사용자 질문보다 수십 배에서 많게는 수백 배까지 증가할 수 있다. 장문 컨텍스트 활용 역시 비용 증가의 원인으로 꼽힌다. 최근 AI 서비스는 긴 대화 흐름을 유지하기 위해 과거 대화 기록을 함께 읽는 방식을 활용한다. 사용자가 대화를 이어갈수록 AI는 이전 질문과 답변을 지속적으로 참조하게 되고, 입력 토큰도 누적된다. 업계에서는 기업들이 체감하는 AI 비용 증가의 상당 부분이 이 같은 구조에서 발생하고 있다고 분석한다. RAG 검색 과정에서 불러오는 문서와 누적된 컨텍스트가 비용의 대부분을 차지하는 경우가 적지 않은 것이다. 이에 기업들도 비용 최적화에 나서고 있다. 고성능 모델을 모든 업무에 적용하기보다 경량 모델과 병행 운영하거나, 검색 범위를 축소하는 방식으로 토큰 사용량을 줄이고 있다. 또한 불필요한 대화 기록을 압축하거나 프롬프트를 최적화하는 등 다양한 비용 절감 기법도 도입하고 있다. 일부 기업은 단순 문의나 반복 업무에는 소형 모델을 활용하고 복잡한 분석 업무에만 고성능 모델을 사용하는 방식으로 운영 체계를 개편하고 있다. AI 성능 경쟁 못지않게 운영 효율성이 중요해지면서 비용 최적화 기술이 새로운 경쟁력으로 부상하고 있는 것이다. IT 업계 관계자는 "AI 사용에 따른 토큰 소비 방식이 변해 최근 기업들이 기존보다 AI 사용에 제한을 두고 있다"며 "국내 기업들이 비용 부담을 줄이기 위해 사용 정책을 재정비하는 움직임이 나타나고 있다"고 말했다.2026-06-17 18:00:05
-
AI로 비용 줄이고 계약 늘렸다…티오더, AI 기반 운영 혁신으로 흑자 전환 [경제일보] 테이블오더 전문 기업 티오더가 인공지능(AI) 기반 운영 효율화를 앞세워 흑자 전환 기반 마련에 성공했다. 외식업 침체와 자영업 경기 둔화 속에서도 AI를 활용한 비용 절감과 운영 자동화 효과가 실제 수익성 개선으로 이어지면서 AI 전환(AX)이 기업 실적 개선의 핵심 변수로 떠오르고 있는 것으로 분석된다. 27일 티오더는 지난 4월 기준 월간 영업이익 4억2000만원을 기록하며 손익분기점(BEP)을 달성했다고 밝혔다. 이는 지난해 일회성 비용 등을 포함해 연간 당기순손실 250억원을 기록했던 것과 대비되는 결과로 전반적인 수익 구조가 개선되고 있는 것으로 풀이된다. 티오더의 지난 4월 매출은 전년 동월 대비 약 10% 증가한 것으로 집계됐다. 티오더는 외식업 경기 침체와 소비 둔화가 이어지는 상황에서도 신규 계약 증가와 운영 효율화가 동시에 이뤄지며 외형 성장과 수익성 개선을 함께 달성했다고 설명했다. 이번 티오더의 실적 개선 핵심 요인으로는 AI 기반 사업 전환 전략이 꼽힌다. 단순 테이블오더 솔루션 공급 기업에서 벗어나 AI 기반 외식업 운영 플랫폼으로 사업 구조를 확대하면서 비용 효율화와 신규 고객 유입 효과가 동시에 나타난 것이다. 실제 티오더는 지난 3월 말 소상공인 대상 AI 서비스 '티오더AI'를 베타 출시했다. 해당 서비스는 카카오톡 기반으로 작동하는 AI 운영 솔루션으로 매장 운영과 관리 업무를 자동화해 점주의 업무 부담을 줄이는 데 초점을 맞췄다. 특히 외식업계에서는 인건비 상승과 운영 효율화 수요가 커지면서 AI 기반 자동화 솔루션 도입이 빠르게 확대되고 있다. 주문 관리와 고객 응대, 재고 관리, 매출 분석 등 반복 업무를 AI가 지원하는 형태가 확산되는 가운데 티오더는 오프라인 매장 데이터와 AI 기술을 결합한 서비스를 고도화하고 있다. 티오더는 AI 서비스 출시 이후 실제 신규 고객 유치 효과도 나타나고 있다고 설명했다. 올해 4월 신규 계약 건수는 전년 동기 대비 13% 이상 증가하는 것으로 집계되며 단순 주문용 태블릿을 넘어 매장 운영 전반을 지원하는 AI 솔루션 수요가 확대된 것으로 풀이된다. 최근 국내 IT 업계에서는 AI 기술이 단순 기술 시연 단계를 넘어 실제 기업 수익성을 개선하는 사례가 늘어나고 있다. 특히 SaaS(서비스형 소프트웨어)와 플랫폼 기업들은 AI 기반 운영 자동화와 데이터 분석 기능을 통해 비용 구조를 개선하고 신규 고객 확보 경쟁력을 높이고 있다. 티오더 역시 AI를 기반으로 외식업 디지털 전환 시장 공략을 확대할 계획이다. 외식업 매장 운영 데이터를 활용한 맞춤형 AI 서비스와 자동화 기능을 지속 강화하며 플랫폼 경쟁력을 높인다는 전략이다. 권성택 티오더 대표는 "이번 월간 손익분기점 달성을 시작으로 올해 연간 흑자 전환이 가시화되고 있다"며 "외형 성장과 함께 내실 다지기에도 성공한 만큼 앞으로도 직관적인 사용자 경험과 데이터·AI 역량을 바탕으로 서비스 경쟁력을 높이고, 외식업계 AI 전환을 이끌어 나가겠다"고 말했다.2026-05-27 08:24:17
-
![[컨콜] AI로 비용 줄이고 수익 키운다…LG유플러스, AX 중심 체질개선 가속](https://image.ajunews.com//content/image/2026/05/07/20260507154018810362.jpg)
"AI로 비용 줄이고 수익 키운다"…LG유플러스, AX 중심 체질개선 가속 [경제일보] LG유플러스가 인공지능 전환(AX)을 기반으로 한 비용 효율화와 AI 데이터센터(AI DC) 사업 확대를 통해 수익성 중심 성장 전략에 속도를 내고 있다. 단순 통신 서비스 경쟁을 넘어 AI 기반 운영 자동화와 인프라 사업을 새로운 성장 축으로 삼으며 체질 개선에 나서는 것으로 분석된다. 7일 LG유플러스는 컨퍼런스콜에서 AX 기반 운영 효율화와 AI DC 사업 확대를 중심으로 중장기 수익성 개선 전략을 본격 추진하겠다고 밝혔다. 여명희 LG유플러스 최고재무책임자(CFO)는 "LG유플러스는 2분기에도 ROI 기반의 질적 성장과 현금 흐름 개선에 집중할 계획"이라며 "특히 통신 본업의 수익성 강화를 핵심 과제로 삼고 AX 사업의 경쟁력을 체계적으로 확보함으로써 중장기 성장 모멘텀을 확대해 나가겠다"고 강조했다. LG유플러스는 올해 AI를 단순 신규 서비스 영역이 아닌 전사 운영 효율화를 위한 핵심 수단으로 활용하겠다는 전략이다. 고객센터와 온·오프라인 매장, 네트워크 운영, 공통 업무 영역까지 AX 기반 자동화를 확대 적용해 비용 구조 자체를 혁신하겠다는 구상이다. 여 CFO는 "고객센터와 온라인 오프라인 매장 등의 고객 접점 영역에서의 AX를 최우선적으로 적용해 고객 경험의 질을 높임과 동시에 운영의 효율을 극대화하겠다"며 "나아가서 네트워크 인프라 운영과 전사 공통 업무 영역에서까지 Ax 기반의 자동화를 확대 도입함으로써 운용 구조 전반을 최적화해 중장기적인 수익성 개선과 주주 가치 제고로 이어질 수 있도록 하겠다"고 말했다. LG유플러스는 올해 1분기 AIDC 중심 기업 인프라 사업 성장과 비용 효율화 효과를 기반으로 영업이익률 9%를 기록했다고 설명했다. AIDC 사업 성장세가 본격화되며 AI 인프라 사업이 실적 개선을 견인한 것으로 평가된다. 여 CFO는 "AI DC 중심의 기업 인프라 사업 호조로 인해서 가이던스를 상회하는 성장을 이루었으며 구조적 체질 개선을 통해서 고정비 절감 효과도 나타났고 AX 중심의 운영 효율화를 추진하면서 비용 관리 측면에서도 의미 있는 성과를 거두었다"며 "1분기 성장 매출 성장이 실질적 이익으로 개선되어 이어지며 영업이익률이 영업이익률 9% 달성했고 남은 분기에도 수익성 개선 흐름을 공고히 유지할 계획"이라고 평가했다. LG유플러스는 특히 AI 인프라 사업을 미래 핵심 성장동력으로 육성하고 있다. GPU 기반 AI 데이터센터 수요 확대에 맞춰 파주 AIDC 구축을 진행 중이며 단순 코로케이션 사업을 넘어 설계·구축·운영(DBO) 사업까지 영역을 확대하고 있다. 케빈 조 LG유플러스 최고전략책임자(CSO)는 "B2B 영역에서는 기업들의 AI 전환 수요를 실질적인 수요 창출 기회로 연결하는 데 주력하고 있다"며 "특히 AI DC 사업의 경우에 LG그룹의 역량과 시너지를 절집해 글로벌 최고 수준의 인프라를 갖춘 파주 AI DC를 구축 중에 있다"고 말했다. 이어 "이에 더해 당사가 보유한 전문성을 활용해 dbo 사업으로 영역을 확장함으로써 신성장 동력을 확보했다"며 "탄탄한 AI 인프라 경쟁력을 바탕으로 AI DC 사업을 혁신해 나가겠다"고 강조했다. 또한 LG유플러스는 GPU 기반 AI 데이터센터 수요 확대 흐름도 전망했다. 최근 AI 워크로드가 확대되고 있고 이에 GPU 전용 데이터센터 수요가 지속적으로 증가하고 있으며 관련 수요도 증가하고 있는 것으로 나타났다. 안영균 엔터프라이즈 AI 사업 그룹장 "코로케이션 매출은 기존 고객 사용량 증가와 코람코 가산 센터 전산실 개통이 본격화되면서 연내 매출 성장이 이어질 것으로 예상된다"며 "DBO 사업 역시 운영 매출을 기반으로 신규 프로젝트 매출이 더해지면서 성장할 것으로 보고 있다"고 말했다. LG유플러스는 AI 인프라 사업 확대와 함께 주주환원 정책도 지속 강화한다는 계획이다. 최근 이사회 결의를 통해 자사주 1.26% 소각을 결정했으며 추가적인 자사주 매입도 검토 중인 것으로 알려졌다.2026-05-07 15:58:11
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 수출은 늘고 고용효과는 줄었다…성장의 성적표를 바꿀 때](https://image.ajunews.com/content/image/2026/09/22/20260922105321537993_518_323.png)