검색결과 총 3건
-
바운드포, AI API 비용 폭증 막는다…'파레토'로 토큰 지출 사전 통제
[경제일보] 생성형 인공지능(AI)과 AI 에이전트 도입이 확산하면서 기업들의 관심이 'AI를 얼마나 많이 활용하느냐'에서 'AI를 얼마나 효율적으로 활용하느냐'로 옮겨가고 있다. 이에 데이터 파운드리 기업 바운드포가 AI 토큰 비용을 사전에 통제하는 서비스를 선보이며 기업용 AI 비용 관리 시장 공략에 나섰다. 단순히 사용량과 비용을 보여주는 기존 모니터링 방식에서 나아가 예산을 초과할 것으로 예상되는 AI API 호출을 실행 단계에서 차단하는 방식이다. 12일 바운드포는 자사 AI 데이터 운영 플랫폼 '드로파이'에 AI 토큰 지출 관리 서비스 '파레토'를 새롭게 추가했다고 밝혔다. 최근 기업들은 하나의 AI 모델만 사용하는 것이 아니라 업무 성격에 따라 여러 생성형 AI 모델과 API를 동시에 활용하고 있다. 고성능 모델을 적극적으로 활용해 AI 사용량 자체를 늘리는 이른바 '토큰맥싱'이 확산하는 등 AI 활용 확대가 기업 경쟁력으로 여겨지고 있지만, 사용량이 늘어날수록 비용 부담 역시 커지는 구조다. 특히 AI 에이전트가 확산하면서 토큰 비용의 성격도 달라지고 있다. 사람이 직접 AI를 사용하는 경우에는 사용 시간이나 빈도에 일정한 한계가 있지만, AI 에이전트는 업무가 완료될 때까지 API를 자동으로 호출할 수 있다. 로봇이나 각종 디바이스에 AI가 탑재되면 24시간 작동하면서 지속적으로 모델을 호출하는 환경도 가능하다. 이 과정에서 오류가 발생해 같은 요청을 반복하거나, 단순한 작업에 고성능 모델을 계속 사용하는 경우 예상하지 못한 비용이 누적될 수 있다. AI 사용량을 늘리는 것 자체가 목표였던 단계에서 벗어나 기업이 AI 비용의 발생 구조까지 관리해야 하는 단계로 넘어가고 있는 것이다. 기존 기업용 비용 관리 방식만으로는 해당 변화에 대응하기 어렵다는 지적도 나온다. 일반적으로 기업은 월말 청구서나 사용량 데이터를 통해 어느 서비스에서 비용이 발생했는지를 확인한다. 다만 AI API는 호출량과 토큰 사용량에 따라 비용이 실시간으로 증가하기 때문에 사후에 비용을 확인하는 것만으로는 이미 발생한 지출을 되돌리기 어려운 것으로 평가된다. 바운드포는 파레토를 내놓은 것도 해당 문제를 겨냥했다. 바운드포는 파레토가 관리자가 설정한 예산 한도와 정책을 AI API 호출 과정에 적용해 일정 수준을 넘어서는 요청을 실행 전에 차단할 수 있도록 설계됐다고 설명했다. 사용 이후 비용을 분석하는 '사후 관측'보다 비용이 발생하기 전에 통제하는 '사전 통제'에 초점을 맞춘 것이 특징이다. 기업은 팀이나 프로젝트별로 AI 사용 예산을 설정할 수 있으며 현재 사용량과 예상 지출을 확인할 수 있도록 구성됐다. AI 에이전트가 자동으로 API를 호출하는 환경에서도 정해진 예산 범위 안에서 서비스를 운영할 수 있도록 하는 방식이다. 비용이 발생하는 패턴을 분석해 불필요한 지출을 찾아내는 기능도 제공한다. 실패한 API 요청이 반복되면서 비용이 누적되는 재시도, 사실상 동일한 요청을 반복 처리하는 중복 호출, 상대적으로 단순한 작업에 고성능 모델을 사용하는 과사양 모델 사용 등을 분석해 절감 가능성이 있는 영역을 리포트로 제공한다. 기업 입장에서는 어떤 모델을 얼마나 사용했는지를 확인하는 것뿐 아니라 어떤 업무에 어떤 모델을 사용했는지, 불필요한 호출이 발생하고 있는지, 설정한 예산을 넘어설 가능성이 있는지까지 관리해야 하기 때문에 AI 에이전트가 업무 자동화의 중심으로 자리 잡을수록 비용 통제의 중요성은 더욱 커질 전망이다. AI 에이전트가 여러 단계의 업무를 수행하는 과정에서 하나의 요청에 그치지 않고 여러 모델과 API를 연속적으로 호출할 수 있기 때문이다. 피지컬 AI 확산도 변수다. 로봇이나 자율 시스템 등이 AI 모델을 활용해 주변 상황을 판단하고 행동하는 환경에서는 서비스가 작동하는 동안 지속적인 AI 추론과 API 호출이 발생할 수 있다. AI가 소프트웨어 안에서만 사용되는 것이 아니라 현실 세계의 기기와 연결될수록 토큰 비용이 기업의 운영비와 직접 연결될 가능성도 커지고 있다. AI 시장의 경쟁 기준이 변하고 있다. 기존에는 더 뛰어난 성능의 모델을 확보하거나 이를 다양한 업무에 빠르게 적용하는 것이 기업의 AI 경쟁력으로 평가됐다면, 앞으로는 동일한 업무를 얼마나 적은 비용으로 처리할 수 있는지까지 중요한 요소가 될 전망이다. 바운드포는 파레토를 자사 AI 데이터 운영 플랫폼인 드로파이에 결합하면서 데이터 관리와 AI 비용 통제를 하나의 플랫폼에서 제공하는 방향으로 사업을 확대한다는 구상이다. AI 활용 과정에서 발생하는 데이터를 관리하는 동시에 해당 데이터를 바탕으로 AI 사용 패턴과 비용 구조를 분석해 운영 효율까지 높이겠다는 것이다. 황인호 바운드포 대표는 "로봇과 디바이스가 24시간 AI를 호출하는 환경에서는 비용을 사후에 분석하는 방식만으로는 한계가 있었고, 파레토는 피지컬 AI 현장에서 바운드포가 직접 겪은 문제를 해결하는 과정에서 탄생한 서비스"라며 "앞으로도 현장에서 검증한 운영 경험을 서비스로 고도화해 AI 데이터 관리부터 비용 통제까지 기업의 AI 운영 전반을 지원해 나가겠다"고 말했다.
2026-08-12 11:05:01
-
-
오픈AI·삼성 협력, 반도체서 업무 AX로 확대…챗GPT 전사 도입
[경제일보] 오픈AI와 삼성전자의 협력이 AI 인프라에서 임직원 업무 혁신으로 확대된다. 삼성전자가 국내 전 임직원과 디바이스경험(DX)부문 전 세계 임직원에게 챗GPT 엔터프라이즈와 코덱스를 제공하기로 하면서 양사의 협력 범위가 반도체 공급을 넘어 전사적 인공지능 전환(AX)으로 넓어지고 있다. 오픈AI는 22일 삼성전자가 임직원의 업무 혁신과 전사적 AI 전환을 위해 챗GPT 엔터프라이즈와 코덱스를 도입한다고 밝혔다. 적용 대상은 삼성전자 국내 전 임직원과 DX부문 글로벌 임직원이다. 오픈AI는 이번 도입을 자사 엔터프라이즈 계약 가운데 최대 규모 사례 중 하나라고 설명했다. 이번 발표는 양사의 기존 협력의 연장선에 있다. 삼성은 지난해 오픈AI와 글로벌 AI 인프라 협력 방안을 발표한 바 있다. 당시 삼성전자는 오픈AI의 차세대 AI 인프라 구축에 필요한 고성능 메모리 반도체 공급 협력을 맡았고 삼성SDS는 AI 데이터센터 개발·운영과 국내 기업 대상 오픈AI 서비스 도입 지원 역할을 제시했다. 삼성물산과 삼성중공업도 차세대 데이터센터 인프라 협력 가능성을 검토했다. 이번 챗GPT 엔터프라이즈 도입은 그 협력이 삼성전자 내부의 일하는 방식으로 확장됐다는 점에서 의미가 있다. 양사가 AI 인프라를 함께 논의하던 단계에서 이제는 삼성전자 임직원의 업무 생산성과 조직 운영 방식까지 오픈AI 기술을 활용하는 단계로 넘어간 것이다. 삼성전자는 챗GPT와 코덱스를 소프트웨어 개발, 마케팅, 제품 개발, 제조, 경영지원 등 업무 전반에 활용할 계획이다. 챗GPT 엔터프라이즈는 정보 탐색과 분석, 문서 작성, 아이디어 구체화, 데이터 해석 등 지식 기반 업무를 지원한다. 기업용 서비스인 만큼 데이터 보호, 접근 권한 관리, 보안 통제 등 대규모 조직에 필요한 관리 기능도 제공한다. 코덱스는 개발자 생산성을 높이는 도구에서 일반 업무 플랫폼으로 활용 범위가 넓어지고 있다. 코드 작성과 리뷰, 디버깅뿐 아니라 비개발 직군이 아이디어를 내부 도구나 자동화 프로세스로 구현하는 데도 쓰일 수 있다. 오픈AI에 따르면 코덱스는 매주 500만명 이상이 기술·비기술 업무에 사용하고 있으며 한국 내 주간 활성 이용자는 올해 2월 1일 이후 800% 가까이 증가했다. 김경훈 오픈AI코리아 총괄대표는 “삼성전자가 AI를 일부 조직이 아닌 전 세계 임직원의 업무 방식과 혁신 역량을 높이는 핵심 플랫폼으로 활용한다는 점에서 의미가 크다”며 “삼성전자 임직원들이 챗GPT와 코덱스로 아이디어를 더 빠르게 실행하고 복잡한 문제를 해결할 수 있도록 협력하겠다”고 말했다. 오픈AI 서비스의 국내 확산은 삼성전자에 그치지 않는다. 서울대는 교수, 학생, 직원 등 전 구성원에게 챗GPT 에듀를 제공하고 있다. 카카오는 카카오톡 채팅방에서 챗GPT를 호출해 실시간 답변과 이미지 생성을 이용할 수 있는 기능을 도입했다. 오픈AI는 LG전자, LG유플러스, LG CNS, GS건설, 삼성SDS, 티빙, 크래프톤, 토스, 무신사 등도 챗GPT 엔터프라이즈와 오픈AI API, 코덱스를 활용하고 있다고 밝혔다. 이 흐름은 국내 AI 도입의 초점이 개인 생산성 도구에서 조직 단위 AX로 옮겨가고 있음을 보여준다. 초기에는 직원 개인이 챗봇으로 문서를 쓰거나 자료를 찾는 수준이었다면 이제는 기업이 보안과 권한 관리, 내부 시스템 연동, 업무 프로세스 재설계까지 포함해 AI를 공식 업무 플랫폼으로 들여오는 단계다. 삼성전자의 이번 도입은 상징성이 크다. 삼성은 오픈AI의 AI 인프라 수요를 뒷받침하는 메모리 공급 파트너이면서 동시에 오픈AI 도구를 사내 업무 혁신에 적용하는 대형 고객이 됐다. 공급자이자 사용자로서 AI 생태계 양쪽에 서게 된 셈이다. AI 경쟁은 모델 성능만의 싸움이 아니다. 누가 AI를 조직 안에 안전하게 넣고 실제 업무 성과로 연결하느냐가 중요해지고 있다. 삼성전자의 챗GPT 엔터프라이즈 도입은 국내 대기업의 AX가 실험 단계를 지나 전사 적용 단계로 들어섰다는 신호다. 성패는 도입 규모가 아니라 챗GPT와 코덱스가 제조, 개발, 마케팅, 제품 기획의 속도와 품질을 실제로 얼마나 바꾸느냐에서 갈릴 것이다.
2026-06-22 10:50:09