검색결과 총 4건
-
"증권사 AI 경쟁, 인프라가 좌우"…카카오엔터프라이즈 GPUaaS 제시
[경제일보] 증권사들의 인공지능(AI) 활용 범위가 투자분석과 리스크 관리 등 핵심 업무로 확대되면서 이를 뒷받침할 AI 인프라 확보가 새로운 과제로 떠오르고 있다. 대규모 AI 모델을 운영하기 위한 그래픽처리장치(GPU) 확보부터 데이터센터와 전력, 보안까지 고려해야 할 요소가 늘어나면서 금융권에서도 클라우드와 자체 인프라를 결합한 하이브리드 방식이 주목받고 있다. 금융 데이터의 특성상 망분리와 내부통제 등 높은 보안 요건까지 충족해야 하는 만큼 증권사의 AI 전환 경쟁이 인프라 경쟁으로 이어지는 것으로 분석된다. 27일 카카오엔터프라이즈는 서울 여의도 인근에서 메리츠증권, 미래에셋증권, 신영증권, 한국투자증권, LS증권 등 주요 증권사 IT·인프라 담당자를 대상으로 '증권형 AI 인프라의 미래'를 주제로 세미나를 개최하고 금융권 AI 인프라 구축 전략을 공유했다고 밝혔다. 최근 증권사들은 AI를 고객 상담이나 검색 등 고객 접점 서비스에 적용하는 데서 나아가 데이터 분석, 리스크 관리, 투자전략 수립, 내부 업무 자동화 등으로 활용 범위를 넓히고 있다. AI 모델이 처리해야 할 데이터와 업무가 늘면서 이를 안정적으로 구동할 수 있는 GPU 인프라를 확보하는 것이 AI 전환의 핵심 과제로 부상하고 있다. 특히 AI 인프라는 단순히 GPU를 확보하는 것만으로 구축이 끝나지 않는다. 고성능 GPU를 운영하기 위한 데이터센터와 전력, 네트워크, 저장장치, 관리 시스템 등이 함께 필요해 구축의 난이도가 높다는 평가다. 기업이 GPU를 직접 구매해 자체 인프라를 구축할 경우 초기 투자 부담이 크고 향후 AI 수요 변화에 따라 자원을 유연하게 조정하기 어렵다는 점도 부담이다. 특히 금융권은 일반 기업보다 AI 인프라 구축 과정에서 고려해야 할 보안 요건이 많다. 증권사가 보유한 고객 정보와 금융 데이터가 민감한 만큼 외부 환경에서 AI를 운영할 경우 데이터 보안과 접근 통제, 내부 통제 등이 필수적으로 요구된다. 망 분리 등 금융권 특유의 규제 환경도 AI 인프라 확대를 어렵게 만드는 요소로 꼽힌다. 이 때문에 금융권에서는 자체 인프라와 클라우드의 장점을 결합하는 하이브리드 방식이 하나의 대안으로 거론되고 있다. 민감한 데이터를 내부 환경에서 관리하면서 필요에 따라 클라우드의 GPU 자원을 활용할 수 있어 초기 구축 부담과 확장성 문제를 동시에 해결할 수 있는 것으로 주목되고 있다. 이날 세미나에서 카카오엔터프라이즈는 카카오클라우드의 하이브리드 GPUaaS가 고사양 GPU 구매부터 데이터센터와 전력, 자원 통합 관리, 확장 등에 필요한 AI 인프라를 카카오클라우드 플랫폼을 통해 제공하는 방식이라고 설명했다. 기업이 AI 인프라를 처음부터 직접 구축하는 대신 필요한 GPU 자원을 확보하고 관리할 수 있도록 지원하는 것이 핵심이다. 특히 카카오엔터프라이즈는 AI 인프라 구축 과정에서 발생하는 비용과 구축 기간, 유연성 및 확장성, 보안, 운영·관리 역량 등을 주요 고려사항으로 제시했다. 또한 금융기관이 클라우드 기반 AI 인프라를 활용하기 위해 필요한 망 분리와 데이터 보안, 내부 통제 기능 등을 강조했다. 카카오클라우드는 금융권의 클라우드 이용을 위한 보안 요건을 충족하기 위해 금융보안원이 매년 진행하는 클라우드 서비스 제공업체(CSP) 안전성 평가를 받고 있다. 금융권에서는 AI 모델의 성능뿐 아니라 AI가 처리하는 금융 데이터의 보안과 관리 체계까지 함께 확보해야 하는 만큼 인프라 사업자들의 금융 특화 경쟁도 중요해질 것으로 분석된다. 앞으로 금융권 AI 시장에서는 AI 모델과 서비스뿐 아니라 이를 뒷받침하는 인프라를 둘러싼 경쟁도 본격화할 것으로 전망된다. 특히 금융 데이터의 보안성을 유지하면서 급변하는 AI 수요에 대응할 수 있는 인프라를 어떻게 구축하느냐가 증권사의 AI 전환 속도를 결정하는 주요 변수로 나타나고 있다. 이재한 카카오엔터프라이즈 대표는 "최근 증권업계는 고객 접점에서의 AI 활용을 넘어 전사 차원에서 업무 전반에 AI를 적용하는 AI 전환(AX) 방안을 심도 있게 고민하고 있다"며 "카카오엔터프라이즈는 기업 및 기관이 실제 비즈니스 성과로 이어지는 AX 경쟁력을 확보할 수 있도록 AI 인프라의 근본적인 혁신을 적극 지원할 것"이라고 말했다.
2026-08-27 16:20:26
-
"AI의 무대가 바뀐다"…데이터센터서 단말·공장으로 옮겨가는 AI
[경제일보] 생성형 인공지능(AI) 확산으로 대규모 연산을 데이터센터에서 처리하는 방식이 주류로 자리 잡은 가운데 AI를 단말과 산업 현장에 직접 배치하는 '온디바이스 AI'와 '엣지 AI'가 새로운 경쟁 영역으로 부상하고 있다. 영상 분석과 로봇, 자동차, 스마트팩토리 등 실시간 대응과 데이터 보안이 중요한 분야에서는 모든 데이터를 중앙 데이터센터로 전송하는 방식에 한계가 있기 때문이다. 국내 기업들도 AI 반도체와 경량화된 AI 모델을 결합해 현장에서 AI를 구동하는 사업에 속도를 내고 있다. 19일 업계에 따르면 최근 AI 산업의 경쟁 구도가 대규모 데이터센터와 GPU 확보에서 AI 연산을 실제 서비스가 발생하는 현장으로 분산하는 방향으로 확대되고 있다. 생성형 AI 서비스가 고도화하면서 데이터센터의 대규모 GPU 연산 능력이 중요해졌지만, 모든 데이터를 클라우드나 데이터센터로 보내 처리할 경우 네트워크 지연과 데이터 전송 비용, 보안 등의 문제가 발생할 수 있기 때문이다. 특히 카메라와 센서를 통해 주변 환경을 실시간으로 인식해야 하는 로봇과 자동차, 산업 현장에서는 AI 연산을 가까운 곳에서 처리하는 것이 중요하다. 이에 AI 모델과 연산 장치를 단말이나 현장에 배치하는 온디바이스 AI와 엣지 AI가 주목받고 있다. 온디바이스 AI는 스마트폰이나 로봇, 자동차 등 기기 자체에서 AI 연산을 수행하는 방식이며, 엣지 AI는 데이터가 발생하는 현장과 가까운 서버나 장비에서 AI 연산을 처리하는 개념이다. 두 방식 모두 중앙 데이터센터에 대한 의존도를 낮추고 민감한 데이터를 외부로 전송하지 않으면서 실시간으로 AI를 구동할 수 있는 것으로 평가된다. 이에 AI 반도체 경쟁도 단순히 GPU와 NPU 가운데 어느 쪽이 우위에 있느냐를 넘어 사용처에 맞는 연산 구조를 확보하는 방향으로 바뀌고 있다. 대규모 AI 모델 학습에는 GPU가 활용되고, 현장에서 반복적으로 수행되는 추론 작업은 전력 효율과 지연 시간 등을 고려해 NPU를 활용하는 방식이다. KT는 국산 AI 반도체와 자체 대규모 언어 모델(LLM)을 결합한 기업용 AI 어플라이언스를 출시하며 이 같은 시장 변화에 대응하고 있다. KT가 선보인 'KT NPU LLM 스테이션'은 국내 AI 반도체 기업 리벨리온의 추론 특화 신경망 처리 장치(NPU) 'ATOM-MAX'와 KT의 독자 LLM '믿음 K 2.5 Pro', 운영 API 플랫폼을 하나의 서버에 통합한 완제품형 장치다. 기업 내부에 장비를 설치해 데이터와 AI 연산을 사내에서 처리할 수 있도록 한 것이 특징이다. 망 분리 등 보안 규제가 적용되는 공공·국방·제약·제조·금융 분야에서 외부 클라우드 기반 생성형 AI를 활용하기 어려운 기업을 겨냥한 것으로 풀이된다. KT는 향후 이를 피지컬 AI를 위한 엣지 데이터 센터로 확대해 저전력·저지연 AI 인프라로 활용한다는 계획이다. 제조 현장에서도 AI 연산을 현장 가까이에서 처리하려는 움직임이 나타나고 있다. 포스코DX는 국산 AI 반도체를 활용해 산업 현장에서 발생하는 비정형 데이터를 분석하는 플랫폼 개발에 나섰다. 공장 내 카메라와 센서 등에서 발생하는 데이터를 현장에서 AI로 분석해 설비와 작업 환경을 실시간으로 판단하는 방식으로, 제조 현장의 AI 적용 범위를 확대하려는 시도다. 특히 제조업에서는 생산 과정에서 발생하는 영상·센서 데이터의 양이 많고 외부 전송이 제한되는 경우도 있어 모든 데이터를 중앙 서버로 보내 분석하는 데 비용과 시간이 발생한다. 포스코DX는 현장에서 AI 추론을 수행하면 필요한 데이터만 선별해 처리할 수 있어 실시간성이 중요한 품질 검사와 이상 징후 탐지 등에서 활용도가 높아질 것으로 전망하고 있다. AI가 실제 공간에서 움직이는 피지컬 AI 시장이 커질수록 이러한 엣지 AI 수요도 확대될 전망이다. 로봇과 드론, 자율주행차 등이 주변 환경을 실시간으로 인식하고 판단하려면 카메라와 각종 센서에서 발생하는 데이터를 빠르게 처리해야 한다. 자동차 역시 운전자 상태 분석이나 주행 환경 판단 등 일부 AI 연산을 차량 내부에서 처리하는 구조가 확대될 것으로 분석된다. 이 과정에서 AI 반도체 성능뿐 아니라 AI 모델 최적화와 소프트웨어 생태계 구축도 중요해지고 있다. 같은 NPU를 사용하더라도 AI 모델을 하드웨어 특성에 맞게 최적화하지 못하면 기대한 성능과 전력 효율을 확보하기 어렵기 때문이다. 온디바이스 AI 시장의 경쟁은 'GPU 대 NPU'의 단순한 대결보다는 AI 연산을 어디에서, 어떤 방식으로 처리할 것인지에 대한 경쟁으로 확대될 전망이다. 데이터센터에서 단말과 공장, 자동차, 로봇 등으로 AI의 무대가 넓어지면서 AI 반도체 기업뿐 아니라 통신사와 제조·플랫폼 기업까지 새로운 시장을 둘러싼 경쟁에 뛰어들고 있다. 이진형 KT AX사업본부장 상무는 "'KT NPU LLM 스테이션'은 KT의 AX 풀스택 역량과 국산 반도체를 결합해 소버린 AI를 실제 산업 현장에서 즉시 사용할 수 있도록 만든 것"이라며 "데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것"이라고 말했다.
2026-08-19 14:30:55
-
-