AI 가속 서버서 x86 앞선 Arm…에이전트 실행·보안까지 확장

[경제일보] AI 인프라에서 Arm의 영역이 에이전트 실행과 보안 통제로 넓어지고 있다. GPU 등 가속기를 탑재한 서버 시장에서 Arm 기반 플랫폼에 대한 투자가 x86을 앞선 가운데, AI의 작업을 수행하는 CPU와 행동을 감시하는 DPU 양쪽에 Arm 기술이 활용되고 있다.

시장조사업체 IDC가 집계한 올해 1분기 Arm 기반 가속 서버 지출액은 530억달러로, x86 기반 서버의 346억달러를 웃돌았다. 지난해 4분기 시작된 역전 흐름이 이어졌다. 대형 고객들이 엔비디아 GB200 등 랙 단위 시스템을 도입하면서 서버 플랫폼의 무게중심이 이동했다.

Arm이 지난달 28일 공개한 기술 자료는 이러한 인프라 변화가 에이전틱 AI에서 갖는 의미를 짚었다. 에이전트는 질문에 답하는 데 그치지 않고 기업 데이터를 읽고 외부 도구를 호출하며 작업을 완수한다. 여러 에이전트가 오래, 동시에 작동할수록 이를 실행할 컴퓨팅과 접근 권한을 통제할 컴퓨팅이 함께 필요해진다.

CPU는 에이전트의 실행 환경, 작업 순서 조율, 도구와 애플리케이션 실행을 맡는다. GPU가 모델 연산을 가속하는 동안 CPU가 실제 업무 수행을 뒷받침하는 구조다. DPU는 네트워크·보안 기능을 호스트 CPU에서 분리해 독립적인 감시와 격리, 보안 정책 집행을 담당한다.

Arm 기반 CPU는 AWS의 그라비톤, 구글의 액시온, 마이크로소프트의 코발트, 엔비디아의 베라로 확산돼 있다. 각각 설계는 다르지만 Arm 소프트웨어 생태계와 호환된다. Arm도 올해 3월 자체 설계한 데이터센터용 ‘AGI CPU’를 공개하며 설계 기술 라이선스와 CPU 제품을 함께 제공하는 방향으로 사업을 넓혔다.

엔비디아가 지난달 28일 발표한 ‘오픈 에이전트 세이프티 플랫폼’은 실행과 보호를 분리한 구조를 구현하는 사례다. 에이전트 실행 환경인 ‘오픈셸’과 감시 기능을 맡는 ‘센트리’, DPU인 ‘블루필드4’를 결합한 참조 설계다.

오픈셸은 에이전트 주변에 격리된 실행 환경을 만들고 접근 가능한 파일과 네트워크, 도구, 인증정보를 관리한다. 에이전트 프로세스 바깥에서 정책을 집행해 모델이 어떤 답변을 생성하든 정해진 접근 경계를 유지하도록 설계했다.

센트리는 블루필드4에서 에이전트의 요청과 응답, 데이터·도구 접근을 감시한다. 신원과 권한을 확인하고 허용 범위를 벗어나려는 에이전트를 격리한다. 엔비디아는 밀리초 단위로 격리·중단할 수 있다고 설명했다.

블루필드4에는 Arm 네오버스 V2 기반 CPU 코어 64개가 탑재된다. 작업을 실행하는 서버와 별도의 처리 자원으로 보안을 관리해 호스트가 침해돼도 통제 기능을 유지하도록 하는 방식이다.

이 구조는 기업이 AI에 더 많은 권한을 맡기면서 필요한 보안 기능을 인프라에 결합한다. Arm 기술의 활용 범위도 작업 실행에서 이를 보호하는 인프라 프로세서로 확대되는 셈이다.

기업 서비스 연동도 진행 중이다. 세일즈포스와 엔비디아는 오픈셸을 슬랙에 통합해 담당자가 에이전트 활동과 감사 기록을 확인하고 추가 권한 요청을 승인하거나 거절할 수 있도록 했다. SAP는 기업용 AI 플랫폼의 줄 스튜디오 실행 환경에 오픈셸을 결합하고 있다.