검색결과 총 98건
-
-
AI가 해킹도 자율 수행…신한은행 정보유출로 드러난 'AI 에이전트 보안' 경고
[경제일보] 인공지능(AI) 에이전트가 스스로 취약점을 찾고 공격을 수행하는 데 활용된 정황이 확인되면서 보안 업계에 새로운 경고등이 켜졌다. 최근 신한은행에서 고객정보가 유출된 사고에서 고도화된 AI 에이전트가 공격에 활용된 것으로 알려지면서 기존 보안 체계에도 변화가 요구되고 있다. 6일 보안업계에 따르면 신한은행 고객정보 유출 사고를 조사하는 과정에서 AI를 활용한 자동화 공격 도구가 사용된 정황이 확인된 것으로 전해졌다. 금융보안원과 수사당국은 악성 스크립트 등을 분석하면서 중국어권에서 개발·유포된 것으로 추정되는 AI 에이전트의 공격 흔적을 확인하고 실제 공격 과정에서 어떻게 활용됐는지 추적하고 있는 것으로 알려졌다. 신한은행은 지난달 30일 고객정보 유출 사실을 확인했으며, 현재까지 약 2만5000명의 정보가 유출된 것으로 파악됐다. 유출 정보에는 고객명, 전화번호, 연소득, 대출 산출한도 등이 포함됐고 일부 고객의 주민등록번호 66건과 CI 97건도 포함됐다. 금융감독원은 사고 경위와 피해 규모를 조사하고 있다. 공격자는 대출모집인이 사용하는 별도 조회 서비스에서 인증 절차를 우회한 뒤 고객번호를 확보하고, 조회 요청값을 반복적으로 변경하며 고객정보를 가져간 것으로 알려졌다. 신한은행은 외부 IP를 차단하고 관련 서비스를 중단하는 등 보안 조치를 진행했다. 최근 보안업계에서는 해커들이 취약점 공격 과정에 AI 에이전트를 결합해 기존의 반복적인 공격 작업을 자동화하는 것으로 진단하고 있다. AI 에이전트는 목표를 받은 뒤 작업을 여러 단계로 나누고 각 단계의 결과를 확인하면서 다음 행동을 결정한다. 웹 검색, 코드 실행, 외부 프로그램 호출 등이 연결되면 사람이 직접 수행하던 취약점 탐색과 공격 검증 작업을 이어서 수행할 수 있다. 예를 들어 공격 대상의 웹 서비스를 탐색하고 취약한 입력값을 찾은 뒤 서버 응답을 분석하고, 결과에 따라 다음 요청을 보내는 작업을 AI가 반복할 수 있다. 개별 요청만 보면 정상적인 API 호출처럼 보일 수 있지만 여러 행동을 연결하면 공격 패턴이 드러나는 방식이다. 기업 보안도 악성 코드나 공격 IP를 차단하는 데서 행동의 흐름을 분석하는 방식으로 확대될 필요성이 커지고 있다. 어떤 계정이 어떤 서비스에 접근했는지뿐 아니라 어떤 API를 어떤 순서로 호출했는지, 앞선 결과를 바탕으로 다음 행동을 어떻게 바꿨는지까지 살펴야 한다는 것이다. AI 에이전트에 부여하는 권한을 최소화하는 것도 중요하다. 개인 정보나 금융 정보에 접근하거나 계정·결제 정보를 변경하는 작업에는 별도 승인을 요구하고, AI가 수행한 작업을 처음부터 끝까지 기록해 비정상적인 행동이 발견되면 즉시 작업을 중단할 수 있어야 한다. 글로벌 AI 업계에서도 고성능 AI의 사이버 보안 활용을 별도로 관리하는 움직임이 나타나고 있다. 구글은 지난달 30일(현지시간) '제미나이 4 아르곤'을 공개하면서 사이버 보안 분야에서 소프트웨어 취약점을 스스로 찾고 검증한 뒤 패치하는 능력을 설명했다. 다만 해당 기능을 공격자가 사용한다면 소프트웨어 취약점을 스스로 찾고 공격하는 능력으로도 발전할 수 있는 구조다. 이에 구글은 아르곤을 일반 이용자에게 바로 공개하지 않고 '페어윈드 프로그램'을 통해 신뢰할 수 있는 사이버보안 방어자들에게 우선 제공하고 있다. 실제 보안 환경에서 모델의 성능과 위험 요소를 검증하고 안전장치를 보완하기 위한 조치로, AI의 취약점 탐지 능력을 방어에 활용하는 동시에 악용 가능성까지 고려했다. AI 에이전트가 공격에 활용되면 공격자가 취약점을 찾고 검증하는 데 필요한 시간과 인력을 줄일 수 있다. 반대로 기업은 AI를 활용해 취약점을 먼저 찾아내고 보완하는 방식으로 대응할 수 있다. AI의 발전이 공격과 방어 양쪽의 자동화를 동시에 촉진하는 것이다. 신한은행 사고에서 AI 에이전트가 실제 공격 과정에 활용된 정황이 확인되면서 AI를 활용한 공격은 더 이상 가정에만 머물지 않게 됐다. AI가 사람 대신 웹을 탐색하고 시스템과 상호작용하는 시대가 본격화하면서 기업 역시 AI의 업무 활용과 함께 AI를 이용한 공격 가능성까지 고려한 새로운 보안 체계를 빠르게 마련해야 할 상황에 놓였다. 특히 기존의 보안 관제 방식만으로는 AI가 만들어내는 다단계 공격을 빠르게 식별하기 어려울 수 있다는 지적도 나온다. AI가 짧은 시간 동안 여러 시스템을 오가며 정상적인 요청을 반복할 경우 개별 행위만으로는 이상 징후를 파악하기 어렵기 때문이다. 이에 로그인부터 API 호출, 정보 조회, 권한 변경 등 일련의 행동을 하나의 공격 흐름으로 분석하는 보안 기술의 중요성도 커지고 있다. 서기택 SK쉴더스 MSS사업그룹 관제CERT팀 수석은 지난달 30일 전문가 리포트를 통해 "사이버 위협의 속도가 인간의 인지 능력을 넘어선 지 오래"라며 "공격자는 이미 AI 에이전트를 24시간 쉬지 않고 가동하며 침투부터 내부 확산까지 단 몇 분 만에 끝낸다"고 말했다. [아주경제 2026년 10월 06일자 13면에 게재된 기사입니다.]
2026-10-06 08:46:06
-
AWS, 애플리케이션·AI 에이전트 한눈에…'클라우드워치 옴니' 공개
[경제일보] 기업의 클라우드 환경이 복잡해지면서 장애가 발생했을 때 원인을 찾아내는 과정에도 인공지능(AI)이 투입되고 있다. 이에 AWS는 애플리케이션과 AI 에이전트의 상태를 함께 관찰하고 장애 원인을 분석하는 옵저버빌리티 서비스를 내놓으면서 클라우드 운영 영역을 확대하고 있다. 2일 아마존웹서비스(AWS)는 아마존 클라우드워치에 AI 기반 옵저버빌리티 서비스 '아마존 클라우드워치 옴니'를 출시했다고 밝혔다. 클라우드워치 옴니는 애플리케이션 옵저버빌리티와 에이전트 옵저버빌리티를 하나의 환경에서 제공하는 것이 특징이다. 기존 옵저버빌리티 환경에서는 엔지니어가 대시보드와 알람을 관리하고 장애가 발생하면 로그·메트릭·트레이스 등 여러 데이터를 각각 확인하며 원인을 추적해야 했다. 여러 서비스가 연결된 복잡한 시스템에서는 장애가 발생한 지점을 찾기 위해 여러 도구를 오가야 하고, 담당 팀이 달라질 경우 조사 과정에서 확보한 정보가 슬랙 스레드나 문서 등에 흩어지는 문제도 있었다. AWS는 클라우드워치 옴니를 통해 이러한 장애 조사 과정을 애플리케이션 단위로 통합했다. 개별 인프라 자원을 따로 확인하는 대신 애플리케이션을 하나의 연결된 시스템으로 보고 서비스 간 종속 관계와 토폴로지를 파악할 수 있도록 구성했다. 기존 클라우드워치에서 관리하던 로그와 메트릭, 트레이스, 알람도 별도 데이터 이전 없이 활용할 수 있다. 이번 신규 기능은 AI 에이전트를 장애 조사 과정에 참여시킨다는 것이 특징이다. 클라우드워치 옴니에는 '아마존 데브옵스 에이전트'가 연동돼 엔지니어가 확인하는 텔레메트리 데이터를 바탕으로 장애 상황을 분석한다. 여러 서비스에서 발생한 이벤트의 연관성을 파악하고 서비스 간 종속 관계를 따라가면서 근본 원인이 발생한 경로를 추적한다. 예를 들어 주문 결제 서비스의 오류율이 갑자기 높아지면 클라우드워치 옴니는 장애가 발생한 서비스뿐 아니라 관련된 애플리케이션 토폴로지를 함께 보여준다. 또한 직전에 이뤄진 배포나 다운스트림 결제 API의 지연 시간 증가 등 연관 가능성이 있는 신호를 묶어 제시하고 데브옵스 에이전트의 초기 분석 결과도 제공한다. 당직 사이트 신뢰성 엔지니어(SRE)는 이를 바탕으로 배포 시점과 장애 발생 시점의 상관관계를 확인하고 트레이스를 통해 문제가 발생한 엔드포인트를 좁혀갈 수 있다. 이후 장애가 다른 팀의 결제 시스템과 연관된 것으로 확인되면 해당 담당자가 같은 조사 세션에 참여해 앞선 조사 내용을 그대로 확인할 수 있다. 별도의 화면이나 자료를 다시 전달하지 않아도 지금까지 파악된 장애 상황과 AI의 분석 결과를 공유할 수 있는 구조다. 최근 AI 에이전트가 기업 시스템에 본격적으로 투입되면서 애플리케이션뿐 아니라 AI 에이전트 자체를 관찰하고 관리해야 할 필요성도 커지고 있다. AI 에이전트가 여러 애플리케이션과 API를 호출해 업무를 수행하는 환경에서는 특정 서비스의 장애가 에이전트의 작업 결과에 영향을 미칠 수 있기 때문이다. AWS는 클라우드워치 옴니에서 애플리케이션 옵저버빌리티와 에이전트 옵저버빌리티를 함께 제공하면서 이 같은 환경을 겨냥했다. AI 에이전트가 어떤 서비스와 연결돼 있는지, 각 서비스에서 발생하는 텔레메트리와 이벤트가 어떻게 연관되는지 한 환경에서 파악할 수 있도록 한 것이다. AWS가 옵저버빌리티 영역에서 AI 활용을 확대하는 배경에는 기업 시스템의 복잡성이 높아지고 있는 것으로 분석된다. 기존 애플리케이션 중심 환경에서도 마이크로서비스와 클라우드 인프라가 확대되면서 서비스 간 연결 관계가 복잡해졌는데, 여기에 AI 에이전트까지 업무 과정에 참여하면 시스템 간 호출과 데이터 흐름을 추적해야 하는 범위가 더욱 넓어진다. 클라우드워치 옴니는 이런 환경에서 사람이 일일이 모니터링 체계를 관리하는 부담도 줄이는 데 초점을 맞췄다. 서비스 탐색과 종속 관계 매핑, 알람 조정 등을 자동화하고 새로운 서비스가 배포되면 애플리케이션 토폴로지도 자동으로 업데이트한다. 엔지니어가 모든 서비스에 대해 별도의 대시보드를 구축하고 임계값을 지속적으로 조정하는 방식에서 벗어나겠다는 것이다. 이를 위해 클라우드워치 옴니는 오픈텔레메트리를 기반으로 한다. 기존 클라우드워치로 전송하던 텔레메트리는 별도 재설정 없이 활용할 수 있으며 오픈텔레메트리로 계측한 다른 워크로드도 OTLP 엔드포인트를 통해 연결할 수 있다. AWS는 엔터프라이즈 환경에서 여러 직군이 동일한 장애 조사 환경을 이용할 수 있도록 별도의 접근 방식도 적용했다. 사용자는 조직 전용 URL을 통해 기존에 관리하던 ID로 로그인할 수 있으며 AWS 관리 콘솔 접근 권한이 없어도 클라우드워치 옴니를 이용할 수 있다. IAM 아이덴티티 센터를 통한 SSO를 지원하며 옥타(Okta), 엔트라 ID(Entra ID) 등 기업용 인증 환경과 연동할 수 있다. AWS 관계자는 "애플리케이션과 AI 에이전트 옵저버빌리티를 하나의 환경에서 제공하고, 서비스와 종속 관계를 자동으로 탐색·매핑하고 애플리케이션 변화에 맞춰 알람을 자동 조정한다"며 "아마존 클라우드워치 옴니는 현재 이용 가능하며, 기존 클라우드워치 고객은 클라우드워치 콘솔에서 바로 체험할 수 있다"고 말했다.
2026-10-02 16:41:36
-
AI 가속 서버서 x86 앞선 Arm…에이전트 실행·보안까지 확장
[경제일보] AI 인프라에서 Arm의 영역이 에이전트 실행과 보안 통제로 넓어지고 있다. GPU 등 가속기를 탑재한 서버 시장에서 Arm 기반 플랫폼에 대한 투자가 x86을 앞선 가운데, AI의 작업을 수행하는 CPU와 행동을 감시하는 DPU 양쪽에 Arm 기술이 활용되고 있다. 시장조사업체 IDC가 집계한 올해 1분기 Arm 기반 가속 서버 지출액은 530억달러로, x86 기반 서버의 346억달러를 웃돌았다. 지난해 4분기 시작된 역전 흐름이 이어졌다. 대형 고객들이 엔비디아 GB200 등 랙 단위 시스템을 도입하면서 서버 플랫폼의 무게중심이 이동했다. Arm이 지난달 28일 공개한 기술 자료는 이러한 인프라 변화가 에이전틱 AI에서 갖는 의미를 짚었다. 에이전트는 질문에 답하는 데 그치지 않고 기업 데이터를 읽고 외부 도구를 호출하며 작업을 완수한다. 여러 에이전트가 오래, 동시에 작동할수록 이를 실행할 컴퓨팅과 접근 권한을 통제할 컴퓨팅이 함께 필요해진다. CPU는 에이전트의 실행 환경, 작업 순서 조율, 도구와 애플리케이션 실행을 맡는다. GPU가 모델 연산을 가속하는 동안 CPU가 실제 업무 수행을 뒷받침하는 구조다. DPU는 네트워크·보안 기능을 호스트 CPU에서 분리해 독립적인 감시와 격리, 보안 정책 집행을 담당한다. Arm 기반 CPU는 AWS의 그라비톤, 구글의 액시온, 마이크로소프트의 코발트, 엔비디아의 베라로 확산돼 있다. 각각 설계는 다르지만 Arm 소프트웨어 생태계와 호환된다. Arm도 올해 3월 자체 설계한 데이터센터용 ‘AGI CPU’를 공개하며 설계 기술 라이선스와 CPU 제품을 함께 제공하는 방향으로 사업을 넓혔다. 엔비디아가 지난달 28일 발표한 ‘오픈 에이전트 세이프티 플랫폼’은 실행과 보호를 분리한 구조를 구현하는 사례다. 에이전트 실행 환경인 ‘오픈셸’과 감시 기능을 맡는 ‘센트리’, DPU인 ‘블루필드4’를 결합한 참조 설계다. 오픈셸은 에이전트 주변에 격리된 실행 환경을 만들고 접근 가능한 파일과 네트워크, 도구, 인증정보를 관리한다. 에이전트 프로세스 바깥에서 정책을 집행해 모델이 어떤 답변을 생성하든 정해진 접근 경계를 유지하도록 설계했다. 센트리는 블루필드4에서 에이전트의 요청과 응답, 데이터·도구 접근을 감시한다. 신원과 권한을 확인하고 허용 범위를 벗어나려는 에이전트를 격리한다. 엔비디아는 밀리초 단위로 격리·중단할 수 있다고 설명했다. 블루필드4에는 Arm 네오버스 V2 기반 CPU 코어 64개가 탑재된다. 작업을 실행하는 서버와 별도의 처리 자원으로 보안을 관리해 호스트가 침해돼도 통제 기능을 유지하도록 하는 방식이다. 이 구조는 기업이 AI에 더 많은 권한을 맡기면서 필요한 보안 기능을 인프라에 결합한다. Arm 기술의 활용 범위도 작업 실행에서 이를 보호하는 인프라 프로세서로 확대되는 셈이다. 기업 서비스 연동도 진행 중이다. 세일즈포스와 엔비디아는 오픈셸을 슬랙에 통합해 담당자가 에이전트 활동과 감사 기록을 확인하고 추가 권한 요청을 승인하거나 거절할 수 있도록 했다. SAP는 기업용 AI 플랫폼의 줄 스튜디오 실행 환경에 오픈셸을 결합하고 있다.
2026-10-02 12:33:20
-
삼성, 갤럭시 탭 S12에 포토샵…창작·업무 기능 키운다
[경제일보] 삼성전자가 프리미엄 태블릿 ‘갤럭시 탭 S12 시리즈’에 포토샵과 대화면 AI 기능을 결합해 창작·업무용 수요 공략에 나선다. S펜으로 이미지를 편집하고, 강의 영상과 필기·AI를 한 화면에서 사용하는 작업 환경을 앞세웠다. 삼성전자는 1일 ‘갤럭시 탭 S12 울트라’와 ‘갤럭시 탭 S12+’를 공개했다. 국내 출시일은 7일이다. 울트라는 14.6형 화면과 5.1㎜ 두께를 유지했고, 플러스는 전작 S10+의 12.4형보다 커진 12.6형 화면을 적용했다. 이번 제품의 변화는 창작용 앱 확대에 있다. 삼성전자는 안드로이드 태블릿 최초로 어도비 포토샵을 기본 탑재한다고 설명했다. 대화면과 S펜에 맞춘 인터페이스로 드로잉과 이미지 편집을 지원하며, 포토샵 모바일 프리미엄을 4개월간 무료로 체험할 수 있다. 필기 앱 노타빌리티는 6개월 무료 이용과 첫 구독 20% 할인 혜택을 제공한다. 굿노트, 영상 편집 앱 루마퓨전, 프로젝트 관리 앱 노션, 클립 스튜디오 페인트 등도 활용할 수 있다. S펜은 두 모델 모두 기본 제공한다. AI 기능은 여러 작업을 동시에 진행하는 데 초점을 맞췄다. 안드로이드 17 기반 사용자 환경 ‘원 UI 9’를 탑재하고, 화면을 최대 세 영역으로 나누는 멀티 윈도우를 지원한다. 강의 영상을 보면서 삼성 노트에 필기하고 AI에 질문하는 식이다. 노트 어시스트는 기록한 내용을 요약하고, 삼성 브라우저는 여러 탭의 내용을 정리하거나 앞서 본 웹페이지를 찾도록 돕는다. 삼성 덱스는 앱 창의 크기와 배치를 조절하는 PC 형태의 작업 환경을 제공한다. 별도 판매하는 프로 키보드에는 AI 호출 키를 넣었다. 구글 AI 프로 6개월 무료 구독 혜택도 제공한다. 두 제품은 미디어텍 디멘시티 9500 프로세서를 탑재한다. 회사 측은 울트라의 신경망처리장치(NPU) 성능이 전작 S11 울트라보다 약 61%, 중앙처리장치(CPU)는 19%, 그래픽처리장치(GPU)는 17% 향상됐다고 밝혔다. 새로 설계한 3D 베이퍼 챔버는 고사양 작업에서 발생하는 열을 분산한다. 배터리 용량은 울트라 1만1600mAh, 플러스 1만600mAh다. 삼성전자 측정 기준 동영상 재생시간은 각각 최대 23시간과 21시간이다. 두 모델 모두 최대 45W 충전을 지원한다. 가격은 울트라가 189만9700~301만8400원, 플러스가 154만9900~206만9100원이다. 울트라의 시작가는 전작 S11 울트라 출시 당시 159만8300원보다 30만1400원 높다. 화면 크기와 두께가 같은 울트라에서 주요 변화는 처리 성능과 소프트웨어 활용 범위다. 김정현 삼성전자 MX사업부 부사장은 “강력한 하드웨어에 최신 갤럭시 AI를 결합해 사용자가 최상의 생산성을 경험할 수 있도록 지원할 것”이라고 말했다. 한편 제품은 그레이·실버 색상의 5G·와이파이 모델로 출시한다. 1~6일 삼성닷컴에서 출시 사전알림을 신청할 수 있으며, 최대 7회의 운영체제 업그레이드를 지원한다.
2026-10-01 11:52:09
-
업스테이지, '솔라 미니 4'로 기업 자동화 공략…업무 따라 모델 나눈다
[경제일보] 업스테이지가 반복 업무를 처리하는 소형 언어모델 ‘솔라 미니 4’를 선보이며 기업용 AI 제품군을 넓힌다. 복잡한 판단과 여러 단계의 작업에는 ‘프로’를, 처리량이 많은 업무에는 ‘미니’를 배치해 기업이 업무별로 모델과 비용을 선택하도록 한다. 업스테이지는 자체 개발한 거대언어모델(LLM) 솔라 미니 4를 공개했다고 1일 밝혔다. 전체 파라미터(매개변수)는 350억개지만, 답변을 생성할 때는 30억개만 활성화하는 전문가혼합(MoE) 구조를 적용했다. 입력에 필요한 전문가 부분을 골라 계산해 연산 부담을 줄이는 설계다. 성능 평가기관 아티피셜 애널리시스의 인텔리전스 인덱스에서 24점을 기록했다. 같은 평가기관이 공개한 알리바바 ‘큐원 3.6-35B-A3B’ 추론형 모델은 18점, 엔비디아 ‘네모트론 3.5 라이트닝’은 13점이다. 이 지수는 코딩과 추론, 지식, 에이전트 업무 수행 등을 종합 평가한다. 솔라 미니 4는 비교 대상 두 모델보다 높은 점수를 받았으며, 업스테이지는 이를 바탕으로 소형 모델의 성능과 운영 효율을 함께 내세우고 있다. 기업이 활용할 수 있는 범위도 넓혔다. 글로벌 AI 모델 중개 플랫폼 오픈라우터의 모델 안내에는 한 번에 처리할 수 있는 문맥 길이가 52만4288토큰으로 제시돼 있다. 토큰은 AI가 글을 처리하는 단위다. 긴 문서와 대화 이력을 입력해 작업하는 데 활용할 수 있으며, 외부 도구 호출과 정해진 형식의 응답 생성도 지원한다. 회사 측은 양자화를 적용하면 그래픽처리장치(GPU) 한 장으로도 구동할 수 있다고 설명했다. 양자화는 모델의 수치 표현 정밀도를 낮춰 메모리 사용량을 줄이는 기술이다. 기업 내부 서버에 설치하는 온프레미스 방식으로 운영할 수 있어 내부 데이터를 자체 환경에서 처리하려는 기업과 기관을 겨냥한다. 제품군은 업무 난이도와 처리량에 따라 나눴다. 솔라 프로는 복잡한 판단이 이어지는 고난도 에이전트 작업에, 솔라 미니는 단계별 업무 자동화와 대량 반복 작업에 초점을 맞춘다. 에이전트는 외부 도구를 사용하며 여러 단계의 업무를 수행하는 AI를 뜻한다. 기업은 작업에 맞춰 두 모델을 조합할 수 있다. 솔라 미니 4는 오픈라우터에서 API(프로그램 간 연결 인터페이스)로 이용할 수 있다. 업스테이지 공식 가격표의 할인 전 정상가는 100만토큰당 입력 0.10달러, 출력 0.40달러다. 같은 가격표에 제시된 솔라 프로 4의 입력 0.30달러, 출력 1.20달러와 비교하면 각각 3분의 1 수준이다. 김성훈 업스테이지 대표는 “복잡한 에이전트 업무는 ‘프로’, 대규모 업무 자동화는 ‘미니’로 체계화한 솔라 LLM을 통해 기업이 업무에 가장 알맞은 AI를 선택할 수 있도록 하겠다”고 말했다.
2026-10-01 11:30:48
-
블록체인, AI 에이전트 경제의 기반 되나…KBW서 부상한 '에이전트 경제'
[경제일보] "블록체인은 새로운 금융의 길이 되고 있다" 30일 서울 광진구 그랜드 워커힐 서울에서 열린 '코리아 블록체인 위크(KBW) 2026'에서 기조연설로 나선 오종석 두나무 대표는 이렇게 말했다. 인공지능(AI) 에이전트가 사람의 지시를 받아 업무를 수행하는 단계를 넘어 서비스 이용과 결제까지 담당하는 시대가 다가오면서 블록체인의 역할도 달라지고 있다. AI가 정해진 권한과 예산 안에서 다른 서비스에 비용을 지불하고 거래를 실행하려면 신원 확인과 권한 관리, 결제·정산, 거래 기록 검증을 뒷받침할 인프라가 필요하기 때문이다. 국내 블록체인 업계도 디지털자산 거래를 넘어 AI와 금융 서비스를 연결하고 글로벌 온체인 시장에 대응하기 위한 기반 구축에 나서고 있다. 두나무는 AI와 금융 서비스의 연결을 사업 확장 방향 가운데 하나로 제시했다. 두나무는 '업비트 스킬'을 통해 AI가 금융 서비스와 직접 연결되는 접점을 만들고 있다고 설명했다. 기존에는 사람이 앱으로, 기업과 개발자가 API로 금융 서비스를 이용했다면 AI도 서비스와 직접 연결되는 새로운 이용 주체로 등장하고 있다는 것이다. 두나무는 향후 기업 활동에 필요한 지급·정산 기능까지 구축하겠다는 계획도 밝혔다. AI가 외부 서비스를 이용하고 업무를 수행하는 과정에서 비용 지급이 필요해질 수 있는 만큼, 거래소 중심의 사업 구조를 금융 서비스 전반으로 확대하려는 구상으로 풀이된다. 두나무가 강조한 또 다른 방향은 국내 금융과 글로벌 온체인 시장을 연결하는 인프라다. 두나무는 블록체인이 기존 금융 질서에 도전하는 기술에서 새로운 금융 인프라로 발전하고 있다고 강조했다. 국내에 이용자와 유동성, 디지털자산 운영 경험이 축적돼 있지만 이를 글로벌 금융시장과 연결하는 기반은 더 마련해야 한다는 설명이다. 오종석 대표는 "글로벌 금융 인프라는 서로 다른 국가의 규제와 통화 금융 환경 속에서도 실제로 작동할 수 있어야 한다"며 "전통 금융과 디지털 자산의 구분이 점점 희미해지고 하나의 글로벌 온체인 시장으로 연결되고 있다"고 말했다. 이를 위해 두나무는 디지털자산 거래뿐 아니라 커스터디(수탁), 오픈 API, 스테이킹, 이상거래 탐지, 블록체인 거래 추적 등으로 기능을 확장해 왔다고 밝혔다. 향후에는 고객확인(KYC)과 자금세탁방지(AML), 거래 검증, 개인정보 보호 등을 결합해 은행·증권사·결제사·핀테크 기업이 온체인 금융 서비스를 구축할 수 있도록 지원한다는 방침이다. 웹2 서비스와 웹3 금융을 연결하는 구상도 내놨다. 오 대표는 네이버파이낸셜과의 결합이 이뤄질 경우 두나무의 디지털자산·웹3 역량과 네이버파이낸셜의 결제·핀테크 역량, 네이버의 AI·IT 인프라 역량을 결합할 수 있다고 설명했다. 기존 이용자가 익숙하게 사용하는 결제 플랫폼과 온체인 금융을 연결해 디지털자산의 활용 범위를 넓히겠다는 취지다. "업비트가 거래소에서 만들었던 혁신과 편의, 경험과 역량을 바탕으로 새로운 금융 인프라로 도약해 나가고자 한다"며 "네이버파이낸셜과의 결합이 이뤄진다면 두나무의 디지털자산·웹3 역량과 네이버파이낸셜의 결제·핀테크 역량, 네이버의 AI·IT 인프라 역량이 결합될 수 있다"고 말했다. ◆ 팩트블록 "AI 에이전트 신원·권한·거래 검증 중요" KBW를 주최하는 팩트블록 역시 AI와 웹3의 결합을 주요 의제로 제시했다. 이날 앤드류 박 팩트블록 대표는 개회사를 통해 AI 에이전트가 정해진 예산 안에서 서비스를 이용하고 비용을 지급하는 상황이 현실적인 과제로 떠오르고 있다고 진단했다. 앤드류 박 대표는 "AI 에이전트가 기업을 대신해서 서비스를 부르고, 정해진 예산 안에서 일을 하고, 금융을 지급하는 장면은 더 이상 미래의 이야기가 아니다"며 "자산 하나를 토큰화한다고 생각해 보면 '토큰은 어떤 권리를 담고 있는가', '누가 보유할 수 있고 어떤 조건에서 이전할 수 있는가', '대금은 어떻게 결제되고 자산은 보관하는가', 그리고 마지막으로 '문제가 생기면 누가 책임지는가' 이 질문들에 혼자 답할 수 있는 회사는 없다"고 말했다. AI가 실제 거래를 수행하려면 단순히 결제 기술을 연결하는 것만으로는 충분하지 않다. 에이전트에 누가 권한을 부여했는지, 어떤 조건에서 의사결정이 이뤄졌는지, 거래 기록을 어떻게 검증할지, 필요한 순간 사람이 어떻게 개입할지를 함께 설계해야 한다는 것이다. 이는 신원 확인과 권한 관리, 검증 가능한 기록을 다뤄온 웹3 업계가 AI 시대에 맡을 수 있는 역할과도 연결된다. 팩트블록은 KBW를 연례 행사에 그치지 않고 기업과 개발자, 금융기관, 규제·법률 전문가가 지속적으로 협력하는 생태계로 발전시키겠다는 구상도 밝혔다. AI 에이전트의 권한과 거래 기록, 검증, 결제 등 실무적인 과제를 놓고 여러 주체가 협력할 수 있는 기반을 만들겠다는 취지로 풀이된다. 앤드류 박 대표는 "역동적인 디지털자산 시설과 탄탄한 금융기관, 뛰어난 개발 인재 모두가 서울에 있다"며 "지난 2018년 팩트블록은 한국의 가능성과 세계의 혁신이 만나면 새로운 일이 일어난다는 믿음으로 KBW를 시작했다"고 강조했다. ◆ 스테이블코인부터 에이전트 결제까지…글로벌 금융 인프라 경쟁 최근 가상자산 변화의 배경에는 스테이블코인을 비롯한 블록체인 기반 금융 서비스의 확산이 있는 것으로 분석된다. 법정화폐 등의 가치를 추종하는 스테이블코인은 블록체인 네트워크를 통해 국경을 넘어 자산을 이전하고 결제·정산에 활용할 수 있다는 점에서 주목받고 있다. 향후 AI 에이전트가 외부 서비스를 호출하거나 업무를 위탁하는 과정에서 비용을 자동으로 지급하는 수단으로 활용될 가능성도 제기된다. 글로벌 금융시장에서는 블록체인을 활용해 기존 금융의 영역을 넓히려는 움직임이 나타나고 있다. 달러 스테이블코인이 국경 간 자금 이동과 결제에 활용되면 달러 기반 금융 활동이 디지털 영역으로 확대될 수 있다. 전통 금융사와 디지털자산 기업도 서로의 사업 영역으로 진출하면서 거래와 수탁, 결제·정산을 아우르는 금융 인프라 경쟁을 벌이고 있다. 누가 더 많은 이용자와 자금을 끌어들이고 새로운 금융시장의 표준을 선점하느냐가 주요 경쟁 요소로 떠오르고 있다. 국내 시장의 과제는 글로벌 연결성을 확보하는 것이다. 국내에는 풍부한 디지털자산 이용자와 유동성, 시장 운영 경험이 있지만 이를 해외 자본과 기업, 금융 서비스로 연결하는 기반은 더 마련해야 한다. 해외에서 유입된 자금과 자산이 원화 기반 금융 활동으로 이어지고, 국내에서 축적한 기술과 운영 경험을 글로벌 시장으로 확장할 수 있어야 한다는 지적이다. 특히 AI와 블록체인의 결합이 실제 사업으로 이어질지는 기술을 연결하는 데 그치지 않고 반복적인 거래 수요와 안정적인 운영 체계를 확보하느냐에 달려 있는 것으로 분석된다. 국내 블록체인 업계가 디지털자산 거래를 넘어 AI와 금융 서비스를 연결하고 결제·정산, 자산 보관, 거래 검증 등으로 사업 영역을 넓히려는 것도 이 때문이다. AI가 실제 경제활동의 주체로 기능하는 환경에서 블록체인이 금융 인프라로 자리 잡을 수 있을지 주목된다. 오종석 대표는 "한국에서 축적한 시장과 유동성, 기술과 신뢰를 바탕으로 세계로 나가고자 한다"며 "디지털 금융 시대에는 한국에도 기회가 있다고 생각한다"고 말했다.
2026-09-30 12:08:32
-
생성형 AI로 소상공인 상담 돕는다…카카오, '카나나 상담매니저' 고도화
[경제일보] 카카오가 카카오톡 채널의 사업자용 인공지능(AI) 상담 서비스에 생성형 AI를 적용하며 소상공인의 고객 응대 자동화에 속도를 낸다. 사전에 등록된 질문과 답변을 제공하는 기존 챗봇 방식에서 벗어나 매장 정보와 메뉴, 최근 소식 등을 종합해 이용자의 질문 맥락에 맞는 답변을 생성하는 방식이다. 29일 카카오는 카카오톡 채널 사업자를 위한 AI 채팅 서비스 '카나나 상담매니저'를 생성형 AI 기반 답변 기능을 중점으로 업데이트했다고 밝혔다. 카나나 상담매니저는 톡 채널을 통해 들어오는 고객 문의에 AI가 자동으로 답변하는 서비스다. 기존 카나나 상담매니저는 사업자가 미리 등록한 답변 정보를 바탕으로 이용자의 질문에 대응했다면, 앞으로는 답변 정보뿐 아니라 톡 채널에 게시된 매장 정보와 메뉴, 최근 소식 등을 함께 참고해 질문의 의도와 맥락에 맞는 답변을 생성한다. AI가 반복적인 문의를 우선 처리하고 복잡한 상담은 사업자에게 연결하는 구조를 마련해 소상공인의 상담 업무 부담을 줄이는 데 초점을 맞춰 구현됐다. 같은 질문이 들어오더라도 미리 정해진 문구를 그대로 반복하는 것이 아니라 상황에 맞는 표현으로 답변을 생성할 수 있도록 설계됐다. 카카오는 간단한 추가 질문에도 대화 형태로 대응할 수 있어 기존 규칙 기반 챗봇보다 자연스러운 상담이 가능해진다고 설명했다. 사업자가 AI 답변을 관리하는 방식도 바뀐다. 기존에는 상담에 활용할 정보를 답변 형태로 직접 작성해야 했다면 이제는 단답형이나 간결한 정보만 입력해도 AI가 이를 자연스러운 답변으로 구성한다. 채널 홈이나 소식, 메뉴 등의 정보를 수정하면 해당 내용도 AI 답변 정보에 자동으로 반영된다. 예를 들어 매장 영업시간이나 메뉴, 신메뉴 출시와 같은 정보를 채널에 업데이트하면 사업자가 별도로 상담용 답변을 다시 작성하지 않아도 AI가 변경된 정보를 활용할 수 있는 구조다. 사업자가 반복적으로 답변 내용을 수정해야 하는 관리 부담을 낮춘다는 구상이다. AI가 실제 고객에게 어떤 답변을 제공할지 사전에 확인할 수 있는 기능도 추가됐다. 사업자는 'AI 답변 미리보기' 대화창에 직접 질문하거나 추천 키워드를 선택해 답변을 확인할 수 있다. 자주 묻는 질문 가운데 아직 답변 정보가 등록되지 않은 내용은 '답변률 올리기' 영역에서 키워드 형태로 추천돼 필요한 정보를 추가할 수 있다. 상담 현황을 관리할 수 있는 통계 기능도 제공한다. 사업자가 AI 상담이 어떤 방식으로 이뤄지고 있는지 확인하고 부족한 답변 정보를 보완할 수 있도록 한 것이다. 단순히 AI를 켜놓는 데 그치지 않고 사업자가 답변 품질을 관리하는 구조를 함께 마련했다. AI가 모든 상담을 맡는 것은 아니다. 이용자가 '관리자와 대화하고 싶어요', '사장님 불러주세요' 등 직접 상담을 요청하면 '관리자 호출' 말풍선이 제공된다. 이용자가 버튼을 누르면 사업자가 직접 응대할 수 있다. AI가 반복적인 문의를 우선 처리하고 사업자는 별도의 상담이 필요한 문의에 집중하는 방식이다. 소상공인이 매장 운영과 고객 응대를 동시에 처리해야 하는 상황에서 단순 문의에 투입되는 시간을 줄이면서 사람의 상담이 필요한 영역은 남겨두는 구조다. 카카오가 이 같은 방식을 택한 것은 생성형 AI를 단순한 답변 도구가 아니라 사업자의 고객 응대 업무를 보조하는 도구로 확대하기 위한 것으로 풀이된다. 특히 소상공인의 경우 영업시간, 메뉴, 가격, 위치 등 반복적으로 발생하는 문의가 많은 만큼 채널에 축적된 정보를 AI가 활용하면 상담 자동화 효과를 높일 수 있을 전망이다. 황준연 카카오비즈니스 도메인 리더는 "소상공인 등 사업자의 고객 응대 부담은 줄이고, 이용자에게는 보다 자연스럽고 정확한 상담 경험을 제공하기 위해 카나나 상담매니저를 업데이트했다"며 "앞으로도 서비스를 지속적으로 고도화해 톡채널 사업자의 비즈니스 활동을 지원해 나가겠다"고 말했다.
2026-09-29 11:56:54
-
앤트로픽, 소네트 5.5 출시…작업 비용 낮추고 기업용 공략
[경제일보] 앤트로픽이 기업 실무에 초점을 맞춘 인공지능(AI) 모델 ‘클로드 소네트 5.5’를 공개했다. 토큰당 이용료는 이전 모델과 같지만 같은 작업을 처리하는 데 필요한 토큰 수를 줄여 비용을 낮췄고, 출력 속도도 30% 이상 높였다고 회사는 밝혔다. 복잡한 판단을 맡는 상위 모델 ‘오퍼스 5.5’에 이어 일상 업무에 많이 쓰이는 중간급 모델을 개선해 기업 고객의 선택지를 넓히려는 움직임이다. 앤트로픽은 28일(현지시간) 소네트 5.5를 출시했다. 코드 작성과 오류 수정, 문서·슬라이드·스프레드시트 제작 등 범위가 명확한 업무를 주요 용도로 제시했다. 오퍼스 5.5는 복잡한 연구와 판단이 필요한 작업에, 소네트 5.5는 반복적이고 실행 중심인 업무에 적합하다는 설명이다. 하위 모델인 ‘하이쿠 5.5’도 수주 안에 추가할 계획이다. 앤트로픽이 공개한 성능 지표 가운데 눈에 띄는 것은 에이전트형 코딩 평가인 ‘터미널 벤치 4.0’이다. 소네트 5.5는 70.6%를 기록해 전작 소네트 5의 10.3%를 웃돌았다. 오퍼스 5.5는 66.4%였지만, 해당 점수는 오퍼스에 가장 높은 추론 설정을 적용한 결과다. 이 수치만으로 소네트가 전반적인 업무에서 상위 모델보다 낫다고 볼 수는 없다. 앤트로픽도 복잡하고 개방적인 작업에서는 오퍼스가 여전히 강하다고 설명했다. 비용 절감은 요금표 인하가 아니라 작업 효율 개선에 따른 것이다. 소네트 5.5의 API 요금은 입력 토큰 100만개당 2달러, 출력 토큰 100만개당 10달러로 전작과 같다. 다만 같은 작업을 끝내는 데 토큰을 덜 쓰고 도구 호출도 줄여, 작업당 비용이 최대 30% 낮아질 수 있다고 회사는 밝혔다. 실제 절감 폭은 업무 종류와 모델 설정에 따라 달라진다. 안전장치도 강화했다. 사이버 보안 성능이 높아진 만큼 소네트 계열에서 처음으로 오퍼스 5.5와 유사한 사이버 보안 보호·대체 응답 체계를 적용했다. 고위험 보안 요청은 이전 모델로 전환되며, 일반적인 소프트웨어 개발은 계속 이용할 수 있다. 모델의 추론 과정을 대량으로 추출해 다른 모델을 학습시키는 ‘증류 공격’을 막기 위한 안전 분류기도 탑재했다. 이번 출시는 앤트로픽이 AI 모델 개발 속도 조절을 주장한 지 약 2주 만에 이뤄졌다. 다리오 아모데이 최고경영자(CEO)는 지난 12일 모델 성능 향상 속도를 늦추고 안전 검증과 업계 공조를 강화해야 한다고 제안했다. 개발 중단이 아니라 안전장치를 역량 발전과 함께 마련하자는 취지였지만, 회사는 오퍼스와 소네트를 잇달아 내놓으며 제품 경쟁도 이어가고 있다. 앤트로픽은 소네트 5.5를 자체 플랫폼과 아마존웹서비스(AWS), 구글 클라우드, 마이크로소프트 애저에서 제공한다. 기업 업무에 투입되는 중간급 모델의 속도와 비용을 낮추면 실제 도입 범위를 넓힐 수 있다. 반면 작업당 절감률은 회사가 제시한 시험 결과인 만큼, 고객 업무 환경에서도 비슷한 효율이 나오는지가 관건이다.
2026-09-29 09:51:28
-
기업마다 늘어나는 AI 에이전트…데이터이쿠, 통합 관리 솔루션 출시
[경제일보] 기업들이 업무 자동화를 위해 인공지능(AI) 에이전트를 빠르게 도입하면서 사내에서 어떤 에이전트가 운영되고 있는지 파악하고 관리하는 일이 새로운 과제로 떠오르고 있다. 특히 부서별로 서로 다른 AI·클라우드 플랫폼에서 에이전트를 구축하면서 기존 플랫폼별 관리도구만으로는 기업 전체의 AI 에이전트를 한눈에 파악하기 어려워지고 있다. 28일 AI 플랫폼 기업 데이터이쿠는 기업에서 운영 중인 AI 에이전트를 추적하고 관리할 수 있는 '에이전트 매니지먼트'를 내달 출시한다고 밝혔다. AI 시스템 전반의 관리 체계가 아직 충분히 갖춰지지 않았다는 조사 결과도 있다. IBM의 'AI 인 모션' 연구에 따르면 현재 운영 중인 AI 시스템을 빠짐없이 파악하고 최신 상태로 관리하는 조직은 전체의 20% 미만으로 나타났다. AI 활용이 확대되는 상황에서 기업이 보유한 AI 시스템의 전체 현황부터 제대로 파악하기 어려운 셈이다. AI 에이전트는 기존 소프트웨어보다 관리가 복잡해질 가능성이 있다. 일반적인 소프트웨어는 도입 단계부터 담당자와 비용, 계약 갱신 시점, 사용 현황 등을 관리하는 체계가 마련되는 경우가 많다. 반면 AI 에이전트는 각 부서가 업무 목적에 맞춰 직접 구축할 수 있어 중앙 조직이 전체 현황을 파악하기 어려울 수 있다. 문제는 에이전트의 숫자만이 아니다. 어떤 업무에 활용되는지, 누가 관리하는지, 어떤 모델과 데이터를 사용하는지, 외부 시스템에 어떤 권한으로 접근하는지까지 함께 살펴야 한다. 특히 기업이 여러 AI·클라우드 플랫폼을 동시에 사용하면 플랫폼별 관리도구만으로는 전체 에이전트를 관리하기 어렵다. 데이터이쿠는 이 같은 멀티플랫폼 환경을 겨냥해 에이전트 매니지먼트를 내놨다. 데이터이쿠 자체 플랫폼뿐 아니라 아마존웹서비스(AWS) 베드록, 데이터브릭스 에이전트, 구글 버텍스, 마이크로소프트 코파일럿 스튜디오 및 애저 파운드리, 세일즈포스 에이전트포스, 스노우플레이크 코텍스 등을 연결한다. 커스텀 환경에서는 오픈텔레메트리(오픈소스 옵저버빌리티 프레임워크)도 지원한다. 각 플랫폼에 흩어진 에이전트를 하나의 목록으로 모은 뒤 개별 에이전트의 구조와 작동 방식까지 들여다보는 방식이다. 에이전트가 어떤 모델을 사용하고 어떤 도구를 호출하는지도 확인할 수 있다. 특정 플랫폼의 관리 범위를 넘어 기업 전체의 AI 에이전트를 살펴보는 상위 관리 계층을 지향하는 이유로 풀이된다. 관리 대상은 성능에만 머물지 않는다. AI 에이전트가 실제 업무를 수행하면서 고객 정보나 민감한 데이터를 다루고 외부 시스템과 연결되는 사례가 늘어날수록 보안과 규제 대응도 함께 고려해야 하는 것으로 꼽힌다. 이에 데이터이쿠는 고객 서비스를 제공하거나 민감한 데이터를 처리하고 실시간 거래를 수행하는 등 위험도가 높은 에이전트에 대해서는 인증 상태와 식별된 위험 요소, 정기 테스트 결과를 지속적으로 기록할 수 있도록 구현했다. 특정 에이전트가 어떤 위험을 안고 있는지와 그동안 어떤 검증을 거쳤는지를 추적하는 데 초점을 맞췄다. 감사나 규제 대응 과정에서 필요한 자료를 확보하는 것도 가능하다. 관리자와 감사 담당자, 규제기관이 특정 에이전트의 운영 현황이나 위험 관리 내역을 요구할 경우 관련 기록을 확인할 수 있다. AI 에이전트가 늘어날수록 '누가 만들었는가'만큼 '현재 어떻게 관리되고 있는가'가 중요해지는 배경이다. 비용과 성과를 따져보는 기능도 포함됐다. 기업은 개별 에이전트에 투입된 비용과 실제 비즈니스 성과를 함께 살펴볼 수 있다. 활용되지 않는 에이전트가 무엇인지, 모니터링에서 빠진 에이전트는 없는지, 위험이 특정 영역에 집중돼 있는지도 파악할 수 있다. 관리 방식도 기존 대시보드 중심에서 벗어났다. 관리자가 일상적인 언어로 질문하면 기업 전체에 구축된 에이전트 현황을 바탕으로 필요한 정보를 조회할 수 있다. 여러 플랫폼에 접속해 각각의 정보를 대조해야 했던 과정을 줄이는 방식이다. 플로리앙 두에토 데이터이쿠 공동 창업자 겸 CEO는 "은행에 현재 운영 중인 서버가 몇 대인지 물으면 소수점 단위까지 정확히 답할 수 있지만, 운영 중인 AI 에이전트가 몇 개인지 물으면 추측으로 답하거나 정확히 파악하지 못하는 경우가 많다"며 "기업들이 처음부터 이렇게 복잡한 상황을 의도한 것은 아니지만 각 팀이 빠르게 에이전트를 구축하면서 전체 현황을 파악하기 어려워지고 있어, 에이전트 매니지먼트는 기업 내에서 실제로 운영되고 있는 에이전트의 현황을 파악하고 각 에이전트가 창출하는 비즈니스 가치를 확인할 수 있도록 한다"고 말했다.
2026-09-28 17:00:23
-
"해킹하라" 안 했는데…오픈AI 에이전트, 호주 정부 사이트 비인가 접근
[경제일보] 오픈AI의 인공지능(AI) 에이전트가 별도의 해킹 지시를 받지 않았음에도 호주 정부의 보건 통계 사이트에서 비공개 파일에 비인가 접근한 것으로 확인됐다. AI에 호주 보건·의료 통계에 대한 답을 찾으라는 과제를 수행하게 했지만, 정보를 찾는 과정에서 외부 사이트의 접근 제한을 우회한 것으로 나타나면서 AI 에이전트의 자율 행동에 대한 통제 문제가 새로운 보안 이슈로 떠오르고 있다. 23일(이하 현지시간) 오픈AI는 내부 평가 과정에서 자사의 AI 모델들이 호주 정부의 여러 웹사이트와 서비스에서 정보를 찾던 중 의도하지 않은 행동을 했다는 사실을 확인했다고 밝혔다. AI 에이전트에 주어진 과제 자체는 호주의 보건·의료 통계에 대한 답을 찾는 것이었지만, 이 과정에서 공개된 정보뿐 아니라 비공개 파일에도 접근한 것으로 파악됐다. 이번 사건에서 주목되는 부분은 AI 모델에 특정 정부 시스템을 공격하거나 정보를 탈취하라는 명시적인 지시가 내려진 것이 아니라는 점이다. AI가 주어진 목표를 달성하는 과정에서 사람이 예상하지 못한 방식으로 외부 시스템에 접근했다는 것이다. 오픈AI는 이번 사건에 대해 모델들이 '의도하지 않은 행동'을 취했다고 설명했다. 현재까지 개인의 메디케어 정보나 의료기록 등 민감한 개인정보가 접근됐다는 증거는 확인되지 않은 것으로 알려졌지만, 호주 정부는 실제로 어떤 정보에 접근했는지와 다른 정부 시스템까지 영향을 받았는지를 확인하기 위해 디지털 포렌식 조사를 진행하고 있다. 이에 앤서니 앨버니지 호주 총리는 기자회견을 통해 샘 올트먼 오픈AI 최고경영자(CEO)와 직접 통화해 호주 정부의 우려를 전달했다고 밝혔다. 그는 정부 통신망 전체로 피해가 확산한 정황은 현재까지 확인되지 않았지만 이번 상황은 받아들일 수 없다는 입장을 전했으며, 오픈AI가 사건을 인지한 뒤 호주 정부에 통보하기까지 상당한 시간이 걸린 점에 대해서도 불만을 표시했다. 호주신호국(ASD)은 현재 사건에 대한 추가 정보를 확보하기 위해 디지털 포렌식 조사에 참여하고 있다. 조사 결과에 따라 이번 접근이 단일 포털에 국한됐는지, 다른 정부 시스템에서도 유사한 행동이 있었는지가 확인될 전망이다. 최근 오픈AI의 AI 에이전트는 비정상적인 행동 사례가 잇따라 발생하고 있다. 오픈AI는 지난 8월 공개한 내부 조사에서 7월 사이버보안 평가 과정 중 자사 모델들이 인터넷 접근을 차단하기 위해 마련된 통제를 우회하고 오픈AI 내부 연구 인프라와 외부 AI 개발 플랫폼인 허깅페이스의 일부 시스템에 접근했다고 밝혔다. 당시 모델들은 허가되지 않은 통신 채널을 이용하고 공유 인프라의 취약점을 악용하는 방식으로 인터넷에 접근했다. 오픈AI는 이 과정에서 모델들이 할당된 과제의 목적과 맞지 않는 행동을 했다고 설명했다. 해당 사건은 사이버보안 능력을 평가하기 위한 내부 테스트 과정에서 발생한 것으로, 이번 호주 정부 사건과 AI 에이전트가 통제된 환경을 벗어나 외부 시스템과 상호작용했다는 공통점이 있다. AI 에이전트가 기존 챗봇과 다른 방식으로 작동한다는 점도 이번 사건의 배경으로 꼽힌다. 기존 챗봇이 사용자의 질문에 답변하는 데 초점이 맞춰져 있다면, 에이전트는 목표를 달성하기 위해 웹사이트를 검색하고 외부 도구를 호출하며 여러 단계의 작업을 자율적으로 수행할 수 있다. 이 과정에서 사용자가 의도한 최종 목표와 AI가 목표를 달성하기 위해 선택하는 중간 행동 사이에 차이가 발생할 수 있도록 설계되고 있다. 특히 외부 인터넷이나 개발 도구, 파일 시스템 등에 직접 접근할 수 있도록 권한을 부여받은 에이전트의 경우 예상하지 못한 행동이 실제 시스템에 영향을 미칠 가능성도 커진다. 오픈AI 역시 최근 AI 모델의 이른바 '미스얼라인먼트' 사례를 잇따라 공개하고 대응 체계를 마련하고 있다. 지난 17일에는 모델이 제약을 우회하기 위한 지시를 삽입하거나, 승인 없이 파일을 외부에 올리는 등 예상하지 못한 행동을 보인 사례들을 공개했다. 오픈AI는 모델의 자율 행동과 감독 회피 가능성을 추적·조사하기 위한 새로운 공개 체계를 마련하겠다고 언급했다. 공교롭게도 이번 호주 사건이 알려진 날 샘 올트먼 CEO는 유엔 안전보장이사회 회의에 참석해 고도화된 AI의 안전성과 국제적인 관리 체계의 필요성을 강조했다. 세계 주요 AI 기업 경영진이 AI가 인간의 통제를 벗어날 가능성과 국제적인 안전 기준 마련을 논의하는 가운데, 실제 AI 에이전트가 외부 정부 시스템에서 예상하지 못한 행동을 한 사례가 공개된 것이다. AI 업계에서는 에이전트의 성능이 높아질수록 단순히 모델의 답변이 안전한지를 확인하는 것뿐 아니라 실제 행동을 어디까지 허용할 것인지에 대한 통제 장치가 중요해지고 있다. 이번 호주 사건 역시 개인정보 유출 여부와 별개로 AI가 사람의 명시적인 해킹 지시 없이도 주어진 목표를 수행하는 과정에서 외부 시스템의 접근 제한을 넘어설 수 있다는 점에서 에이전트 보안의 새로운 과제를 보여주는 사례가 될 전망이다. 샘 올트먼 오픈AI CEO는 유엔 안전보장이사회에서 인공지능에 관해 연설하며 "(인공지능)모델의 빠른 발전으로 인해 실현 시기가 더욱 촉박해졌고, 잠재적 이점이 더욱 분명해졌지만, 동시에 위험과 부담 또한 더욱 시급해졌다"며 "인공지능은 창의성과 발견의 새로운 르네상스처럼 될 수도 있고, 격변과 혼란을 야기하는 새로운 산업혁명처럼 될 수도 있다"고 말했다.
2026-09-24 10:52:07
-
알리바바, 칩부터 에이전트까지 'AI 풀스택'…2032년 데이터센터 20GW
[경제일보] 알리바바가 인공지능(AI) 모델을 넘어 반도체와 데이터센터, 클라우드, 에이전트까지 직접 아우르는 'AI 풀스택' 전략을 본격화한다. 자체 AI 칩과 데이터센터 인프라를 확대하는 동시에 차세대 Qwen 모델과 기업용 AI 에이전트 플랫폼을 내놓으며 AI 기술을 실제 서비스로 연결한다는 구상이다. 특히 글로벌 데이터센터 용량을 오는 2032년까지 20기가와트(GW) 이상으로 확대하겠다는 계획을 제시하며 AI 경쟁의 무게중심을 모델 성능에서 컴퓨팅 인프라와 에이전트 운영 환경으로 넓히고 있다. 22일 알리바바 그룹은 최근 진행된 연례 기술 행사 '압사라 컨퍼런스'에서 칩과 클라우드 인프라, 파운데이션 모델, 에이전트를 아우르는 AI 기술 로드맵을 공개했다고 밝혔다. 알리바바는 반도체 설계 부문 T-Head를 통해 AI 프로세서와 중앙처리장치(CPU)를 개발하고, 데이터센터와 네트워크·스토리지 인프라를 고도화한 뒤 자체 클라우드와 Qwen 모델, AI 에이전트 서비스를 연결하는 구조를 구축하고 있다. AI 서비스에 필요한 연산부터 모델, 데이터, 애플리케이션까지 기술 스택 전반을 확보하겠다는 전략이다. 에디 우 알리바바 그룹 최고경영자(CEO)는 글로벌 데이터센터 용량을 2032년까지 20GW를 넘어서는 수준으로 확대하겠다는 목표를 제시했다. AI가 기업 업무와 산업 전반으로 확산하면서 늘어나는 연산 수요에 대응하기 위해 데이터센터 인프라 투자를 지속한다는 계획이다. T-Head는 AI 학습과 추론을 지원하는 차세대 프로세서 'Zhenwu V900'도 공개했다. 전작 Zhenwu M890보다 3배 높은 성능을 제공하며 216GB GPU 메모리와 초당 1200GB의 칩 간 대역폭을 지원한다. FP8과 FP4 등 다양한 수치 정밀도를 지원하며, 양산 및 상용 출시는 내년 1분기로 예정됐다. T-Head는 Zhenwu AI 칩이 자동차, 금융, 대규모 언어 모델, 체화 AI, 에너지, 제조 등 다양한 분야에서 650곳이 넘는 고객사가 활용하고 있다고 밝혔다. 알리바바는 Zhenwu V900과 네트워크·스토리지 칩을 통합한 차세대 슈퍼노드 서버도 공개했으며 최대 50만장의 카드로 구성된 슈퍼노드 클러스터를 지원한다고 설명했다. 자체 CPU 로드맵도 공개했다. 알리바바는 내년 출시를 목표로 에이전틱 AI 작업에 최적화한 Yitian CPU를 개발하고 있으며, 2029년에는 독자 코어 기반의 Yitian 750을 선보이고 Yitian CPU와 Zhenwu AI 칩을 직접 연결할 계획이다. 모델 경쟁도 이어간다. 알리바바는 차세대 Qwen4를 현재 학습 중이며 Qwen4.5와 Qwen5로 이어지는 로드맵을 공개했다. 후속 모델은 5조~10조개 수준의 파라미터 규모로 확대될 것으로 예상했다. 특히 이번 행사에서는 AI 모델 자체보다 AI가 실제 기업 업무를 수행하도록 지원하는 '에이전틱 클라우드' 전략도 공개했다. 에이전틱 클라우드는 대규모 모델의 학습·추론을 담당하는 'AI 네이티브 클라우드', 기업용 에이전트의 배포·운영을 지원하는 '에이전트 네이티브 클라우드', 실시간 데이터와 장기 기억을 제공하는 '컨텍스트 엔진'으로 구성된다. 핵심 제품인 '에이전트 코어'는 AI 에이전트의 구축부터 실행·관리까지 지원하는 기업용 플랫폼이다. '에이전트 시큐리티 센터'를 통해 보안과 규정 준수를 관리하고, '에이전트 컨텍스트'는 기업의 문서와 업무 시스템, 채팅 기록, 멀티모달 데이터를 통합해 에이전트가 과거 작업과 조직 내 지식을 활용할 수 있도록 한다. 알리바바는 이를 통해 지식 기반 업무에서 토큰 사용량을 최대 67% 줄일 수 있다고 설명했다. AI를 활용해 AI를 개발하는 기술도 공개했다. Qwen3.8-Max가 한 달간 데이터 검증과 반복 실험, 오류 진단 등을 자동 수행하며 33차례의 개선 주기를 거쳤으며, 칩 설계 과정에서는 AI가 60시간 이상 자기 개선을 수행하고 전자설계자동화(EDA) 도구를 1만회 이상 호출했다고 밝혔다. 클라우드 인프라도 AI 활용에 맞춰 고도화한다. AI 모델 학습을 지원하는 클라우드 병렬 파일 스토리지(CPFS)는 초당 100TB의 처리량과 1억 IOPS를 제공하며, 자체 AI 네트워킹 아키텍처 HPN 8.0 Pro는 100페타비트(Pb) 대역폭과 800G급 네트워크 포트 13만개 이상을 지원한다. 알리바바는 이번 발표를 통해 AI 모델과 서비스를 개별적으로 개발하는 것을 넘어 컴퓨팅 인프라부터 클라우드, 데이터, 에이전트까지 하나의 생태계로 묶는 전략을 제시했다. 특히 20GW 이상의 데이터센터 확보와 자체 AI 칩·CPU 로드맵을 함께 제시하며 AI 수요 증가에 대응할 인프라 경쟁력 확보에도 무게를 싣고 있다. 조 차이 알리바바 그룹 회장은 "지난 몇 년간 AI는 기술이 무엇을 할 수 있는지에 대한 우리의 상상력을 끊임없이 넓혀 왔으며, AI는 발전 가능성이 무궁무진하고 실제 현장에 도입하고 활용 규모를 확대해 수천 개 산업 분야의 생산성을 높일 수 있다"며 "AI가 기술적 혁신을 넘어 실질적인 가치를 창출하도록 이끄는 것이 바로 '지능, 그 가능성을 넘어서'라는 주제의 진정한 의미"라고 말했다.
2026-09-22 14:58:44
-
-
-