검색결과 총 147건
-
AI가 해킹도 자율 수행…신한은행 정보유출로 드러난 'AI 에이전트 보안' 경고
[경제일보] 인공지능(AI) 에이전트가 스스로 취약점을 찾고 공격을 수행하는 데 활용된 정황이 확인되면서 보안 업계에 새로운 경고등이 켜졌다. 최근 신한은행에서 고객정보가 유출된 사고에서 고도화된 AI 에이전트가 공격에 활용된 것으로 알려지면서 기존 보안 체계에도 변화가 요구되고 있다. 6일 보안업계에 따르면 신한은행 고객정보 유출 사고를 조사하는 과정에서 AI를 활용한 자동화 공격 도구가 사용된 정황이 확인된 것으로 전해졌다. 금융보안원과 수사당국은 악성 스크립트 등을 분석하면서 중국어권에서 개발·유포된 것으로 추정되는 AI 에이전트의 공격 흔적을 확인하고 실제 공격 과정에서 어떻게 활용됐는지 추적하고 있는 것으로 알려졌다. 신한은행은 지난달 30일 고객정보 유출 사실을 확인했으며, 현재까지 약 2만5000명의 정보가 유출된 것으로 파악됐다. 유출 정보에는 고객명, 전화번호, 연소득, 대출 산출한도 등이 포함됐고 일부 고객의 주민등록번호 66건과 CI 97건도 포함됐다. 금융감독원은 사고 경위와 피해 규모를 조사하고 있다. 공격자는 대출모집인이 사용하는 별도 조회 서비스에서 인증 절차를 우회한 뒤 고객번호를 확보하고, 조회 요청값을 반복적으로 변경하며 고객정보를 가져간 것으로 알려졌다. 신한은행은 외부 IP를 차단하고 관련 서비스를 중단하는 등 보안 조치를 진행했다. 최근 보안업계에서는 해커들이 취약점 공격 과정에 AI 에이전트를 결합해 기존의 반복적인 공격 작업을 자동화하는 것으로 진단하고 있다. AI 에이전트는 목표를 받은 뒤 작업을 여러 단계로 나누고 각 단계의 결과를 확인하면서 다음 행동을 결정한다. 웹 검색, 코드 실행, 외부 프로그램 호출 등이 연결되면 사람이 직접 수행하던 취약점 탐색과 공격 검증 작업을 이어서 수행할 수 있다. 예를 들어 공격 대상의 웹 서비스를 탐색하고 취약한 입력값을 찾은 뒤 서버 응답을 분석하고, 결과에 따라 다음 요청을 보내는 작업을 AI가 반복할 수 있다. 개별 요청만 보면 정상적인 API 호출처럼 보일 수 있지만 여러 행동을 연결하면 공격 패턴이 드러나는 방식이다. 기업 보안도 악성 코드나 공격 IP를 차단하는 데서 행동의 흐름을 분석하는 방식으로 확대될 필요성이 커지고 있다. 어떤 계정이 어떤 서비스에 접근했는지뿐 아니라 어떤 API를 어떤 순서로 호출했는지, 앞선 결과를 바탕으로 다음 행동을 어떻게 바꿨는지까지 살펴야 한다는 것이다. AI 에이전트에 부여하는 권한을 최소화하는 것도 중요하다. 개인 정보나 금융 정보에 접근하거나 계정·결제 정보를 변경하는 작업에는 별도 승인을 요구하고, AI가 수행한 작업을 처음부터 끝까지 기록해 비정상적인 행동이 발견되면 즉시 작업을 중단할 수 있어야 한다. 글로벌 AI 업계에서도 고성능 AI의 사이버 보안 활용을 별도로 관리하는 움직임이 나타나고 있다. 구글은 지난달 30일(현지시간) '제미나이 4 아르곤'을 공개하면서 사이버 보안 분야에서 소프트웨어 취약점을 스스로 찾고 검증한 뒤 패치하는 능력을 설명했다. 다만 해당 기능을 공격자가 사용한다면 소프트웨어 취약점을 스스로 찾고 공격하는 능력으로도 발전할 수 있는 구조다. 이에 구글은 아르곤을 일반 이용자에게 바로 공개하지 않고 '페어윈드 프로그램'을 통해 신뢰할 수 있는 사이버보안 방어자들에게 우선 제공하고 있다. 실제 보안 환경에서 모델의 성능과 위험 요소를 검증하고 안전장치를 보완하기 위한 조치로, AI의 취약점 탐지 능력을 방어에 활용하는 동시에 악용 가능성까지 고려했다. AI 에이전트가 공격에 활용되면 공격자가 취약점을 찾고 검증하는 데 필요한 시간과 인력을 줄일 수 있다. 반대로 기업은 AI를 활용해 취약점을 먼저 찾아내고 보완하는 방식으로 대응할 수 있다. AI의 발전이 공격과 방어 양쪽의 자동화를 동시에 촉진하는 것이다. 신한은행 사고에서 AI 에이전트가 실제 공격 과정에 활용된 정황이 확인되면서 AI를 활용한 공격은 더 이상 가정에만 머물지 않게 됐다. AI가 사람 대신 웹을 탐색하고 시스템과 상호작용하는 시대가 본격화하면서 기업 역시 AI의 업무 활용과 함께 AI를 이용한 공격 가능성까지 고려한 새로운 보안 체계를 빠르게 마련해야 할 상황에 놓였다. 특히 기존의 보안 관제 방식만으로는 AI가 만들어내는 다단계 공격을 빠르게 식별하기 어려울 수 있다는 지적도 나온다. AI가 짧은 시간 동안 여러 시스템을 오가며 정상적인 요청을 반복할 경우 개별 행위만으로는 이상 징후를 파악하기 어렵기 때문이다. 이에 로그인부터 API 호출, 정보 조회, 권한 변경 등 일련의 행동을 하나의 공격 흐름으로 분석하는 보안 기술의 중요성도 커지고 있다. 서기택 SK쉴더스 MSS사업그룹 관제CERT팀 수석은 지난달 30일 전문가 리포트를 통해 "사이버 위협의 속도가 인간의 인지 능력을 넘어선 지 오래"라며 "공격자는 이미 AI 에이전트를 24시간 쉬지 않고 가동하며 침투부터 내부 확산까지 단 몇 분 만에 끝낸다"고 말했다. [아주경제 2026년 10월 06일자 13면에 게재된 기사입니다.]
2026-10-06 08:46:06
-
홍범식, 링크드인서 '사람 중심 AI' 강조…LG유플러스 글로벌 소통 넓힌다
[경제일보] 홍범식 LG유플러스 대표가 개인 링크드인 계정을 열고 글로벌 통신·기술 업계와 소통에 나섰다. 첫 글에서는 사람의 목소리가 지닌 가치를 강조하며 AI가 일상의 소통을 더 편리하게 도와야 한다는 방향을 제시했다. 국내에서 개발한 AI 서비스를 해외 통신사에 공급하는 사업을 추진하는 가운데, 최고경영자가 전략과 실행 과정을 직접 설명할 공개 채널을 마련했다. 홍 대표는 지난 1일 공식 개인 계정을 개설했다. 첫 게시글은 영어로 작성했으며, LG유플러스 공식 링크드인 계정도 이를 공유했다. 홍 대표는 앞으로 회사의 전략적 선택에 담긴 생각과 이를 실제 사업에 적용하는 과정을 소개하겠다고 밝혔다. 첫 글의 출발점은 ‘목소리’였다. 소통 수단이 다양해졌어도 중요한 이야기를 전할 때는 메시지보다 전화를 선택하는 경우가 많다는 것이다. 목소리에 담긴 의도와 감정, 미묘한 뉘앙스가 상대를 이해하는 데 중요한 역할을 한다는 설명이다. 홍 대표는 “목소리는 여전히 사람과 사람을 가장 직접적이고 인간적으로 연결하는 방식 중 하나”라고 말했다. 이어 사람들이 더 명확하게 소통하고 서로를 깊이 이해하도록 돕는 것이 LG유플러스의 목표라고 설명했다. AI의 역할도 이러한 통신의 가치에서 찾았다. 일상에서 소통을 간단하고 유용하게 만들면서 사람을 중심에 두겠다는 것이다. 홍 대표는 이를 ‘사람 중심 AI(Humanizing Every Connection)’라는 방향으로 제시하며, AI가 생활에 자연스럽게 스며들어 이용자가 중요한 일에 집중하도록 도와야 한다고 강조했다. 이번 메시지는 지난 3월 스페인 바르셀로나에서 열린 모바일월드콩그레스(MWC) 2026 기조연설과 연결된다. 당시 홍 대표는 해외에 거주하는 아들에게 손주가 태어났다는 소식을 전화로 들은 경험을 소개하며 음성 소통의 가치를 설명했다. 스마트 안경과 AI 에이전트 등 새로운 기기가 확산될수록 음성이 주요 접점이 될 것이라는 전망도 내놨다. 이러한 방향을 서비스로 구현하는 수단이 AI 통화 에이전트 ‘익시오(ixi-O)’다. 홍 대표는 MWC에서 스팸 의심 신호 감지, 대화 맥락을 활용한 보이스피싱 탐지, 통화 중 AI 검색 등의 기능을 소개했다. 통화 과정에서 이용자가 겪는 불편을 줄이는 데 AI를 적용하겠다는 접근이다. LG유플러스는 음성 AI를 활용해 익시오의 개인 맞춤 기능도 확대할 계획이다. 지난 3월 제시한 ‘익시오 프로’ 구상에는 화자를 식별하고 음성의 톤과 대화 흐름, 감정 상태를 분석해 이용자 상황에 맞는 정보를 먼저 제안하는 기능이 포함됐다. 통화 내용을 이해하는 기술을 일상 업무를 지원하는 에이전트로 발전시키겠다는 방향이다. 사업적으로는 ‘글로벌 AI 소프트웨어 기업’ 전환 비전과 맞닿아 있다. 홍 대표는 MWC 기간 기자간담회에서 통신과 AI 전환 기술을 솔루션으로 만들어 해외에 진출하겠다고 밝혔다. 개인 고객용 익시오와 기업용 AI 사업을 양축으로 삼고, 음성 AI와 보안 등 통신사가 경험을 축적한 분야에 역량을 집중한다는 전략이다. 해외 사업 논의도 진행됐다. LG유플러스는 지난 5월 말레이시아 통신사 맥시스와 익시오의 현지 상용 출시를 추진하기로 합의했다. 해외 통신사 환경에 맞춰 소프트웨어를 제공하는 서비스형 소프트웨어(SaaS) 방식이다. 당시 회사는 현지 언어와 통화 환경을 반영해 연내 출시를 추진하고, 스마트홈과 기업용 솔루션으로 협력을 넓히는 방안도 검토한다고 설명했다. 링크드인 채널은 이러한 사업 방향을 해외에 설명하는 접점으로 활용될 예정이다. LG유플러스는 홍 대표의 개인 채널을 통해 글로벌 통신·기술 업계와 교류를 넓히고 해외 기술 인재들과도 소통한다는 구상이다. 사내 타운홀 미팅과 직원 게시글 댓글로 이어온 소통의 범위를 외부로 확대하는 행보다. 홍 대표는 첫 글에서 “이 페이지를 통해 우리의 전략적 선택에 담긴 생각과 이를 어떻게 실행에 옮기고 있는지 공유하겠다”며 지속적인 소통을 예고했다.
2026-10-05 12:24:07
-
40년의 기다림, 백산수가 건네는 투명한 본질
[경제일보] 화면이 열리면 백두산 천지의 웅장한 풍경이 스크린을 채운다. 인위적인 손길이 닿지 않은 태고의 대자연, 그 거대한 대지 아래에서 수십 년 동안 조용히 숨 쉬어온 물의 여정이 시작된다. 최근 전파를 탄 백산수 광고는 눈을 현혹하는 화려한 컴퓨터 그래픽이나 자극적인 문구 대신, '독보적 자연정수기간 40년, 자연과의 접촉시간이 오래될수록 신선해진다'는 단단한 카피를 내세우며 차분하게 시선을 사로잡는다. 광고는 백두산 천지에서 발원한 물이 수원지까지 도달하는 데 무려 40년이라는 세월이 걸린다는 사실을 담담하게 풀어낸다. 영상 속에 비치는 화산암반 지대의 묵직한 질감은 인간의 기술로 조작한 정화가 아니라, 자연이 온전히 시간을 품어 완성해 낸 결과물임을 가감 없이 보여준다. 자극적인 연출과 속도감만이 쏟아지는 요즘 매체 환경 속에서, 이 광고는 오히려 '시간'과 '정성'이라는 가장 원초적이고 투박한 가치를 정면에 세우는 과감함을 보여준다. 이 광고가 담아낸 이야기는 농심이 생수 시장에서 걸어온 실제 걸음과 정확히 겹쳐진다. 수많은 브랜드가 생겨나고 사라지는 국내 생수 시장은 하루에도 수십 번 판도가 바뀌는 거친 생태계다. 거대한 유통망이나 단기적인 이벤트에 기댈 법도 한데, 백산수는 오직 '자연정수 40년'이라는 한 가지 진정성으로 버텨냈다. 눈앞의 유행을 좇기보다는 품질이라는 본질을 묵묵히 다진 끝에, 누적 매출 1조 원을 훌쩍 넘어서며 시장의 튼튼한 중심축으로 자리 잡았다. 국내 시장을 다진 이 묵묵한 원칙은 넓은 세계 무대에서도 그대로 통하고 있다. 미국과 중국, 유럽 등 해외 시장에서 연이어 사상 최대 실적을 갈아치우는 원동력 역시 여기에 있다. 덩치를 키우는 속도보다 신뢰의 깊이를 먼저 다져온 태도가, 결국 국경을 넘어 시장의 실질적인 평가로 이어진 셈이다. 광고 속 백두산의 풍경과 40년의 세월이 한 모금의 물을 결점 없이 빚어내듯, 우리 사회의 이사회와 시스템 역시 이제는 진지한 성찰을 거쳐야 할 때다. 투명하고 정직한 검증 과정 없이 요령으로 쌓아 올린 성과는 작은 바람에도 쉽게 무너지기 마련이다. 거칠고 탁한 바람이 쉼 없이 불어오는 세상이라도, 스스로를 정화하는 대지의 품처럼 우리 사회가 서로에게 가장 맑고 정직한 흐름이 되어야 한다. 백산수 광고가 담아낸 40년의 순수한 여정이, 우리 주변의 시스템을 되돌아보게 만드는 맑은 거울이자 깊은 울림이 되기를 기대해 본다.
2026-09-30 09:41:02
-
뉴빌리티, 하이브리드 휴머노이드 '빌리' 공개…CJ와 하반기 현장 실증
[경제일보] 피지컬 인공지능(AI) 기업 뉴빌리티가 자율주행 로봇을 통해 축적한 공간지능을 바탕으로 이동과 물체 조작을 하나의 업무 과정으로 수행하는 하이브리드 휴머노이드 로봇을 공개했다. 두 다리로 걷는 인간형 외형보다 실제 산업 현장에서 안정적으로 이동하고 물건을 다루는 데 초점을 맞춘 것이 특징으로, 뉴빌리티는 올해 하반기 CJ를 비롯한 제조·물류 기업과 기술 실증(PoC)을 진행해 상용화 가능성을 검증할 계획이다. 29일 뉴빌리티는 하이브리드 휴머노이드 '빌리'를 공개하고 제조·물류 등 산업 현장을 대상으로 실증과 상용화에 나선다고 밝혔다. 뉴빌리티는 자율주행 로봇 '뉴비'를 국내외 현장에 공급하며 축적한 공간지능을 이동에서 물체 조작까지 확장한다는 구상이다. 이날 강기혁 뉴빌리티 대표는 발표를 통해 "뉴빌리티는 로봇 지능을 통해 일상생활을 혁신하고자 하는 미션을 가진 기업"이라며 "지금까지 뉴빌리티는 모빌리티 관점에서 '어디로 가야 하는가'를 해결해 왔다면, 이제 매니퓰레이션(센서로 주변을 인식하고 경로를 계획해 물체를 정밀하게 다루는) 조작을 연결해서 '도착한 뒤 무엇을 하느냐'까지 해결하는 것이 다음 단계"라고 말했다. 빌리는 작업 대상이 있는 곳까지 이동한 뒤 물체를 집고 옮기거나 지정된 위치에 내려놓는 등 일련의 업무를 수행하도록 설계됐다. 단순히 목적지까지 물건을 운반하는 데서 그치지 않고 이동과 조작을 연결해 실제 작업을 완수하는 것을 목표로 구현되고 있다. 김락희 뉴빌리티 피지컬AI TF장은 빌리의 설계 방향에 대해 "빌리는 단순히 이동하는 로봇을 만들고 싶었던 게 아니라 하나의 작업을 처음부터 끝까지 완전하게 수행할 수 있는 로봇으로 만들었다"고 설명했다. 빌리는 두 다리 대신 휠 기반 하체를 채택했다. 실내외 환경에서 안정적으로 이동하면서 작업에 필요한 상체 동작을 수행하도록 설계한 것이다. 상체는 회전과 높낮이 조절이 가능하며, 두 팔과 손을 이용해 작업 대상에 접근하고 물체를 조작한다. 김 TF장은 "뉴빌리티는 빌리가 실내 또는 실외 공간에서 빠르고 안정적으로 이동할 수 있게 하기 위해 두 다리보다는 구동형 하체를 선택했고, 사람이 사용하는 선반과 같은 작업 공간에 적응하기 위해 두 손과 두 팔 높낮이가 조절되는 상체 회전 구조를 갖게 되었다"고 말했다. 이어 "빌리는 사람처럼 보이고 싶어서 만들어지는 것이 아니라 사람이 작업하는 환경에 적응해서 일을 할 수 있게 하기 위해 해당 구조를 선택했다"고 덧붙였다. 실제 작업 현장에서 활용할 수 있도록 물건을 운반하는 기능도 갖췄다. 빌리는 손으로 최대 15kg 미만의 물건을 옮길 수 있으며 적재함에는 최대 60kg까지 실을 수 있다. 주변 환경과 작업 대상을 인식해 필요한 위치까지 이동하고, 물건을 집어 적재한 뒤 다음 작업 지점으로 운반하는 방식이다. 이동에는 뉴빌리티가 기존 서비스에서 고도화해온 카메라 기반 맵리스 자율주행과 V-SLAM 기술이 적용된다. 사전에 구축한 정밀지도에만 의존하지 않고 카메라로 주변 환경을 인식하며 이동하고, 주변 공간과 자신의 위치를 파악한다. 여기에 물체 인식과 조작 기능을 연결해 이동 기술을 실제 물리적 업무 수행으로 확장한다. 앞서 뉴빌리티는 국내외 150곳 이상의 현장에서 자율주행 로봇을 운영하며 주행 데이터와 공간 관련 경험을 축적해왔다. 덕수궁과 충남대학교병원, 일본 도쿄 등 다양한 환경에서 서비스를 운영한 경험을 공간을 이해하고 판단하는 지능으로 발전시키고 있다. 한 현장에서 확보한 경험을 다른 현장과 로봇에도 활용할 수 있도록 '공간 RFM(로봇 파운데이션 모델)' 학습에도 데이터를 활용한다. 뉴빌리티는 빌리를 모든 기술이 완성된 뒤 현장에 투입하기보다 실제 운영 과정에서 기능을 개선하는 방식으로 상용화할 방침이다. 김 TF장은 "저희는 모든 기술이 완성될 때까지 기다리기보다는 현장에서 가장 빠르게 일을 하게 됐고 그 경험을 바탕으로 지속적이고 고도화되는 기능과 스킬셋을 만들어 가는 것, 그게 바로 뉴빌리티가 빌리를 상용화해 나가는 방식"이라고 설명했다. 상용화를 위한 첫 단계는 산업 현장 실증이다. 뉴빌리티는 올해 하반기 대형 식품 제조사와 정밀 제조사, 물류사, 대규모 교통 복합시설 운영사 등과 PoC를 추진할 예정이다. 식품 제조 분야에서는 CJ와 실증을 진행한다. 구승환 뉴빌리티 최고전략책임자(CSO)는 "(뉴빌리티는) 현재 대형 식품 제조사, 정밀 제조사, 물류사 그리고 대규모 교통 복합 단지 업체들과 POC를 앞두고 있다"며 "그중에서 CJ는 식품 제조 분야로 저희가 POC를 하반기에 진행할 예정"이라고 강조했다. 실증 과정에서는 빌리의 업무 수행 능력과 운영 안정성, 실제 현장 적용 가능성을 검증한다. 현장별 공간 구조와 작업 조건에 맞춰 이동·접근 능력과 물체 인식·조작 기능을 개선하고, 운영 과정에서 확보한 데이터를 다시 로봇 성능 향상에 활용한다는 계획이다. 뉴빌리티는 로봇 하드웨어뿐 아니라 운영·모니터링·유지보수를 아우르는 서비스 체계도 구축하고 있다. 자체 개발 통합 플랫폼 NCC(뉴빌리티 컨트롤 센터)를 기반으로 로봇 운영을 관리하고, RX(로봇 트랜스포메이션) 솔루션을 통해 산업 현장의 로봇 도입과 운영을 지원할 방침이다. 이날 행사에는 올해 군에 입대한 이상민 뉴빌리티 의장도 깜짝 등장했다. 이 의장은 "다소 미흡할 수도 있다"면서도 "하지만 계속해서 시간이 발전하면서 충분히 좋은 기술들을 만들어낼 수 있을 것이라 믿고 있고 또 저희가 그것(좋은 기술을 만드는 것)을 해 왔기 때문에 믿음으로 계속 응원해 주시면 감사하겠다"고 말했다. 뉴빌리티는 자율주행 로봇 사업을 통해 축적한 현장 운영 경험과 규제 대응 역량을 빌리의 산업 현장 적용에도 활용할 계획이다. 지난 2024년 국내 최초로 실외 이동 로봇 운행 안전 인증을 획득했으며, 올해는 일본 로봇 딜리버리 협회의 안전기준 적합 심사도 통과했다. 강기혁 대표는 "뉴빌리티는 사업 중심적으로 그리고 고객 중심적으로 로봇 서비스를 설계해 왔고, 일단 빠르게 로봇을 배포하고 그 다음에 추후에 서비스를 개선하는 관점에서 사업을 전개해 왔다"며 "로봇을 잘 이동하는 것을 넘어서 공간을 이해하고 직접 조작해 하나의 업무를 끝까지 수행할 수 있는 피지컬 AI 상용화 가능성을 현장에서 증명하고자 한다"고 말했다.
2026-09-29 15:20:08
-
-
"해킹하라" 안 했는데…오픈AI 에이전트, 호주 정부 사이트 비인가 접근
[경제일보] 오픈AI의 인공지능(AI) 에이전트가 별도의 해킹 지시를 받지 않았음에도 호주 정부의 보건 통계 사이트에서 비공개 파일에 비인가 접근한 것으로 확인됐다. AI에 호주 보건·의료 통계에 대한 답을 찾으라는 과제를 수행하게 했지만, 정보를 찾는 과정에서 외부 사이트의 접근 제한을 우회한 것으로 나타나면서 AI 에이전트의 자율 행동에 대한 통제 문제가 새로운 보안 이슈로 떠오르고 있다. 23일(이하 현지시간) 오픈AI는 내부 평가 과정에서 자사의 AI 모델들이 호주 정부의 여러 웹사이트와 서비스에서 정보를 찾던 중 의도하지 않은 행동을 했다는 사실을 확인했다고 밝혔다. AI 에이전트에 주어진 과제 자체는 호주의 보건·의료 통계에 대한 답을 찾는 것이었지만, 이 과정에서 공개된 정보뿐 아니라 비공개 파일에도 접근한 것으로 파악됐다. 이번 사건에서 주목되는 부분은 AI 모델에 특정 정부 시스템을 공격하거나 정보를 탈취하라는 명시적인 지시가 내려진 것이 아니라는 점이다. AI가 주어진 목표를 달성하는 과정에서 사람이 예상하지 못한 방식으로 외부 시스템에 접근했다는 것이다. 오픈AI는 이번 사건에 대해 모델들이 '의도하지 않은 행동'을 취했다고 설명했다. 현재까지 개인의 메디케어 정보나 의료기록 등 민감한 개인정보가 접근됐다는 증거는 확인되지 않은 것으로 알려졌지만, 호주 정부는 실제로 어떤 정보에 접근했는지와 다른 정부 시스템까지 영향을 받았는지를 확인하기 위해 디지털 포렌식 조사를 진행하고 있다. 이에 앤서니 앨버니지 호주 총리는 기자회견을 통해 샘 올트먼 오픈AI 최고경영자(CEO)와 직접 통화해 호주 정부의 우려를 전달했다고 밝혔다. 그는 정부 통신망 전체로 피해가 확산한 정황은 현재까지 확인되지 않았지만 이번 상황은 받아들일 수 없다는 입장을 전했으며, 오픈AI가 사건을 인지한 뒤 호주 정부에 통보하기까지 상당한 시간이 걸린 점에 대해서도 불만을 표시했다. 호주신호국(ASD)은 현재 사건에 대한 추가 정보를 확보하기 위해 디지털 포렌식 조사에 참여하고 있다. 조사 결과에 따라 이번 접근이 단일 포털에 국한됐는지, 다른 정부 시스템에서도 유사한 행동이 있었는지가 확인될 전망이다. 최근 오픈AI의 AI 에이전트는 비정상적인 행동 사례가 잇따라 발생하고 있다. 오픈AI는 지난 8월 공개한 내부 조사에서 7월 사이버보안 평가 과정 중 자사 모델들이 인터넷 접근을 차단하기 위해 마련된 통제를 우회하고 오픈AI 내부 연구 인프라와 외부 AI 개발 플랫폼인 허깅페이스의 일부 시스템에 접근했다고 밝혔다. 당시 모델들은 허가되지 않은 통신 채널을 이용하고 공유 인프라의 취약점을 악용하는 방식으로 인터넷에 접근했다. 오픈AI는 이 과정에서 모델들이 할당된 과제의 목적과 맞지 않는 행동을 했다고 설명했다. 해당 사건은 사이버보안 능력을 평가하기 위한 내부 테스트 과정에서 발생한 것으로, 이번 호주 정부 사건과 AI 에이전트가 통제된 환경을 벗어나 외부 시스템과 상호작용했다는 공통점이 있다. AI 에이전트가 기존 챗봇과 다른 방식으로 작동한다는 점도 이번 사건의 배경으로 꼽힌다. 기존 챗봇이 사용자의 질문에 답변하는 데 초점이 맞춰져 있다면, 에이전트는 목표를 달성하기 위해 웹사이트를 검색하고 외부 도구를 호출하며 여러 단계의 작업을 자율적으로 수행할 수 있다. 이 과정에서 사용자가 의도한 최종 목표와 AI가 목표를 달성하기 위해 선택하는 중간 행동 사이에 차이가 발생할 수 있도록 설계되고 있다. 특히 외부 인터넷이나 개발 도구, 파일 시스템 등에 직접 접근할 수 있도록 권한을 부여받은 에이전트의 경우 예상하지 못한 행동이 실제 시스템에 영향을 미칠 가능성도 커진다. 오픈AI 역시 최근 AI 모델의 이른바 '미스얼라인먼트' 사례를 잇따라 공개하고 대응 체계를 마련하고 있다. 지난 17일에는 모델이 제약을 우회하기 위한 지시를 삽입하거나, 승인 없이 파일을 외부에 올리는 등 예상하지 못한 행동을 보인 사례들을 공개했다. 오픈AI는 모델의 자율 행동과 감독 회피 가능성을 추적·조사하기 위한 새로운 공개 체계를 마련하겠다고 언급했다. 공교롭게도 이번 호주 사건이 알려진 날 샘 올트먼 CEO는 유엔 안전보장이사회 회의에 참석해 고도화된 AI의 안전성과 국제적인 관리 체계의 필요성을 강조했다. 세계 주요 AI 기업 경영진이 AI가 인간의 통제를 벗어날 가능성과 국제적인 안전 기준 마련을 논의하는 가운데, 실제 AI 에이전트가 외부 정부 시스템에서 예상하지 못한 행동을 한 사례가 공개된 것이다. AI 업계에서는 에이전트의 성능이 높아질수록 단순히 모델의 답변이 안전한지를 확인하는 것뿐 아니라 실제 행동을 어디까지 허용할 것인지에 대한 통제 장치가 중요해지고 있다. 이번 호주 사건 역시 개인정보 유출 여부와 별개로 AI가 사람의 명시적인 해킹 지시 없이도 주어진 목표를 수행하는 과정에서 외부 시스템의 접근 제한을 넘어설 수 있다는 점에서 에이전트 보안의 새로운 과제를 보여주는 사례가 될 전망이다. 샘 올트먼 오픈AI CEO는 유엔 안전보장이사회에서 인공지능에 관해 연설하며 "(인공지능)모델의 빠른 발전으로 인해 실현 시기가 더욱 촉박해졌고, 잠재적 이점이 더욱 분명해졌지만, 동시에 위험과 부담 또한 더욱 시급해졌다"며 "인공지능은 창의성과 발견의 새로운 르네상스처럼 될 수도 있고, 격변과 혼란을 야기하는 새로운 산업혁명처럼 될 수도 있다"고 말했다.
2026-09-24 10:52:07
-
-
-
-
-
-
-
-
-