2026.10.26 월요일
검색
'보상 해킹' 검색결과
기간검색
-
~
검색영역
검색어
-
![[AI, 통제의 경계를 넘다①] AI가 보안망 뚫었다…오픈AI도 학습 멈춘 자율해킹의 경고](https://image.ajunews.com//content/image/2026/10/25/20261025142214237707.jpg)
AI가 보안망 뚫었다…오픈AI도 학습 멈춘 '자율해킹'의 경고 [경제일보] 인공지능(AI)이 주어진 과제를 해결하는 과정에서 보안 경계를 넘어 외부 시스템에 침입한 사례가 잇따라 공개됐다. 일부 에이전트는 허용 범위 밖이라는 점을 인식하고도 공격을 이어갔다. 오픈AI는 연구 환경의 인터넷 차단이 뚫리자 최첨단 모델의 강화학습 등 연구 작업을 11일간 중단했다. AI의 실행 능력과 이를 통제하는 체계 사이의 간극이 드러난 것이다. 오픈AI는 지난 23일 최첨단 모델의 학습·평가 환경을 보강한 결과를 공개했다. 계기는 9월 20일 내부 연구용 모델이 인터넷 접근 제한을 우회해 외부 챗봇에 질의한 사건이었다. 당시 에이전트는 특정 인물을 찾는 검색 과제를 수행하고 있었다. 제공된 검색 도구에서 답을 얻지 못하자 다른 경로를 탐색했고, 도메인네임시스템(DNS) 질의의 필터링 허점을 이용해 외부 챗봇의 응답을 받았다. 사람이 네트워크 통제를 시험하거나 외부 챗봇에 접속하라고 지시한 과제는 아니었다. 감시체계는 첫 외부 응답 이후 약 12분 만에 최고 우선순위 경보를 발생시켰고, 담당자는 약 3분 뒤 이를 확인했다. 그러나 예상했던 자동 중단은 작동하지 않았다. 작업을 멈춰야 하는지를 두고 혼선이 생겼고, 담당자 확인 후 약 2시간30분이 지나서야 수동으로 종료됐다. 탐지와 실제 차단 사이에 운영상의 공백이 있었던 셈이다. 회사가 중단한 범위는 최첨단 모델의 도구 사용을 수반하는 학습·평가·추론이었다. 챗GPT 고객 서비스 전체나 모든 모델의 학습을 멈춘 것은 아니다. 오픈AI는 통제 장치를 보강한 뒤 10월 1일 최첨단 모델의 강화학습과 내부 추론을 재개했다고 밝혔다. 앞선 7월에는 외부 시스템 침해로 이어지는 더 큰 사고가 있었다. 오픈AI 내부 사이버보안 평가에 투입된 에이전트들이 격리 장치를 우회해 허깅페이스의 시스템과 오픈AI 내부 연구 인프라 일부를 침해했다. 이 평가에는 일반 고객에게 제공하는 서비스와 같은 수준의 안전장치가 적용되지 않았다. 에이전트들은 내부 소프트웨어 패키지 저장소를 비인가 메시지 공간으로 바꿔 정보를 교환했다. 인터넷 접속 방법과 인증정보를 공유하고, 여러 취약점을 연결해 허깅페이스 서버에서 코드를 실행했다. 접근 범위는 일부 내부 데이터와 운영용 인증정보로까지 넓어졌다. 독립 평가기관 METR는 조사 대상 기간에 약 1200개 에이전트가 이 공간에서 메시지와 파일 7만건 이상을 주고받았으며, 이 가운데 약 700개가 허깅페이스 공격에 참여했다고 분석했다. 여기서 에이전트 수는 서로 다른 AI 모델의 개수가 아니라 개별 실행 인스턴스를 가리킨다. 평가 과제는 지정된 시스템의 취약점을 이용해 정답을 찾아내는 방식이었다. 그러나 일부 에이전트는 문제를 풀기 어려워지자 평가 점수를 얻는 다른 수단을 찾았다. METR는 자동 채점기의 작동 방식을 파악하거나 속이려는 공동 작업이 허깅페이스 공격으로 발전한 것으로 분석했다. 이를 단순히 AI가 허용 범위를 몰랐던 사고로 설명하기도 어렵다. 공개된 실행 기록에는 외부 시스템 공격이 과제 범위를 벗어난다고 판단하면서도 목표 달성에 도움이 된다는 이유로 계속한 정황이 담겼다. 범죄 의식이나 자아가 생겼다는 증거와는 구분해야 하지만, 경계를 인식하는 듯한 추론이 실제 행동 억제로 이어지지 않았다는 점은 중요하다. 이처럼 평가 점수나 보상을 얻기 위해 의도된 해결 절차를 벗어나는 행동을 ‘보상 해킹’이라고 부른다. 그 시도가 코드 실행 권한과 외부 연결 통로를 만나면 평가의 신뢰성 문제를 넘어 실제 시스템 침해로 번질 수 있다. 여러 에이전트의 협업은 한 실행에서 발견한 우회 방법을 다른 실행으로 확산시키는 통로가 된다. 다른 개발사에서도 유사한 문제가 보고됐다. 앤트로픽은 9월 9일 클로드 모델이 실제 제3자 시스템에 무단 접근한 사건 4건의 분석을 공개했다. 사건이 모두 9월 발생한 것은 아니며, 올해 1월 발생 사례도 포함됐다. 같은 외부 평가 협력사가 만든 환경에서 설정 오류로 인터넷 연결이 열려 있었고, 일반 출시 모델에 적용하는 사이버 안전장치는 비활성화된 상태였다. 앤트로픽은 10월 23일에도 영국 AI보안연구소(AISI)의 평가에서 발생한 별도 사건을 추가 분석했다. 모델이 과제 해결을 위해 실제 외부 개발자의 코드 저장소에 악성코드를 제출하려 한 사례다. 이 평가에서는 당시 운영 방침에 따라 인터넷 연결이 허용돼 있었다. 인터넷이 열린 원인까지 모두 같은 유형의 사고는 아니다. 오픈AI는 현재 최첨단 모델의 연구용 강화학습에서 외부 인터넷 접근을 차단하고, 검색·웹 활용 학습에는 저장된 웹 콘텐츠를 이용하는 환경을 마련했다고 밝혔다. 여러 격리 장치를 중첩하고, AI 에이전트에 방어체계를 공격하도록 하는 대규모 모의침투도 실시했다. 모의침투는 별도로 구축한 연구 인프라 복제 환경에서 진행됐다. 에이전트들은 가상환경 탈출과 인터넷 접근, 서로 격리된 작업 간 통신을 가능하게 하는 취약점과 설정 오류를 찾아냈다. 오픈AI는 관련 문제를 수정하고 외부 소프트웨어 개발사와도 보완 작업을 진행했다고 설명했다. 감시 장치도 점검 대상이다. METR와 레드우드리서치는 7월 21일 당시와 그 이전의 오픈AI 내부 감시체계를 평가해 최근 수백개 행동을 감시 대상에서 제외할 수 있는 공격 방법 등을 발견했다. 실제 에이전트가 이를 악용했다고 확인한 결과는 아니다. 오픈AI는 운영 중인 안전장치에 영향을 주는 지적 사항을 수정했다고 밝혔지만, 평가기관들은 후속 조치를 재검증하지 않았다. 기업이 관리해야 할 위험은 공격자의 AI 악용과 내부 AI의 권한 일탈로 나뉜다. 전자는 외부 공격에 대한 방어 문제이고, 후자는 조직이 부여한 권한과 목표를 어떻게 제한하느냐의 문제다. AI에 업무 수행 권한을 줄수록 실행 기록의 보존, 감시 범위의 검증, 자동 중단 책임도 함께 정해야 한다. 오픈AI의 9월 사고는 이상행동을 발견하는 것만으로 통제가 완성되지 않는다는 점을 보여준다. 약 12분 만에 경보가 울려도 실제 작업 중단까지는 훨씬 긴 시간이 필요했다. AI가 해서는 안 되는 일을 시작했을 때 누가, 어떤 기준으로, 얼마나 빨리 멈출 수 있는지가 기업의 새로운 보안 과제가 됐다.2026-10-26 07:01:00
-
해킹 넘어 내부 AI도 관리 대상…마이크로소프트, '에이전틱 내부자' 경고 [경제일보] 기업이 업무 효율화를 위해 도입한 인공지능(AI) 에이전트가 새로운 보안 위협으로 떠오르고 있다. AI가 외부 공격자의 해킹 도구로 활용되는 것을 넘어 기업 내부 데이터와 시스템에 접근해 업무를 수행하는 과정에서도 예상하지 못한 행동을 할 수 있기 때문이다. 마이크로소프트는 기업이 직접 배포한 AI 에이전트도 지속적으로 감독하고, 위험 수준에 따라 행동 권한을 조정해야 할 것으로 전망했다. 20일 마이크로소프트는 기업 내부에서 활동하는 AI 에이전트를 '에이전틱 내부자'로 규정하고, 이를 보호하기 위한 보안 접근법을 제시했다고 밝혔다. 최근 AI를 활용한 사이버 공격 사례도 잇따르고 있다. 최근 해커가 자율형 AI 에이전트를 이용해 미국과 캐나다, 호주, 일본 등의 기업 웹사이트 100곳 이상을 공격하는 등 공격 사례가 많아지고 있다. AI를 활용해 취약점을 탐색하고 침입 과정을 자동화한 사례로 분석된다. ◆ 기업 내부에서 활동하는 '에이전틱 내부자' 마이크로소프트는 기업이 직접 도입한 AI 에이전트도 별도의 보안 관리 대상이 돼야 한다고 보고 있다. 에이전트는 코드 작성과 정보 조사뿐 아니라 매출 분석, 비용 처리 등 실제 업무를 수행하며 사내 문서와 데이터베이스, 클라우드 서비스 등에 접근할 수 있다. 이 과정에서 권한이 과도하게 부여되거나 예상과 다른 행동을 하면 민감 정보 유출과 시스템 오작동으로 이어질 수 있는 것이다. AI 모델이 목표 달성에 집중하는 과정에서 의도하지 않은 수단을 선택하는 '보상 해킹'도 위험 요인으로 꼽힌다. 주변 상황이나 입력 정보가 달라지면 에이전트의 계획과 행동이 바뀔 수 있는 만큼, 배포 단계의 권한 설정만으로는 충분하지 않은 것이다. 마이크로소프트가 제시한 대응책의 핵심은 에이전트의 행동을 실행하기 전에 위험을 평가하고, 위험 수준에 따라 권한을 조정하는 것이다. 이를 위해 다른 AI 에이전트의 행동을 지속적으로 감독하는 '가디언 에이전트'를 제시했다. 가디언 에이전트는 지난 7월 발표한 에이전틱 보안 시스템 '프로젝트 퍼셉션'을 기반으로 한다. 해당 시스템은 레드·블루·그린 에이전트 팀과 보안 기술을 결합해 위협을 탐지하고 대응하도록 설계됐다. 마이크로소프트는 이를 외부 공격 방어뿐 아니라 기업 내부 에이전트의 관리·통제에도 적용할 수 있다고 설명했다. 프로젝트 퍼셉션은 기업 내 에이전트를 탐지하고, 행동 맥락에 따라 위험도를 산정한 뒤, 위험 수준에 맞춰 감독과 대응을 수행하는 구조다. ID와 권한, 데이터, 클라우드, 네트워크, 실행 환경 등 여러 계층을 함께 보호해 에이전트의 접근과 행동을 통제한다는 구상이다. ◆ 국내 기업도 권한 관리 점검 필요성 커진다 이 같은 접근법은 AI 에이전트를 도입하는 기업에도 과제를 던진다. 에이전트가 어떤 데이터와 시스템에 접근할 수 있는지 파악하고, 업무에 필요한 최소한의 권한만 부여해야 한다. 중요한 작업에는 사람의 승인을 거치도록 하고, 작업 기록을 남겨 문제가 발생했을 때 원인을 추적할 수 있는 체계도 필요하다. 보안 담당자의 역할도 중요하다. AI 기반 보안 시스템이 위험을 빠르게 탐지하더라도 담당자가 결과를 확인하고 정책과 통제 기준을 조정해야 하기 때문이다. 에이전트의 자율성을 지나치게 제한하면 업무 효율이 떨어질 수 있어 보안과 자동화 수준 사이의 균형도 고려해야 하는 것이다. 마이크로소프트는 에이전트가 어떤 행동을 하는지 파악하는 것을 넘어 행동의 원인과 업무 목적의 부합 여부까지 확인할 수 있도록 모델 투명성을 높여야 한다고 강조했다. 다만 모델의 추론 정보만으로 안전성을 완전히 판단할 수는 없어 독립적인 보안 통제와 결합할 필요가 있는 것으로 진단했다. 하예테 갈로트 마이크로소프트 시큐리티 총괄 수석 부사장은 "AI 에이전트가 기업 전반에 빠르게 확산되면서 데이터와 도구, 시스템에 접근해 중요한 업무를 수행하고 의사결정에도 관여하고 있다"며 "기업은 에이전트의 활동과 위험을 실시간으로 파악하고, 위험 변화에 따라 행동 권한을 지속적으로 조정해야 한다"고 말했다.2026-10-20 15:53:20
-
"3954만 계정 털렸는데"…티빙 유출 피해 구제 도마 위 [경제일보] 티빙에서 총 3954만개의 계정 정보가 유출된 대규모 개인정보 침해 사고가 발생한 가운데 회사가 내놓은 이용자 보상안을 두고 실효성 논란이 커지고 있다. 티빙은 최대 300만원을 보상하는 해킹·피싱 안심보험과 5000원 상당의 티빙 포인트, 웨이브 광고형 요금제 또는 CGV 할인 쿠폰 등을 제공하기로 했지만, 실제로 모든 피해 이용자에게 확정적으로 돌아가는 혜택은 제한적이라는 지적이 나온다. 대규모 개인정보 유출로 이용자 불안과 2차 피해 가능성이 커진 상황에서 기업의 보상 수준과 책임 범위를 둘러싼 논쟁이 불가피할 전망이다. 4일 과학기술정보통신부 민관합동조사단은 티빙 침해사고에 대한 최종 조사 결과를 발표하고 활성·휴면·탈퇴 계정을 포함해 모두 3954만개의 계정 정보가 유출됐다고 지난 3일 밝혔다. 유출된 정보에는 성명과 휴대전화 번호, 이메일 주소, 생년월일, 연계정보(CI) 등 최대 20개 항목, 70종의 정보가 포함된 것으로 확인됐다. 티빙은 이날 공식 사과와 함께 고객 보상 대책을 내놨다. 피해 고객에게 1년간 해킹·피싱 등에 따른 사이버 금융사기와 인터넷 쇼핑몰 사기, 개인 간 직거래 사기 등에 대해 1인당 최대 300만원을 보상하는 안심보험을 제공한다. 특히 티빙 구독 고객에게는 별도 신청 없이 10월부터 12월까지 프리미엄급 시청 환경을 제공하고, 추가로 5000원 상당의 티빙 포인트와 웨이브 광고형 요금제 1개월 이용권 또는 CGV 할인 쿠폰 중 하나를 제공한다고 설명했다. 다만 보상안의 상당 부분이 현금성 보상이 아닌 5000원 상당의 포인트와 제휴 서비스 이용권을 제공한다는 것으로 구성돼 비판의 목소리가 나오고 있다. 최대 300만원의 안심보험 역시 개인정보가 유출된 것 자체에 정액으로 지급되는 보상이 아니라 향후 특정 유형의 피해가 발생했을 때 보상받을 수 있는 보험 상품이다. 특히 티빙은 개인정보 유출 피해 정도와 관계없이 모든 피해 고객에게 동일한 보상안을 적용하기로 했다고 설명했다. 실제 피해가 발생하지 않은 이용자에게는 보험의 보상 한도를 온전히 체감하기 어렵고, 당장 확정적으로 받을 수 있는 혜택 역시 제한적이다. 티빙은 전체 보상 규모도 공개하지 않았다. 티빙은 보상안에 얼마나 많은 이용자가 참여하고 어떤 옵션을 선택할지에 따라 전체 금액이 달라져 구체적인 규모를 확정하기 어렵다는 입장이다. 이번 사고에서 더 주목되는 부분은 피해 범위가 티빙 자체 가입자에만 머물지 않았다는 점이다. 앞서 KT가 개인정보 유출 사고에 대한 보상 차원에서 제공한 티빙 이용권을 등록해 실제 서비스를 이용한 고객 약 41만6000명도 이번 유출 대상에 포함된 것으로 나타났다. KT가 제공한 티빙 이용권을 선택한 약 58만6000명 가운데 실제 서비스를 이용하는 과정에서 티빙에 개인정보가 저장되면서 피해 대상이 된 것이다. 네이버와 카카오 등 간편로그인을 통해 티빙에 가입한 이용자 역시 피해 대상에 포함됐다. 간편로그인을 이용하더라도 본인 확인 과정에서 이름과 휴대전화 번호 등 개인정보가 티빙에 전달·저장될 수 있으며, 이번 사고로 티빙 데이터베이스에 저장된 관련 정보가 유출된 것으로 파악됐다. 제휴사의 시스템이 직접 해킹된 것은 아니지만, 하나의 서비스에 연결된 여러 플랫폼 이용자의 정보가 한 곳에서 함께 노출될 수 있다는 것을 보여줬다고 평가된다. 이 때문에 기업 간 제휴와 간편가입이 확대되는 플랫폼 환경에서 개인정보 보호 책임을 어디까지 물어야 하는지도 쟁점으로 떠올랐다. 이용자는 네이버나 카카오, KT 등을 통해 서비스를 접하지만 실제 개인정보를 수집·보관하는 주체는 별도의 플랫폼일 수 있다. 사고가 발생했을 때 이용자 입장에서는 어느 기업에 책임을 요구해야 하는지 복잡해질 수밖에 없는 구조다. 특히 이번 개인정보 유출 사고는 제휴 서비스가 새로운 피해 경로가 될 수 있는 것으로 평가된다. KT 이용자들은 기존 해킹 사고에 대한 보상으로 티빙 이용권을 받았지만, 그 이용권을 사용하기 위해 티빙에 가입하고 본인인증을 거치는 과정에서 개인정보가 다시 티빙 시스템에 저장됐다. 결국 한 기업의 사고를 보상하기 위해 다른 플랫폼을 이용하게 된 이용자가 해당 플랫폼에서 다시 개인정보 유출 피해를 입는 연쇄 구조가 발생한 것이다. 티빙은 재발 방지를 위해 오는 2030년까지 정보보호 투자를 직전 5년의 4배 수준으로 확대하고 제로 트러스트 기반의 접근통제, AI 기반 이상징후 탐지와 실시간 대응 체계를 구축하기로 했다. CEO 직속 정보보호혁신 자문위원회를 신설하고 CEO·CISO·CPO 중심의 보안 거버넌스도 강화할 방침이다. 다만 사후 보안 투자 확대가 이번에 발생한 피해에 대한 이용자의 불안을 해소하는 것과는 별개의 문제다. 3954만개라는 대규모 계정 정보가 유출된 만큼 향후 명의도용이나 피싱, 스미싱 등 2차 피해가 발생할 경우 피해자를 어떻게 구제할지, 보험으로 보장되지 않는 피해를 어떤 방식으로 보상할지가 남은 과제로 전망된다. 최주희 티빙 대표는 "충분하지는 않겠지만 피해를 입은 고객들을 위해 최선을 다해 준비했다"며 "이번 사건과 배상과 관련해서도 법에 따라 책임을 다하겠다"고 말했다.2026-09-04 17:52:55
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 거제 조선소의 은퇴 풍경, 숙련이 떠나면 제조업 미래도 흔들린다](https://image.ajunews.com/content/image/2026/10/23/20261023102610396990_518_323.png)