[경제일보] 북한 해킹 조직 김수키가 생성형 인공지능(AI)을 공격 준비 단계가 아니라 공격 수행 단계에 넣으려는 시도를 하고 있는 것으로 나타났다. 지니언스는 김수키의 최근 활동을 분석한 결과 AI를 공격 체계 전반에 활용하기 위한 연구와 기술 검증 정황을 확인했다고 10일 밝혔다.
핵심은 위협 행위자가 직접 대형언어모델(LLM) 실행 환경과 검색증강생성(RAG) 환경을 만든 흔적이다. 올라마(Ollama)와 GPT4All, 엠스티(Msty) 같은 로컬 LLM 실행·관리 도구를 비롯해 RAG 구성 환경, AI 에이전트 개발 프레임워크, 음성인식(STT) 도구를 구축하거나 사용한 정황이 확인됐다. AI 코딩 도구 커서(Cursor) 설치·사용 흔적도 다수 나왔고, 커서로 공격에 쓰인 문서를 편집하고 생성 결과물을 검토한 것으로 보이는 기록도 남아 있었다.
로컬 LLM은 데이터를 외부로 보내지 않고 자체 장비에서 돌린다. 상용 AI 서비스를 쓰면 사업자 쪽 탐지와 계정 차단에 걸리지만, 로컬 환경에서는 그 통제를 받지 않는다. 지니언스는 탈취한 문서를 분석하거나 정보 추출과 공격 업무를 자동화하려는 시도로 보인다고 설명했다.
미끼 문서를 만드는 방식도 달라졌다. 기존에는 탈취한 정상 문서를 재활용하는 사례가 많았지만, 최근에는 생성형 AI로 제작한 것으로 판단되는 가상자산·금융 분야 문서가 스피어피싱에 쓰였다. 투자 전략 보고서와 금융 자료를 위장한 악성 문서가 계속 유포됐고, 분석 과정에서는 가상자산 지갑 정보와 지메일 계정 정보, 웹사이트 가입 이력의 노출 여부를 확인하려는 정황도 함께 잡혔다.
김수키는 그동안 외교·안보 전문가를 겨냥해 업무 관련자를 사칭한 스피어피싱 메일을 보내는 방식을 주로 썼다. 첨부된 압축파일 속 문서 모양의 바로가기 파일을 실행하면 백그라운드에서 스크립트가 동작하는 구조다. 표적이 가상자산 쪽으로 옮겨간 것은 외화 확보 목적과 맞닿아 있다.
북한 연계 조직의 AI 활용은 단계적으로 넓어져 왔다. 지니언스는 지난해 9월 김수키가 AI로 위조한 군 공무원증 이미지를 스피어피싱에 사용한 사례를 국내에서 처음 확인했다고 발표했다. 앤스로픽은 지난해 8월 보고서에서 북한 IT 인력이 AI로 가짜 신원을 만들고 해외 기업 채용 과정의 기술 평가까지 AI로 처리한 정황을 공개했다. 구글 위협 인텔리전스 그룹(GTIG)은 올해 보고서에서 AI로 개발된 것으로 추정되는 제로데이 취약점 공격 코드를 사용하는 위협 행위자를 처음 식별했다고 밝혔다.
이번에 확인된 것은 환경 구축과 도구 사용 흔적이다. 자동화된 공격이 실제로 실행돼 피해가 발생했다는 단계까지 확인된 것은 아니다.
문종현 지니언스 시큐리티 센터장(이사)은 "AI 기술의 발전으로 사회공학 공격이 더욱 정교해질 것으로 예상된다"며 "문서 내용보다 실행 행위를 중심으로 탐지하는 엔드포인트 탐지 및 대응(EDR) 기반 위협 헌팅 체계가 중요하다"고 말했다.
댓글 더보기