2026.04.16 목요일
검색
'합성 신원' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 모델 겨냥 공격 증가…S2W, 새로운 보안 전략 공개 [경제일보] 인공지능(AI) 기술 확산과 함께 기존 보안 체계를 우회하는 새로운 유형의 사이버 공격이 증가하면서 기업들의 보안 전략 전환 필요성이 커지고 있다. 특히 AI 모델 자체를 겨냥한 공격이 늘어나면서 기존 시스템 중심 보안에서 AI 특화 대응 체계 구축이 중요해지고 있는 것으로 분석된다. 16일 빅데이터 분석 인공지능 기업 S2W는 성남 판교 본사에서 'AI 시대의 새로운 보안 전략: 실사례로 알아보는 대응책'을 주제로 고객사 대상 프라이빗 세미나를 개최하고 AI 기반 보안 위협 사례와 대응 방안을 지난 15일 공유했다고 밝혔다. S2W에 따르면 AI 기술 확산과 함께 기존과 다른 방식의 공격이 등장하고 있다. 대표적인 AI 특화 공격 방식으로는 '입력 조작', '무결성 침해', '에이전트 연계', '합성 신원' 등이 제시됐다. '입력 조작'은 프롬프트 인젝션이나 탈옥 기법을 통해 대형언어모델(LLM)의 보호 장치를 우회하고 민감 정보 유출이나 의도하지 않은 명령 수행을 유도하는 방식이다. 공격자는 모델의 응답 논리를 교란해 시스템 내부 정보를 확보하거나 추가 공격을 시도하는 것으로 알려졌다. '무결성 침해'는 학습 데이터나 검색 증강 생성(RAG) 지식베이스를 오염시키는 데이터 포이즈닝 및 백도어 공격이다. 특정 조건에서만 오작동하도록 조작해 장기간 탐지를 회피하는 것이 특징이다. '에이전트 연계' 공격은 이메일이나 웹 페이지 등 외부 데이터를 처리하는 AI 에이전트를 활용해 간접적으로 공격을 수행하는 방식이다. 숨겨진 명령을 전달해 API 호출이나 데이터 삭제 등 2차 공격을 유도하는 사례가 증가하고 있다. '합성 신원' 공격은 딥페이크와 음성 클로닝 기술을 활용해 정교한 가짜 신원을 생성하는 방식이다. 생체 인증을 우회하거나 피싱 공격의 신뢰도를 높이는 데 활용되며 기업 보안 체계를 위협하고 있다. AI 모델을 직접 공격하는 실제 사례도 등장하고 있다. 사용자가 다양한 프롬프트 엔지니어링 기법을 활용해 AI 모델의 보호 장치를 우회하고 내부 정보를 확보하는 행위가 반복되고 있다. 특히 역할 부여나 우회 질문 등 단순 대화만으로도 AI 모델이 취약해질 수 있다는 점이 확인됐다고 S2W는 설명했다. 또한 S2W는 공격자가 내부 식별자 추출, 시스템 프롬프트 탈취, 쿠폰 코드 노출 등을 통해 무료 항공권 예약까지 수행하는 사례도 공개했다. AI 모델뿐 아니라 AI와 연결된 전체 시스템 구조가 공격 대상이 될 수 있는 것으로, 특히 멀티모달 환경에서 이미지 조작만으로 검증 시스템이 무력화될 수 있는 것이다. AI 환경에서는 기존 보안 방식만으로는 대응이 어려운 것으로 확인되고 있다. 기존 보안이 시스템 취약점과 버그를 중심으로 방어하는 구조였다면 AI 보안은 모델의 판단 논리와 인지 구조의 취약점을 방어해야 한다는 것이 특징이다. AI 모델은 학습 데이터와 프롬프트 입력에 따라 결과가 달라지기 때문에 공격자가 논리적 허점을 활용할 가능성이 높다. 이에 차단 중심 보안에서 실시간 탐지와 대응 중심 보안 체계로 전환이 필요한 것으로 분석된다. 또한 완벽한 방어가 어려운 AI 특성상 지속적인 모의 해킹과 취약점 관리가 중요해지고 있다. 기업들은 AI 서비스 운영 과정에서 발생할 수 있는 위험을 사전에 점검하는 방식으로 대응 전략을 강화해야 할 전망이다. 양종헌 S2W 오펜시브부문장은 "AI를 활용한 보안의 목표는 우회 시도를 신속하게 탐지해 정책을 지속적으로 업데이트하는 동적 방어체계를 구축함으로써 공격자의 공격 비용과 포기 가능성을 높이는 데 있다"며 "향후에도 공격자 관점에서의 취약점 발굴과 시나리오 검증을 수행하는 오펜시브 연구를 더욱 고도화하며, AI 시대에 불안감을 해소할 수 있는 액션 아이템을 제공하는 데 주력할 것"이라고 말했다.2026-04-16 16:01:56
많이 본 뉴스
영상
Youtube 바로가기
![[광고국 칼럼] 활과 약 한 알이 말하는 것](https://image.ajunews.com/content/image/2026/04/16/20260416151815203317_518_323.jpg)