2026.04.16 목요일
검색
'무결성 침해' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 모델 겨냥 공격 증가…S2W, 새로운 보안 전략 공개 [경제일보] 인공지능(AI) 기술 확산과 함께 기존 보안 체계를 우회하는 새로운 유형의 사이버 공격이 증가하면서 기업들의 보안 전략 전환 필요성이 커지고 있다. 특히 AI 모델 자체를 겨냥한 공격이 늘어나면서 기존 시스템 중심 보안에서 AI 특화 대응 체계 구축이 중요해지고 있는 것으로 분석된다. 16일 빅데이터 분석 인공지능 기업 S2W는 성남 판교 본사에서 'AI 시대의 새로운 보안 전략: 실사례로 알아보는 대응책'을 주제로 고객사 대상 프라이빗 세미나를 개최하고 AI 기반 보안 위협 사례와 대응 방안을 지난 15일 공유했다고 밝혔다. S2W에 따르면 AI 기술 확산과 함께 기존과 다른 방식의 공격이 등장하고 있다. 대표적인 AI 특화 공격 방식으로는 '입력 조작', '무결성 침해', '에이전트 연계', '합성 신원' 등이 제시됐다. '입력 조작'은 프롬프트 인젝션이나 탈옥 기법을 통해 대형언어모델(LLM)의 보호 장치를 우회하고 민감 정보 유출이나 의도하지 않은 명령 수행을 유도하는 방식이다. 공격자는 모델의 응답 논리를 교란해 시스템 내부 정보를 확보하거나 추가 공격을 시도하는 것으로 알려졌다. '무결성 침해'는 학습 데이터나 검색 증강 생성(RAG) 지식베이스를 오염시키는 데이터 포이즈닝 및 백도어 공격이다. 특정 조건에서만 오작동하도록 조작해 장기간 탐지를 회피하는 것이 특징이다. '에이전트 연계' 공격은 이메일이나 웹 페이지 등 외부 데이터를 처리하는 AI 에이전트를 활용해 간접적으로 공격을 수행하는 방식이다. 숨겨진 명령을 전달해 API 호출이나 데이터 삭제 등 2차 공격을 유도하는 사례가 증가하고 있다. '합성 신원' 공격은 딥페이크와 음성 클로닝 기술을 활용해 정교한 가짜 신원을 생성하는 방식이다. 생체 인증을 우회하거나 피싱 공격의 신뢰도를 높이는 데 활용되며 기업 보안 체계를 위협하고 있다. AI 모델을 직접 공격하는 실제 사례도 등장하고 있다. 사용자가 다양한 프롬프트 엔지니어링 기법을 활용해 AI 모델의 보호 장치를 우회하고 내부 정보를 확보하는 행위가 반복되고 있다. 특히 역할 부여나 우회 질문 등 단순 대화만으로도 AI 모델이 취약해질 수 있다는 점이 확인됐다고 S2W는 설명했다. 또한 S2W는 공격자가 내부 식별자 추출, 시스템 프롬프트 탈취, 쿠폰 코드 노출 등을 통해 무료 항공권 예약까지 수행하는 사례도 공개했다. AI 모델뿐 아니라 AI와 연결된 전체 시스템 구조가 공격 대상이 될 수 있는 것으로, 특히 멀티모달 환경에서 이미지 조작만으로 검증 시스템이 무력화될 수 있는 것이다. AI 환경에서는 기존 보안 방식만으로는 대응이 어려운 것으로 확인되고 있다. 기존 보안이 시스템 취약점과 버그를 중심으로 방어하는 구조였다면 AI 보안은 모델의 판단 논리와 인지 구조의 취약점을 방어해야 한다는 것이 특징이다. AI 모델은 학습 데이터와 프롬프트 입력에 따라 결과가 달라지기 때문에 공격자가 논리적 허점을 활용할 가능성이 높다. 이에 차단 중심 보안에서 실시간 탐지와 대응 중심 보안 체계로 전환이 필요한 것으로 분석된다. 또한 완벽한 방어가 어려운 AI 특성상 지속적인 모의 해킹과 취약점 관리가 중요해지고 있다. 기업들은 AI 서비스 운영 과정에서 발생할 수 있는 위험을 사전에 점검하는 방식으로 대응 전략을 강화해야 할 전망이다. 양종헌 S2W 오펜시브부문장은 "AI를 활용한 보안의 목표는 우회 시도를 신속하게 탐지해 정책을 지속적으로 업데이트하는 동적 방어체계를 구축함으로써 공격자의 공격 비용과 포기 가능성을 높이는 데 있다"며 "향후에도 공격자 관점에서의 취약점 발굴과 시나리오 검증을 수행하는 오펜시브 연구를 더욱 고도화하며, AI 시대에 불안감을 해소할 수 있는 액션 아이템을 제공하는 데 주력할 것"이라고 말했다.2026-04-16 16:01:56
-
KAIST, LTE 핵심망 '원격 공격' 취약점 첫 규명…"IMSI 유출·위치추적 가능" [이코노믹데일리] 최근 KT 무단 소액결제 사태로 이동통신 보안에 대한 불안감이 커지는 가운데 국내 연구진이 4세대 이동통신(LTE)의 두뇌 격인 '코어 네트워크'에서 심각한 보안 허점을 세계 최초로 규명해냈다. 인증되지 않은 공격자가 멀리 떨어진 곳에서도 정상 기지국을 통해 다른 사용자의 통신을 마비시키거나 개인정보를 빼내고 위치까지 추적할 수 있는 치명적인 취약점이다. 기존의 가짜 기지국 공격과 달리 물리적 접근 없이 광범위한 원격 공격이 가능하다는 점에서 파장이 예상된다. KAIST는 전기및전자공학부 김용대 교수 연구팀이 LTE 코어 네트워크에서 '컨텍스트 무결성 침해(CIV)'라는 새로운 종류의 취약점을 발견하고 이를 체계적으로 탐지하는 도구 'CITesting'을 개발했다고 2일 밝혔다. 이 연구 결과는 세계 4대 보안 학회 중 하나인 'ACM CCS 2025'에서 우수논문상을 수상하며 그 중요성을 공인받았다. 그동안의 통신 보안 연구는 대부분 '네트워크가 단말기를 공격'하는 다운링크 취약점에 집중돼 있었다. 하지만 김 교수팀은 그 반대인 상대적으로 소홀히 다뤄져 온 '단말기가 코어 네트워크를 공격'하는 업링크 보안의 허점을 파고들었다. 연구팀은 공격자가 조작한 단말이 정상 기지국을 통해 코어 네트워크로 특정 메시지를 보냈을 때 네트워크가 이를 제대로 검증하지 않고 다른 사용자의 내부 상태 정보를 변경시키는 심각한 문제를 발견했다. 이는 '인증되지 않은 메시지는 내부 시스템 상태를 변경해서는 안 된다'는 보안의 대원칙을 위반한 것이다. 문제의 근원은 국제 표준의 허술함에 있었다. 이동통신 표준화 기구인 3GPP는 '인증에 실패한 메시지'는 처리하지 말라고 규정했지만 '아예 인증 절차 없이 들어온 메시지를 어떻게 다뤄야 하는지'에 대한 명확한 규정이 없었다. 연구팀은 바로 이 회색지대를 공략한 것이다. 연구팀이 개발한 'CITesting' 도구로 실제 오픈소스 및 상용 LTE 코어 네트워크 장비 4종을 테스트한 결과 모든 장비에서 CIV 취약점이 발견됐다. 특히 연구팀은 노키아(Nokia) 상용 장비를 대상으로 한 공격 시연을 통해 △피해자 식별자를 도용해 통신망 재접속을 막는 서비스 거부 공격 △휴대폰 유심(SIM)에 저장된 고유 식별번호(IMSI)를 평문으로 유출시키는 공격 △특정 사용자의 위치를 추적하는 공격이 모두 가능함을 증명했다. 김용대 교수는 "그동안 업링크 보안은 코어 네트워크 테스트 어려움, 규제 제약 등으로 상대적으로 소홀히 다뤄져 왔다"면서 "컨텍스트 무결성 침해는 심각한 보안 위험을 초래할 수 있다”고 경고했다. 그는 "이번 연구에서 개발한 CITesting 도구를 5G 및 산업용 전용망으로 확대 적용해 탱크 통신 차단 같은 치명적 보안 위협을 예방하는 필수 도구로 발전시키겠다"고 밝혔다. 연구팀은 발견된 취약점을 각 장비 제조사에 통보했다. 오픈소스 진영과 일부 상용 업체는 즉각 패치를 배포했지만 노키아는 "3GPP 표준을 준수했다"는 이유로 취약점으로 인정하지 않고 패치 계획이 없다고 밝혀 논란이 예상된다. 국내에서 주로 사용되는 삼성전자나 에릭슨 장비에 대한 테스트는 아직 진행되지 않아 국내 통신망의 안전성에 대한 전면적인 점검이 시급하다는 지적이 나온다.2025-11-02 13:27:19
많이 본 뉴스
영상
Youtube 바로가기
![[광고국 칼럼] 활과 약 한 알이 말하는 것](https://image.ajunews.com/content/image/2026/04/16/20260416151815203317_518_323.jpg)