2026.04.18 토요일
검색
'RAG' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 모델 겨냥 공격 증가…S2W, 새로운 보안 전략 공개 [경제일보] 인공지능(AI) 기술 확산과 함께 기존 보안 체계를 우회하는 새로운 유형의 사이버 공격이 증가하면서 기업들의 보안 전략 전환 필요성이 커지고 있다. 특히 AI 모델 자체를 겨냥한 공격이 늘어나면서 기존 시스템 중심 보안에서 AI 특화 대응 체계 구축이 중요해지고 있는 것으로 분석된다. 16일 빅데이터 분석 인공지능 기업 S2W는 성남 판교 본사에서 'AI 시대의 새로운 보안 전략: 실사례로 알아보는 대응책'을 주제로 고객사 대상 프라이빗 세미나를 개최하고 AI 기반 보안 위협 사례와 대응 방안을 지난 15일 공유했다고 밝혔다. S2W에 따르면 AI 기술 확산과 함께 기존과 다른 방식의 공격이 등장하고 있다. 대표적인 AI 특화 공격 방식으로는 '입력 조작', '무결성 침해', '에이전트 연계', '합성 신원' 등이 제시됐다. '입력 조작'은 프롬프트 인젝션이나 탈옥 기법을 통해 대형언어모델(LLM)의 보호 장치를 우회하고 민감 정보 유출이나 의도하지 않은 명령 수행을 유도하는 방식이다. 공격자는 모델의 응답 논리를 교란해 시스템 내부 정보를 확보하거나 추가 공격을 시도하는 것으로 알려졌다. '무결성 침해'는 학습 데이터나 검색 증강 생성(RAG) 지식베이스를 오염시키는 데이터 포이즈닝 및 백도어 공격이다. 특정 조건에서만 오작동하도록 조작해 장기간 탐지를 회피하는 것이 특징이다. '에이전트 연계' 공격은 이메일이나 웹 페이지 등 외부 데이터를 처리하는 AI 에이전트를 활용해 간접적으로 공격을 수행하는 방식이다. 숨겨진 명령을 전달해 API 호출이나 데이터 삭제 등 2차 공격을 유도하는 사례가 증가하고 있다. '합성 신원' 공격은 딥페이크와 음성 클로닝 기술을 활용해 정교한 가짜 신원을 생성하는 방식이다. 생체 인증을 우회하거나 피싱 공격의 신뢰도를 높이는 데 활용되며 기업 보안 체계를 위협하고 있다. AI 모델을 직접 공격하는 실제 사례도 등장하고 있다. 사용자가 다양한 프롬프트 엔지니어링 기법을 활용해 AI 모델의 보호 장치를 우회하고 내부 정보를 확보하는 행위가 반복되고 있다. 특히 역할 부여나 우회 질문 등 단순 대화만으로도 AI 모델이 취약해질 수 있다는 점이 확인됐다고 S2W는 설명했다. 또한 S2W는 공격자가 내부 식별자 추출, 시스템 프롬프트 탈취, 쿠폰 코드 노출 등을 통해 무료 항공권 예약까지 수행하는 사례도 공개했다. AI 모델뿐 아니라 AI와 연결된 전체 시스템 구조가 공격 대상이 될 수 있는 것으로, 특히 멀티모달 환경에서 이미지 조작만으로 검증 시스템이 무력화될 수 있는 것이다. AI 환경에서는 기존 보안 방식만으로는 대응이 어려운 것으로 확인되고 있다. 기존 보안이 시스템 취약점과 버그를 중심으로 방어하는 구조였다면 AI 보안은 모델의 판단 논리와 인지 구조의 취약점을 방어해야 한다는 것이 특징이다. AI 모델은 학습 데이터와 프롬프트 입력에 따라 결과가 달라지기 때문에 공격자가 논리적 허점을 활용할 가능성이 높다. 이에 차단 중심 보안에서 실시간 탐지와 대응 중심 보안 체계로 전환이 필요한 것으로 분석된다. 또한 완벽한 방어가 어려운 AI 특성상 지속적인 모의 해킹과 취약점 관리가 중요해지고 있다. 기업들은 AI 서비스 운영 과정에서 발생할 수 있는 위험을 사전에 점검하는 방식으로 대응 전략을 강화해야 할 전망이다. 양종헌 S2W 오펜시브부문장은 "AI를 활용한 보안의 목표는 우회 시도를 신속하게 탐지해 정책을 지속적으로 업데이트하는 동적 방어체계를 구축함으로써 공격자의 공격 비용과 포기 가능성을 높이는 데 있다"며 "향후에도 공격자 관점에서의 취약점 발굴과 시나리오 검증을 수행하는 오펜시브 연구를 더욱 고도화하며, AI 시대에 불안감을 해소할 수 있는 액션 아이템을 제공하는 데 주력할 것"이라고 말했다.2026-04-16 16:01:56
-
"데이터 외부 반출 '0'"... LG 엑사원+퓨리오사 NPU, '구축형 AI' 시장 정조준 [경제일보] LG유플러스가 토종 AI 반도체 팹리스 퓨리오사AI와 손잡고 공공·금융 등 보안이 생명인 B2B(기업간거래) 시장을 겨냥한 '설치형 AI(On-premise AI)' 솔루션을 내놓는다. 클라우드 연결 없이 기업 내부 서버에서 독립적으로 구동되는 '소버린 AI' 어플라이언스를 통해 데이터 주권 확보와 비용 효율화라는 두 마리 토끼를 잡겠다는 전략이다. LG유플러스(대표 홍범식)는 지난 4일(현지시간) 스페인 바르셀로나에서 열린 'MWC 2026' 현장에서 퓨리오사AI(대표 백준호)와 AI 인프라 협력을 위한 업무협약(MOU)을 체결했다고 8일 밝혔다. 이번 협력은 단순한 기술 제휴를 넘어 하드웨어와 소프트웨어를 결합한 '올인원 패키지'로 엔터프라이즈 AI 시장의 난제를 해결하겠다는 승부수로 풀이된다. 양사가 개발하는 '소버린 AI 어플라이언스'는 전원과 네트워크만 연결하면 즉시 사용할 수 있는 일체형 거대언어모델(LLM) 솔루션이다. 핵심은 LG유플러스의 기업용 AI 플랫폼 노하우와 LG AI연구원의 초거대 모델 '엑사원(EXAONE) 4.0', 그리고 퓨리오사AI의 2세대 NPU(신경망처리장치) '레니게이드(Renegade)'의 기술적 융합이다. LG유플러스는 엑사원 4.0을 기반으로 사내 지식관리시스템(KMS)과 검색증강생성(RAG) 기술을 최적화해 기업 내부의 방대한 문서를 보안 우려 없이 학습하고 검색할 수 있는 환경을 구축한다. 여기에 퓨리오사AI의 레니게이드 칩을 탑재해 기존 GPU(그래픽처리장치) 대비 압도적인 전력 효율과 추론 성능을 제공한다. 이는 24시간 상시 가동해야 하는 기업용 AI 시스템의 운영비용(TCO)을 획기적으로 낮출 수 있는 핵심 경쟁력이다. ◆ 빅테크 종속 탈피... '소버린 AI'가 뜬다 이번 협력은 전 세계적으로 확산하는 '소버린 AI(Sovereign AI)' 트렌드와 맥을 같이한다. 생성형 AI 도입이 가속화되면서 오픈AI나 구글 등 글로벌 빅테크의 퍼블릭 클라우드에 의존할 경우 발생할 수 있는 데이터 유출 및 기술 종속 우려가 커졌기 때문이다. 특히 국가 안보와 직결되는 국방, 공공 분야나 민감 정보를 다루는 금융, 의료 분야에서는 데이터가 외부로 나가지 않는 '온프레미스(사내 구축형)' 수요가 폭발하고 있다. LG유플러스는 이러한 시장의 페인 포인트(Pain Point)를 정확히 타격했다. 복잡한 서버 구축 과정 없이 즉시 도입 가능한 어플라이언스 형태는 AI 전문 인력이 부족한 기업들에게 매력적인 대안이 될 것으로 보인다. 양사는 이번 어플라이언스 개발을 시작으로 협력 범위를 AI 데이터센터(AIDC)와 피지컬 AI(Physical AI) 분야로 확장한다. AIDC에서는 NPU 기반의 서비스형 AI(NPUaaS) 모델을 발굴하고, 로봇이나 설비 제어 현장에서는 초저지연 추론 기술을 공동 연구해 'AI 인프라 생태계'를 선점하겠다는 구상이다. 업계 전문가는 "AI 시장의 무게중심이 '학습'에서 '추론(서비스)'으로 이동하면서 전력 효율과 비용 절감이 핵심 화두로 떠올랐다"며 "LG유플러스의 서비스 역량과 퓨리오사AI의 하드웨어 기술력이 결합된 이번 모델은 외산 장비 일색인 국내 AI 인프라 시장에서 강력한 대항마가 될 것"이라고 전망했다. 이상엽 LG유플러스 CTO는 "AI가 실제 업무 환경에 적용되려면 성능뿐만 아니라 보안과 운영 안정성이 필수"라며 "소버린 AI 어플라이언스를 시작으로 기업이 신뢰할 수 있는 하이브리드 AI 인프라를 구축해 나가겠다"고 강조했다.2026-03-08 09:13:54
-
포스코DX, 제미나이3 품은 기업용 AI 'P-GPT 2.1' 출시 [이코노믹데일리] 포스코DX가 구글의 최신 인공지능(AI) 모델인 '제미나이3(Gemini 3)' 등을 탑재해 성능을 대폭 강화한 기업용 생성형 AI 서비스 플랫폼을 내놨다. 포스코DX는 30일 기업의 각종 데이터와 지식자산 및 업무 시스템을 생성형 AI와 연결하는 'P-GPT(Private-GPT) 2.1' 서비스를 출시했다고 밝혔다. 이번 버전은 기존 챗GPT에 더해 제미나이3와 클로드(Claude)까지 추가해 '멀티 LLM(거대언어모델)' 라인업을 구축한 것이 특징이다. P-GPT 2.1은 보안이 생명인 기업 환경에 최적화됐다. RAG(검색 증강 생성) 기술을 기반으로 기업 내부 데이터를 외부 유출 없이 안전하게 활용할 수 있다. 사용자는 사내 인프라 안에서 챗봇 형태로 업무 관련 질문을 던지고 기업 내·외부 데이터를 분석한 정확도 높은 답변을 받을 수 있다. 가장 눈에 띄는 기능은 '나만의 에이전트' 생성이다. 사용자가 직접 업무에 특화된 AI 에이전트를 만들어 반복 업무를 자동화할 수 있다. 또한 MS팀즈의 일정과 메일 등을 연동하고 엑셀 파일 분석 및 차트 생성 기능까지 지원해 사무 업무 효율을 극대화했다. 표준 양식에 맞춘 문서 초안 자동 생성 기능을 활용하면 작업 시간을 절반으로 줄일 수 있다는 게 회사 측 설명이다. 포스코그룹은 이미 지난 2023년 9월 P-GPT 1.0을 도입해 전사적인 업무 혁신을 추진해 왔다. 현재 37개 그룹사, 2만여 명의 임직원이 보고서 작성과 데이터 분석 등에 이를 활용하고 있으며 임직원들이 직접 개발해 등록한 에이전트만 3500여 개에 달한다. 포스코DX는 내년 상반기 다국어 번역 기능을 고도화해 해외 법인으로 AI 경험을 확대할 예정이다. 이어 하반기에는 제조 현장에 특화된 sLLM(소형언어모델)과 검색 기능이 강화된 'P-GPT 3.0'을 출시해 대외 기업과 공공기관 공략에 나선다는 계획이다. 포스코DX 관계자는 "P-GPT는 단순한 채팅 도구를 넘어 기업의 업무 혁신을 이끄는 핵심 플랫폼으로 자리 잡았다"며 "최신 AI 모델을 빠르게 반영해 그룹사와 대외 고객의 AI 경쟁력 강화를 적극 지원하겠다"고 말했다.2025-12-30 14:56:51
-
예탁원, 생성형 AI 포털 '아이웍스' 정식 개시 [이코노믹데일리] 한국예탁결제원은 내부망에 생성형 인공지능(AI) 포털인 '아이웍스(AIWorks)'를 정식으로 개시한다고 8일 밝혔다. 아이웍스는 법무비서와 코딩 어시스턴트 등 AI 기능을 제공한다. 예탁원 정보를 검색증강생성(RAG) 기법으로 처리해 질의·응답이 가능하다. 보고서·메일 초안 작성과 번역 및 요약 등 생산성 향상 기능도 갖췄다. 예탁원은 지난 6월 금융 유관기관 최초로 생성형 AI 부문 혁신금융서비스에 지정된 뒤 내부망 생성형 AI 포털 구축 사업에 착수했다. 클라우드 이용절차 및 금융보안원 보안대책 등의 이행을 거쳐 이번에 정식 도입 절차를 밟게 됐다. 생성형 AI 사용에 따른 정보유출 및 침해사고 예방을 위한 안전한 시스템 환경도 구축했다. 모든 데이터는 국내에 위치한 클라우드 내 예탁원 전용 환경에서 처리하도록 구성해 데이터 해외 이전을 차단했다. 개인정보 등 민감정보 식별·차단 및 악성코드 탐지 솔루션도 적용했다. 예탁원 관계자는 "이번 아이웍스 도입으로 임직원의 업무 효율성·생산성 향상과 경쟁력 강화 및 예탁원 이용 고객에 대한 간접적인 편익을 제공할 것으로 기대한다"며 "올해 수립한 AI 3단계 로드맵을 추진하고 AI 기술을 결합한 혁신적인 서비스를 발굴해 금융혁신과 자본시장 효율화에 선도적인 역할을 수행할 것"이라고 말했다.2025-12-08 10:17:41
-
![[데일리 뱅킹 브리프] NH농협은행 AI 아이디어 챌린지 시상...266개 팀 경쟁](https://image.ajunews.com//content/image/2025/11/12/20251112103612779000.jpg)
NH농협은행 'AI 아이디어 챌린지' 시상...266개 팀 경쟁 [이코노믹데일리] NH농협은행이 'NH AI 아이디어 챌린지' 시상식을 개최했다고 12일 밝혔다. 지난 11일 열린 이번 대회는 AI 기술과 청년의 창의적 아이디어를 결합해 AI시대 미래 금융 혁신을 모색하기 위한 경연 프로그램이다. AI 기반 고객 자산관리 시니어 금융 개인 맞춤형 서비스 등 다양한 분야의 실현 가능한 혁신 아이디어들이 발표됐다. 지난 8월부터 3개월간 총 266개 팀이 참가해 치열한 경쟁을 펼쳤으며 서류 심사와 현업 전문가의 멘토링을 거쳐 12개 팀이 지난 11일 본선 무대에 올랐다. 영예의 대상은 '내 일정이 곧 챌린지(NH Challender)'를 발표한 '후메잌디스' 팀에 돌아갔다. 이 팀은 캘린더와 금융을 연결한 맞춤형 챌린지 아이디어를 선보여 높은 평가를 받았다. 최우수상은 고객과 행원 모두를 위한 상담 전과정 관리 서비스인 'NH똑똑동행'이 수상했다. 우수상은 맞춤형 문구와 챗봇을 통한 초개인화 금융 마케팅인 'dRAG'에 돌아갔다. 수상팀에는 대상 1000만원 최우수상 500만원 등 총 2300만원 규모의 상금이 수여됐으며 각 팀별 성장을 지원해온 NH농협은행 현업 멘토들도 시상식에 참여해 의미를 더했다. 강태영 농협은행장은 "청년들의 상상력과 도전정신이 농협은행의 미래 혁신을 이끄는 원동력이 될 것"이라며 "농협은행은 이러한 혁신적 아이디어를 실제 비즈니스에 접목해 고객에게 한 차원 높은 서비스를 제공하기 위한 AX 가속화를 이어 나가겠다"고 말했다. 우리금융, 청소년 미혼 한부모 자립 지원...20억원으로 확대 우리금융그룹은 우리금융미래재단과 성평등가족부 천주교 서울대교구가 함께 하는 청소년 미혼 한부모 자립 지원사업 '우리 원더패밀리'의 지원 규모를 20억원으로 확대한다고 12일 밝혔다. '우리 원더패밀리'는 2023년 7월 세 기관이 함께 시작한 지원사업이다. 이번 협약으로 연간 총 지원 규모가 기존 12억원에서 20억원으로 대폭 늘었다. 지원 연령도 기존 22세에서 24세 이하로 확대하고 월 50만원(연 600만원) 생활비 긴급 의료비 대학 진학과 자격증 취득 축하금 등을 추가로 지원할 계획이다. 임종룡 우리금융미래재단 이사장은 "이번 지원 확대를 통해 청소년 미혼 한부모가 아이와 함께 안정적으로 자립할 수 있기를 기대한다"라며 "앞으로도 미래세대가 희망을 가지고 성장할 수 있도록 지속적인 사회공헌 활동을 이어가겠다"고 말했다. 새마을금고자회사 MG신용정보, ISO27001 인증 획득...정보보호 강화 MG신용정보는 지난 11일 국제 표준 정보보호관리체계인 ISO27001 인증을 공식 획득했다고 12일 밝혔다. ISO27001 인증은 기업의 정보보호 관리체계(ISMS)가 국제 기준에 부합함을 입증하는 세계적 인증으로 민감한 고객 정보와 금융데이터를 안전하게 관리할 수 있는 체계적 시스템을 보유하고 있음을 공식적으로 검증받은 것이다. MG신용정보는 이번 인증을 통해 채권관리 고객상담 등 주요 업무 전반에 걸쳐 정보 유출 및 위변조 방지 접근통제 데이터 백업·복구체계 등을 강화했다. 특히 채권관리 및 추심 과정에서 수집·활용되는 개인신용정보와 금융거래정보를 ISO 국제 기준에 따라 관리함으로써 고객의 신뢰와 법적·윤리적 투명성을 한층 높였다. 박준철 MG신용정보 대표이사는 "ISO27001 인증은 단순한 보안 시스템 구축을 넘어 고객정보 보호를 기업의 핵심 경쟁력으로 삼겠다는 MG신용정보의 의지를 보여주는 결과"라며 "채권관리와 고객관리 전 과정에서 데이터 보호를 최우선으로 삼고 안정성과 효율성을 모두 강화해 나가겠다"고 말했다.2025-11-12 10:38:58
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 지방은 없고 공학만 남은 선거, 누구를 위한 축제인가](https://image.ajunews.com/content/image/2026/04/17/20260417171430701097_518_323.png)