검색결과 총 9건
-
-
-
AI도 해킹당한다…정부, 프롬프트 공격 막는 보안 매뉴얼 냈다
[경제일보] 정부가 인공지능(AI) 서비스 보안 위협에 대응하기 위한 실무 매뉴얼을 내놨다. AI가 금융, 의료, 공공, 제조, 통신 등 주요 산업으로 빠르게 확산되면서 프롬프트 인젝션과 권한 오남용, 데이터 유출 같은 새로운 공격에 대응할 기준이 필요해졌기 때문이다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’를 발간했다고 8일 밝혔다. 두 자료는 AI 환경에서 발생할 수 있는 주요 보안 위협을 분류하고 산업 현장에서 활용할 수 있는 점검·대응 절차를 제시하는 데 초점을 맞췄다. AI 보안 위협은 기존 정보보호 체계만으로 충분히 막기 어렵다. 공격자가 AI 모델에 악성 명령을 숨겨 원하는 답변을 유도하는 프롬프트 인젝션, 에이전트 권한을 악용한 데이터 접근, 학습 데이터 유출, 외부 모델과 플러그인 공급망 공격 등이 대표적이다. AI가 스스로 도구를 호출하고 업무를 수행하는 에이전트 형태로 발전할수록 공격 표면도 넓어진다. ‘AI 보안 위협 대응 매뉴얼’은 AI 보안 위험을 데이터, 모델, 에이전트, 공급망, 고성능 모델 등 5개 영역으로 나눴다. 각 영역별 진단 지표를 제시하고 금융, 의료, 공공·행정, 교육, 제조·에너지, 통신, 법률, IT 등 8개 분야별 위협 시나리오와 대응 방안도 담았다. 경영진과 실무자의 활용 방식도 구분했다. 최고경영자 등 C레벨에는 AI 보안 위협의 종류와 실제 사례를 쉽게 설명하고, 보안 담당자와 IT 운영자에게는 위협을 어떻게 진단하고 어떤 기준으로 대응할지 안내한다. AI 도입이 기술 부서만의 일이 아니라 경영 리스크 관리로 옮겨가고 있다는 점을 반영한 구성이다. 함께 발간된 ‘AI 보안 레드티밍 가이드’는 기업 내부에서 AI 보안 점검을 직접 수행해야 하는 실무진을 위한 안내서다. 레드팀은 공격자 관점에서 시스템을 시험해 취약점을 찾아내는 조직이다. 이번 가이드는 AI 레드팀을 기획하고 구성하는 단계부터 준비, 실행, 결과 보고까지 전 과정을 다룬다. 현장 활용성을 높이기 위한 부록도 포함됐다. 레드티밍 체크리스트, 점검 도구, 인력별 직무기술서가 담겼다. 정부 차원에서 여러 산업 분야에 적용 가능한 AI 보안 레드팀 운영 기준을 제시했다는 점에서 의미가 있다. 이번 가이드는 기업의 AI 도입 속도가 빨라지는 상황에서 나왔다. 생성형 AI를 고객 상담, 문서 작성, 코드 개발, 데이터 분석에 활용하는 기업이 늘고 있지만 보안 검증 체계는 아직 초기 단계인 경우가 많다. 특히 외부 AI 모델과 사내 데이터가 연결될 경우 정보 유출과 권한 관리 문제가 함께 발생할 수 있다. 임정규 과기정통부 정보보호네트워크정책관은 “AI 기술의 확산과 함께 보안 위협도 빠르게 진화하고 있다”며 “이번 가이드가 AI 서비스의 보안 수준을 높이고 현장에서 활용할 수 있는 실질적인 기준이 되기를 기대한다”고 말했다.
2026-07-08 14:09:43
-
-
-
AI가 월스트리트 피치북 쓰고 신용평가하는 시대...한국 금융당국은 대비하고 있는가
[경제일보] 미국 월가의 풍경이 빠르게 바뀌고 있다. 과거에는 새벽까지 불이 꺼지지 않던 투자은행(IB)의 회의실에서 애널리스트와 회계사, 변호사들이 수백 장의 투자제안서(Pitch Book)를 만들었다. 기업 인수합병(M&A) 자료와 신용평가 메모, 리스크 분석 보고서와 회계 결산서는 오랜 경험을 가진 금융 전문가들의 영역이었다. 그러나 이제 그 작업을 인공지능(AI)이 대신하기 시작했다. 미국 월스트리트저널(WSJ)에 따르면 AI 개발사인 Anthropic(앤트로픽)은 최근 금융권 전용 AI 에이전트 10종을 공개했다. 투자제안서 작성, 회계 결산, 신용평가 메모 초안 작성 등 금융권 핵심 업무를 자동화하는 기능들이다. 이는 단순한 챗봇 서비스가 아니다. 금융산업의 두뇌 노동 자체를 AI가 대체하기 시작했다는 신호다. 이 변화의 속도는 생각보다 훨씬 빠르다. 금융은 원래 보수적인 산업으로 알려져 있다. 규제가 많고 리스크 관리가 중요하기 때문이다. 그런데도 AI 도입 속도가 빠른 이유는 명확하다. 데이터 규모가 방대하고 반복 업무가 많으며 비용 절감 효과가 즉각적으로 나타나기 때문이다. AI는 인간처럼 피로하지 않고, 24시간 문서를 읽고 요약하며, 수천 개 데이터를 동시에 분석할 수 있다. 특히 생성형 AI는 단순 계산을 넘어 문서 작성과 논리 구성까지 수행하기 시작했다. 앤트로픽의 행보는 단순한 기술 발표가 아니다. 그것은 AI 산업의 전장이 소비자 서비스에서 기업용(B2B) 산업으로 이동하고 있음을 보여준다. AI 산업 초창기에는 챗GPT와 같은 대중 서비스가 중심이었다. 그러나 이제 핵심은 기업 업무 자동화다. 특히 금융은 AI 기업들에게 가장 매력적인 시장 중 하나다. 수익 규모가 크고, 고객 충성도가 높으며, 성공 사례가 만들어질 경우 산업 전체로 확산 속도가 빠르기 때문이다. 앤트로픽은 이미 금융 특화 서비스인 ‘클로드 포 파이낸셜 서비스’를 통해 골드만삭스, 씨티그룹, 시타델, AIG 등 대형 금융사를 고객으로 확보했다. 또 금융 IT 기업인 FIS와 협력해 금융범죄 탐지 AI 시스템 개발에 나섰고, 월가 금융회사들과 함께 15억 달러 규모의 합작법인까지 설립했다. AI 기업이 이제 금융 인프라 자체를 장악하려는 단계로 들어간 것이다. 이 과정에서 가장 중요한 변화는 AI의 역할이 ‘보조 도구’에서 ‘업무 대행자’로 이동하고 있다는 점이다. 과거 AI는 이메일 초안 작성이나 간단한 검색 지원 정도에 머물렀다. 그러나 이제는 투자은행의 피치북 제작과 신용평가 메모 작성, 회계 결산 등 고난도 업무에 투입되고 있다. 인간 전문가가 하던 핵심 지식 노동을 AI가 대신하기 시작한 것이다. 이것은 금융업의 구조 자체를 바꿀 가능성이 있다. 투자은행의 주니어 애널리스트 수요는 줄어들 수 있다. 회계법인의 단순 감사 업무도 축소될 수 있다. 반면 AI 모델을 검증하고 리스크를 통제하는 새로운 직무는 늘어날 것이다. 금융산업은 이제 사람 중심 조직에서 인간과 AI가 함께 움직이는 하이브리드 조직으로 전환되고 있다. 특히 주목해야 할 것은 AI가 단순 효율화 수준을 넘어 금융 의사결정 영역까지 침투하고 있다는 사실이다. 신용평가와 리스크 분석은 금융의 핵심 권한이다. 누구에게 돈을 빌려주고, 어떤 기업을 투자 대상으로 판단할 것인가를 결정하는 일이다. 만약 AI가 그 판단 과정의 상당 부분을 맡게 된다면 금융의 권력 구조 자체가 바뀔 가능성이 있다. 미국 금융권은 이미 전면전에 들어갔다. JPMorgan Chase 의 제이미 다이먼 회장은 “은행 내부에 AI 전담 부서를 운영하고 있으며 수백 개 활용 사례가 진행 중”이라고 공개적으로 밝혔다. 리스크 관리, 금융사기 탐지, 마케팅, 디자인, 회의 기록, 문서 검토 등 거의 모든 분야에 AI가 투입되고 있다는 의미다. 이는 단순한 기술 실험이 아니다. 월가는 이미 AI를 차세대 금융 인프라로 보고 있다. 과거 인터넷이 금융산업을 바꿨다면, 이제 AI는 금융업의 사고 체계 자체를 바꾸고 있다. 인간이 데이터를 읽고 판단하던 시대에서 AI가 데이터를 읽고 인간이 최종 승인하는 구조로 이동하고 있는 것이다. 문제는 한국이다. 한국 금융권도 AI 도입을 이야기하고 있다. 은행과 증권사, 보험사들이 생성형 AI 파일럿 프로젝트를 진행 중이고 일부 챗봇 서비스도 운영하고 있다. 그러나 아직은 개념검증(PoC) 단계에 머물러 있는 경우가 많다. 조직 전체를 AI 중심으로 재설계하려는 전략은 부족하다. 금융당국 역시 규제와 보안 이슈에 초점을 맞추고 있을 뿐, AI 금융 시대의 산업 구조 변화에 대한 국가 전략은 아직 뚜렷하지 않다. 더 큰 문제는 속도다. 미국은 이미 AI 전담 조직을 만들고 금융업 전체를 재편하고 있는데, 한국은 여전히 시범 사업과 규제 검토 수준에 머무르는 경우가 적지 않다. 그러나 AI 산업은 속도의 게임이다. 초기 시장을 선점한 기업이 데이터와 경험을 축적하며 압도적 우위를 갖게 된다. 한국 금융권이 지금처럼 느리게 대응할 경우 글로벌 금융 경쟁력 자체가 약화될 가능성이 있다. 특히 우려되는 부분은 데이터 주권 문제다. 금융 데이터는 국가 경제의 핵심 자산이다. 만약 국내 금융회사들이 해외 AI 플랫폼에 지나치게 의존하게 되면 한국 금융의 핵심 정보와 의사결정 구조가 외국 기술기업에 종속될 위험도 있다. 단순한 편의성 문제가 아니라 금융 안보의 문제다. 금융당국도 이제는 사고를 바꿔야 한다. AI를 단순히 규제 대상이나 소비자 보호 차원에서만 볼 것이 아니라 국가 금융 경쟁력 차원에서 접근해야 한다. 첫째, 금융 AI 전문 인력을 체계적으로 양성해야 한다. 둘째, 금융권의 AI 실증 사업을 과감히 허용하는 규제 혁신이 필요하다. 셋째, 국내 AI 기업과 금융회사 간 협업 생태계를 구축해야 한다. 넷째, 금융 데이터 보안과 주권을 지킬 수 있는 국가 차원의 전략 플랫폼도 고민해야 한다. 물론 AI에는 위험도 존재한다. 잘못된 데이터 학습은 금융 사고를 초래할 수 있고, 알고리즘 편향은 신용 차별 문제를 낳을 수 있다. AI 기반 금융사기가 오히려 더 정교해질 가능성도 있다. 그래서 중요한 것은 무조건적인 낙관도, 막연한 공포도 아니다. 핵심은 통제 가능한 혁신이다. 도덕경에는 “변화에 앞서 움직이는 자가 흐름을 얻는다”는 뜻의 지혜가 담겨 있다. 산업혁명의 역사는 결국 먼저 준비한 자의 역사였다. 인터넷 시대에 뒤처진 기업들이 사라졌듯이, AI 금융 시대에도 대응하지 못한 금융회사는 경쟁력을 잃을 가능성이 크다. 지금 월스트리트에서는 AI가 피치북을 만들고 신용평가 문서를 작성하고 있다. 이것은 먼 미래의 이야기가 아니다. 이미 시작된 현재의 변화다. 그리고 그 변화는 한국 금융산업의 문 앞까지 와 있다. 문제는 하나다. 한국 금융당국과 금융권은 과연 이 거대한 변화에 제대로 대비하고 있는가.
2026-05-10 09:19:55
-
-
'진옥동 2기' 신한지주, 화려한 숫자가 아닌 '고객의 체감'으로
[경제일보] 신한금융그룹이 ‘진옥동 2기’ 체제의 돛을 올렸다. 고졸 사원으로 입사해 금융지주 회장까지 오른 그의 서사는 여전히 한국 금융계의 상징적인 이정표다. 지난 1기 임기 동안 사상 최대 실적을 경신하고 과감한 주주환원 정책을 펼치며 경영 능력 또한 충분히 입증해 보였다. 그러나 연임 확정과 함께 시작된 두 번째 임기를 맞이하는 시장의 시선은 축하보다 엄중한 질문에 쏠리고 있다. “과거의 성과가 미증유의 복합 위기 속에서도 여전히 유효한가”라는 물음이다. 현재 우리 경제가 처한 현실은 가혹하다. 원/달러 환율은 심리적 저항선인 1,500원을 넘어섰고, 고금리의 터널은 끝이 보이지 않는다. 지표상의 숫자보다 무서운 것은 현장의 비명이다. 이자 부담에 허덕이는 자영업자와 원자재 가격·환율 상승의 이중고에 짓눌린 중소기업들에게 지금의 금융은 ‘금리 몇 %’라는 산술적 수치가 아니다. 그들에게 금융은 당장의 숨통을 틔워주느냐, 아니면 마지막 생명줄을 조이느냐는 생존의 문제다. 진옥동 2기의 성패는 바로 이 지점, ‘고객 중심’이라는 선언이 공허한 구호를 넘어 실질적인 삶의 변화로 이어지느냐에 달려 있다. 금융권에 요구되는 ‘상생’은 이제 시혜적 차원의 사회공헌이 아니다. 벼랑 끝에 선 소상공인의 대출 금리를 단 0.5%포인트라도 낮춰주는 결단, 환율 폭등으로 자금난을 겪는 기업에 선제적으로 유동성을 공급하는 판단이 절실하다. 이자 부담으로 무너지는 가계를 위한 정교한 채무조정은 단순한 비용 지출이 아니다. 연체를 방지하고 고객을 살려내 금융사 자신의 건전성을 지키는 가장 현실적이고 고도화된 리스크 관리 전략이다. 고객이 무너지면 은행도 공멸한다는 ‘운명 공동체’ 의식이 진정한 상생 금융의 출발점이 되어야 한다. 진 회장이 강조하는 디지털 전환과 AI(인공지능) 전략 역시 ‘편의’의 차원을 넘어 ‘가치’의 혁명으로 진화해야 한다. 단순히 뱅킹 앱의 UI를 개선하고 속도를 높이는 수준으로는 빅테크와의 전쟁에서 승리할 수 없다. 신한이 내세운 ‘AI 금융’은 고객의 소비 패턴과 현금 흐름을 정밀하게 분석해 “다음 달 이자 부담이 위험 수준”임을 미리 경고하고, 자동으로 최적의 대환대출이나 자산 배분을 제안하는 수준까지 도달해야 한다. 기술이 고객의 손실을 막고 자산을 지켜주는 ‘보호막’이 될 때, 비로소 혁신이라는 이름에 걸맞은 경쟁력을 갖게 될 것이다. 글로벌 전략 또한 외형적 성장이 아닌 내실 있는 결과로 평가받아야 한다. 해외 점포 숫자를 늘리는 양적 팽창의 시대는 지났다. 베트남에서의 성공 모델을 동남아 전역으로 확산하되, 지정학적 리스크가 고조되는 시기일수록 ‘안정적인 수익 구조’를 정착시키는 것이 핵심이다. 덜 벌더라도 확실하게 버는 구조, 위기 상황에서도 흔들리지 않는 글로벌 포트폴리오를 구축하는 것이 진정한 글로벌 경쟁력이다. 무엇보다 신뢰의 근간인 내부통제에 사활을 걸어야 한다. 금융 사고는 단 한 번의 방심으로도 공들여 쌓은 공든 탑을 무너뜨린다. 최근 금융권을 강타한 각종 횡령과 부정 행위는 시스템의 미비보다 도덕적 해이와 실적 지상주의 문화에서 기인했다. ‘책무구조도’ 도입은 시작일 뿐이다. 성과보다 윤리를, 이익보다 정직을 우선시하는 조직 문화가 신한의 DNA로 각인되지 않는다면 어떤 첨단 시스템도 무용지물이다. 고객이 원하는 것은 화려한 미래 비전보다 “내 소중한 자산이 안전하다”는 확신 그 자체다. 주주환원 정책 역시 정교한 균형 감각이 요구된다. 시장은 높은 배당과 자사주 소각을 원하지만, 지금은 전례 없는 대외 불확실성에 대비해 위기 대응 체력을 비축해야 할 시기다. 지나친 낙관론에 기대어 기초 체력을 소진하는 우를 범해서는 안 된다. 잘 나누는 것만큼 중요한 것은 폭풍우 속에서도 끝까지 버텨낼 수 있는 맷집이다. 결국 진옥동 2기는 화려한 ‘스토리’가 아니라 차가운 시장의 ‘체감’으로 심판받을 것이다. 고객이 위기의 순간 “신한이라서 다행이다”라고 느끼는 경험이 쌓일 때, 비로소 ‘일류 신한’의 위상은 공고해진다. 숫자는 거짓말을 하지 않지만, 고객의 신뢰를 잃은 숫자는 신기루에 불과하다. 금융의 본질은 신뢰이며, 그 신뢰는 거창한 담론이 아니라 위기의 현장에서 고객의 편에 서는 작은 결정들의 축적에서 완성된다. 진옥동 회장이 이 엄중한 원칙을 2기 임기 내내 지켜낼 수 있을지 시장과 국민이 엄중히 지켜보고 있다.
2026-03-31 11:00:00
-