2026.10.09 금요일
검색
'안전한 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
![[2026 국감] AI 성능에 6조, 안전엔 274억…과기부, 국감서 브레이크](https://image.ajunews.com//content/image/2026/10/06/20261006144453107566.jpg)
AI 성능에 6조, 안전엔 274억…과기부, 국감서 '브레이크' [경제일보] 정부의 내년도 인공지능(AI) 예산 확대가 모델 성능과 인프라에 집중되면서 AI 자체의 위험을 평가·통제할 투자도 늘려야 한다는 요구가 국정감사에서 나왔다. 과학기술정보통신부 소관 AI 예산 정부안은 9조4308억원이지만 안전·신뢰 분야는 274억원으로 약 0.3%에 머물렀다. 배경훈 부총리 겸 과기정통부 장관은 안전연구소의 인력·예산 확충 필요성을 인정하고 12월 종합계획을 발표하겠다고 밝혔다. 이주희 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회 국감에서 “가속페달은 급속히 키워져 가고 있는데 브레이크는 지금 그대로인 상황”이라며 안전 분야 투자 확대를 촉구했다. 이 의원이 과기정통부에서 제출받은 자료에 따르면 내년 AI 성능·인프라 예산은 6조1490억원으로 전체의 65.2%다. 모델 개발, GPU 등 컴퓨팅 자원, 데이터 구축이 포함된다. 안전·신뢰 예산에는 안전성 평가·검증과 공격자 관점의 위험 시험, 딥페이크 대응, 윤리·영향평가 등이 분류됐다. 의원실이 제시한 기능별 기준에 따라 과기정통부가 세부 사업을 나눠 제출한 결과다. 두 분야의 예산 비율은 224대1로, 2024년 36대1보다 벌어졌다. 성능·인프라 예산은 올해보다 116% 늘어나지만 안전·신뢰 분야 증가율은 36%다. 안전 예산의 절대 규모가 늘어도 개발·인프라 투자 확대 속도를 따라가지 못하는 구조다. 274억원의 구성은 AI 안전 기술개발 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성 및 산업 생태계 기반 조성 21억원이다. 뒤의 두 사업은 올해와 편성액이 같다. 이 의원은 안전 예산을 전체 AI 예산의 최소 1%로 높이고 단계별 확대 계획을 제시하라고 요구했다. 현 정부안의 AI 총액에 1%를 적용하면 약 943억원으로, 현재 안전·신뢰 편성액보다 약 669억원 많다. 핵심 쟁점은 AI를 사이버방어에 활용하는 능력과 AI의 행동을 통제하는 능력을 함께 확보하는 데 있다. 취약점을 찾아 공격을 막는 보안 특화 모델을 개발하는 동시에, 모델이 허용된 작업 범위를 벗어나거나 외부 시스템에 접근하는 위험을 평가하고 차단할 체계도 필요하다는 지적이다. 해외에서는 시험 중인 AI가 통제를 벗어난 실제 사고가 발생했다. 오픈AI는 지난 8월 공개한 조사보고서에서 7월 내부 사이버보안 평가 중 AI 모델들이 인터넷 격리 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템에 침입했다고 밝혔다. 안전장치를 축소한 시험 환경에서 발생한 사건으로, 회사는 인터넷 접근 제한과 평가 환경 격리, 이상행동 감시를 강화하겠다고 설명했다. 영국 AI보안연구소(AISI)도 지난 8월 보고서에서 인터넷 접근을 허용하고 일부 안전 필터를 해제한 사이버 평가 도중 에이전트가 실제 인물·기관을 겨냥한 승인되지 않은 행동을 했다고 공개했다. 대응책으로 외부 접속 통제, 실시간 감시, 평가 환경 재설계를 제시했다. AI 안전 평가에는 모델을 시험하는 전문인력뿐 아니라 시험이 외부 피해로 이어지지 않도록 격리하는 인프라도 요구된다. 국내 평가 역량을 담당할 AI안전연구소의 인력 문제도 제기됐다. 이 의원은 인력이 26명에서 38명으로 늘었지만 해외 주요국보다 부족하다며 확충을 요구했다. 연구소는 AI 안전성 평가와 정책·기술 연구, 주요국 연구기관과의 협력을 맡고 있다. 이 의원은 정부 지원 모델의 학습·시험 과정에서 외부 접속을 어디까지 허용하는지, 이상행동이 발생하면 누가 실행을 중단하고 보고하는지 명확히 해야 한다고 강조했다. 배 부총리는 관련 해외 사고로 인한 국내 기관 피해는 아직 확인되지 않았다고 설명했다. 배 부총리는 “고영향 AI나 AI의 안전성을 평가할 때 영국의 안전연구소에 많이 의뢰한다”며 국내 연구소의 인력과 예산을 늘려 역량을 확보하는 일이 중요하다고 밝혔다. 정부는 보안 특화 모델과 프론티어 AI 개발을 통한 사이버안보 대응도 추진한다. 과기정통부는 12월 ‘국가 AI 안전생태계 조성 마스터플랜’을 수립·발표할 계획이다. 배 부총리는 국가 AI 안전관리체계 구축, 첨단 AI 안전 대응 역량 강화, 국민 일상의 안전한 AI 환경 조성을 준비하겠다고 밝혔다.2026-10-06 14:46:43
-
![[2027년 예산안] AI 3대 강국 사활 건 과기정통부…내년 29.6조 쏟아붓는다](https://image.ajunews.com//content/image/2026/09/01/20260901140309962105.jpg)
'AI 3대 강국' 사활 건 과기정통부…내년 29.6조 쏟아붓는다 [경제일보] 정부가 인공지능(AI)을 국가 성장전략의 전면에 내세우면서 과학기술정보통신부의 내년 살림도 크게 불어난다. 과기정통부는 AI 대전환과 차세대 전략기술에 재정을 집중하고, 이를 산업 현장과 지역으로 확산해 ‘AI 3대 강국’ 도약의 기반을 마련한다는 계획이다. 과기정통부는 1일 국무회의에서 2027년도 예산안이 의결됐다고 밝혔다. 총예산은 29조6476억원으로 올해 추가경정예산보다 5조8272억원, 24.5% 증가했다. 이 가운데 AI 관련 예산은 9조4000억원으로 84.3% 늘었고, R&D 예산도 14조1000억원으로 18.5% 증가했다. 가장 큰 변화는 AI 투자 확대다. 정부는 고성능 GPU 확보부터 독자 AI 모델, 데이터센터, 피지컬 AI까지 AI 생태계 전반에 투자한다. 대규모 GPU 확보를 통해 AI 연산 기반을 확충하고 프론티어급 AI 개발에 필요한 데이터 경쟁력도 강화한다. 전 국민이 범용 AI와 공공 AI 에이전트를 활용하는 ‘모두의 AI’에는 2500억원을 신규 배정했다. AI를 산업 현장으로 가져가는 투자도 늘어난다. 반도체·피지컬 AI·AI 데이터센터를 중심으로 한 3대 메가프로젝트를 추진하고, 로봇과 제조 현장에 AI를 접목하는 사업을 확대한다. AI 데이터센터의 국산 솔루션과 인프라 기술을 개발하고, 피지컬 AI 분야에서는 휴머노이드와 로봇 파운데이션 모델 등 차세대 기술 확보에 나선다. AI 확산에 따른 부작용과 보안 문제에도 예산을 투입한다. AI 안전 기술과 사이버보안 AI 개발, 중소기업의 AI 기반 위협 대응 등을 지원해 ‘빠른 AI 도입’과 ‘안전한 AI 활용’을 동시에 추진한다. ◆ AI 다음 먹거리도 선점 정부는 AI에만 올인하지 않는다. AI 이후 국가 경쟁력을 좌우할 차세대 전략기술에는 12조3770억원을 편성했다. 특히 7대 시드(SEED) 프로젝트에는 1조3439억원을 투입한다. SMR과 핵융합 등 미래에너지, 양자컴퓨터, AI·로봇 기반 신약개발, 뇌-컴퓨터 인터페이스(BCI), 우주항공 등이 주요 대상이다. 정부는 현재 경쟁력이 있는 분야를 따라가는 데 그치지 않고 향후 10~20년 뒤 산업을 좌우할 기술을 선점하겠다는 전략이다. 기초연구와 출연연구기관에 대한 투자도 확대한다. 기초연구 예산을 늘리고 출연연은 기관별 임무 중심 연구를 강화한다. R&D 예산을 대형·중장기 과제로 전환하고 연구성과가 기술이전과 창업, 기업 성장으로 이어지도록 투자형 R&D도 새롭게 도입한다. 2027년 정부 전체 R&D 예산은 39조5000억원으로 올해보다 11.2% 증가한다. 지역 격차 해소도 핵심 축이다. 4대 권역을 중심으로 지역 AI 전환(AX)을 확대하고 지역이 강점을 가진 산업과 AI를 결합하는 방식으로 투자를 늘린다. AI 인재를 수도권에만 묶어두지 않고 지역 대학과 산업 현장에서 길러내겠다는 구상이다. 한편 내년도 과기정통부 예산의 특징은 AI를 중심으로 인프라·기술·인재·산업·지역을 하나의 생태계로 묶는 것이다. 다만 막대한 예산을 투입한다고 경쟁력이 자동으로 생기는 것은 아니다. GPU 확보량이나 연구비 규모보다 중요한 것은 국내 기업과 연구기관이 실제 글로벌 제품과 서비스로 연결할 수 있는 성과를 얼마나 만들어내느냐다. 과기정통부 역시 예산 확대와 함께 R&D의 성과관리와 사업화에 무게를 두고 있다. 결국 2027년은 한국이 AI에 얼마를 썼느냐보다 그 돈으로 어떤 기술을 확보하고 어떤 기업을 키웠는지를 증명해야 하는 해가 될 전망이다.2026-09-01 14:05:01
-
뤼튼, '서비스로 버는 AI' 증명했다…1조 유니콘 등극 [경제일보] 인공지능(AI) 서비스 플랫폼 기업 뤼튼테크놀로지스가 기업가치 1조원 이상의 평가를 받으며 유니콘 기업에 올라섰다. 거대언어모델(LLM)이나 AI 반도체가 아닌 실제 소비자가 사용하는 AI 서비스와 수익화 성과를 기반으로 1조원 기업가치를 인정받았다는 점에서 의미가 있다. AI 경쟁의 무게중심이 모델 성능뿐 아니라 이용자 확보와 서비스 수익화로 이동하고 있다는 신호로도 풀이된다. 뤼튼은 26일 1000억원 규모의 시리즈C 투자를 유치했다고 밝혔다. 누적 투자액은 약 2300억원으로 늘었다. 신규 투자자로 미국 벤처캐피털 코어라인벤처스와 유진자산운용이 참여했으며 기존 투자자인 굿워터캐피탈, 앤틀러 글로벌, 산업은행, 우리벤처파트너스, 캡스톤파트너스 등도 후속 투자에 나섰다. 뤼튼의 기업가치는 지난해 시리즈B 당시 3000억원대 중반으로 평가된 것으로 알려졌다. 1년5개월여 만에 기업가치가 1조원 이상으로 뛰면서 성장 속도를 입증했다. 핵심 동력은 해외 사업이다. 지난 5월 북미에서 출시한 AI 엔터테인먼트 콘텐츠 플랫폼 ‘OOC’는 출시 3개월 만에 월매출 100억원을 넘어섰고 해외 매출이 국내 매출을 추월했다. 뤼튼은 이를 바탕으로 올해 매출이 지난해 471억원의 4배를 웃도는 2000억원을 넘어설 것으로 전망했다. 뤼튼은 범용 AI 서비스 ‘뤼튼’과 AI 캐릭터 챗 플랫폼 ‘크랙’을 운영하며 일본과 북미로 서비스를 확장했다. 특히 AI와 대화하고 콘텐츠를 소비하는 AI 엔터테인먼트 분야를 집중 공략하면서 새로운 수익 모델을 만들어냈다는 평가다. ◆ 글로벌 확장과 ‘안전한 AI’가 다음 과제 1조원 기업가치를 인정받은 만큼 앞으로는 성장세를 지속적으로 증명해야 한다. 글로벌 빅테크와 경쟁해야 하는 컨슈머 AI 시장에서 이용자 규모뿐 아니라 유료 전환과 재방문, 해외 매출의 지속성이 중요해졌다. 이용자 보호도 강화한다. 뤼튼은 지난 7월 AI 윤리·철학, 인지·심리, 법학 전문가로 구성된 사용자위원회를 출범시켰고 한국인터넷자율정책기구(KISO)의 AI 캐릭터 챗봇 자율규제 가이드라인 마련에도 참여하고 있다. 청소년 이용자가 약 10%인 크랙에는 이용시간 제한과 부모 동의 절차 강화, 결제한도 하향 등을 검토하고 있다. 이세영 뤼튼 대표는 “창업 후 지난 5년간 대한민국 대표 AI 서비스 기업으로 자리매김하고 글로벌 경쟁력까지 증명한 결과 이번 투자를 성공적으로 마무리할 수 있었다”며 “글로벌 확장과 서비스 고도화에 주력해 시장 기대에 부응하는 것은 물론, 안전하고 믿을 수 있는 AI 서비스 기업으로서 더 빠르게 성장하겠다”고 말했다. 한편 뤼튼의 유니콘 등극은 국내에서도 소비자가 실제 비용을 지불하는 AI 서비스 모델이 만들어질 수 있다는 점을 보여줬다는 데 의미가 있다. 향후 관건은 OOC와 크랙 등 해외 서비스의 성장을 일회성 매출이 아닌 지속 가능한 글로벌 플랫폼으로 전환하는 것이다.2026-08-26 10:32:50
-
"AI도 해킹 표적 된다"…S2W, AI 취약점 진단 시장 공략 [경제일보] 기업들의 생성형 인공지능(AI) 도입이 본격화되며 AI가 직접 업무를 수행하는 '에이전틱 AI' 시대가 열리면서 AI 자체를 겨냥한 새로운 보안 위협이 빠르게 증가하고 있다. 프롬프트 인젝션과 데이터 탈취, 권한 오남용 등 기존 보안 체계만으로 대응하기 어려운 공격 기법이 등장하는 가운데, AI 서비스를 공격자의 관점에서 점검하는 'AI 레드티밍'과 취약점 진단 시장도 확대되고 있다. 30일 빅데이터 분석 AI 기업 S2W는 기업의 안전한 AI 도입과 활용을 지원하기 위해 AI 서비스 취약점 진단 사업을 본격 확대한다고 밝혔다. S2W는 이번 사업이 대규모 언어모델(LLM)과 AI 에이전트를 활용한 서비스가 빠르게 확산되는 상황에서 기업들이 AI 서비스에 대한 보안성을 사전에 검증하고 잠재적 위험을 최소화할 수 있도록 지원하기 위해 마련됐다고 설명했다. 최근 금융과 제조, 공공 분야를 중심으로 생성형 AI 도입이 확대되면서 AI가 기업의 핵심 업무 시스템과 연계되는 사례가 늘어나고 있지만, AI 특성을 고려한 보안 점검 체계는 아직 초기 단계에 머물러 있다는 것이다. 특히 AI 서비스는 기존 정보기술(IT) 시스템과 달리 프롬프트 조작을 통한 정보 유출과 권한 탈취, 악성 데이터 입력을 통한 오작동 유발 등 새로운 유형의 보안 위협에 노출돼 있다. AI 에이전트가 외부 서비스와 연동해 자율적으로 업무를 수행하는 사례가 늘어나면서 AI 보안의 중요성 역시 더욱 커지고 있다. 실제로 최근 정부도 AI 보안 체계 마련에 속도를 내고 있다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 최근 'AI 보안 레드티밍 가이드'를 발간하고 공격자 관점에서 AI 서비스의 보안성을 점검하기 위한 절차와 방법론을 제시했다. AI 도입이 기업 경쟁력과 직결되는 시대가 도래하면서 사전 보안 검증의 필요성이 커지고 있다는 분석이다. S2W는 해당 흐름에 맞춰 공격자의 시각에서 AI 서비스의 잠재적 취약점을 진단하는 AI 서비스 취약점 진단 사업을 확대한다. 다크웹과 텔레그램, 해킹 포럼 등에서 수집한 실제 LLM 공격 기법을 점검 과정에 즉시 적용할 수 있는 오펜시브 보안 역량을 기반으로 AI 서비스 전반의 보안성을 검증한다는 계획이다. 특히 S2W는 국제 비영리 보안 단체인 OWASP가 제정한 'OWASP Top 10 for LLM'을 기본 기준으로 활용하고, 산업별 특수성을 고려한 추가 점검 항목을 적용해 도메인 적합성을 높였다고 설명했다. 이를 통해 모델과 프롬프트, 데이터, AI 에이전트 등 AI 서비스를 구성하는 다양한 요소에 내재된 취약점을 정밀 진단하고 공격자의 악용 가능성을 다면적으로 검증할 예정이다. 기업들이 AI를 핵심 업무 시스템과 연계하는 사례가 늘어나면서 AI 서비스에 대한 보안 요구 수준도 높아지고 있다. 생성형 AI가 단순 질의응답을 넘어 업무 자동화와 의사결정 지원 역할까지 수행하게 되면서 서비스 도입 이전 단계부터 취약점을 점검하려는 수요 역시 증가하는 추세다. AI 보안 시장이 기존 정보보안의 하위 영역이 아닌 독립적인 시장으로 성장하고 있다는 평가가 나오는 이유다. S2W는 AI 서비스 취약점 진단 사업 개시와 동시에 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업도 수주했다. 금융권의 엄격한 보안 기준과 규제 환경을 고려한 취약점 진단을 수행 중이며, 향후 제조와 공공 등 다양한 산업 분야로 사업 영역을 확대할 계획이다. 또한 각 산업별 AI 활용 방식과 서비스 구조, 보안 요구사항 등을 종합적으로 반영한 맞춤형 취약점 진단 서비스를 제공하고, 자체 개발한 AI 기반 점검 도구와 오펜시브 보안 전문가들의 노하우를 결합해 AI 서비스의 안전한 도입을 지원한다는 방침이다. 양종헌 S2W 통합분석실장은 "AI 서비스의 잠재적 위험을 사전에 찾아내기 위해서는 AI를 활용한 정교한 점검과 공격자 관점의 전문적인 검증이 함께 이뤄져야 한다"며 "S2W는 자체 개발한 AI 기반 도구에 오펜시브 보안 전문가의 노하우를 결합해 기업이 AI 서비스를 보다 안전하게 도입하고 운영할 수 있도록 실효성 높은 진단 서비스를 제공하고 있다"고 말했다.2026-07-30 14:51:19
-
제15회 정보보호의 날 개최…AI가 커질수록 보안도 국가경쟁력 [경제일보] 정부가 인공지능(AI) 시대 정보보호 경쟁력 강화를 국가 과제로 내세웠다. AI가 행정과 금융, 산업 현장으로 빠르게 확산되는 만큼 보안 역량이 디지털 경제의 안전판이자 산업 경쟁력이라는 판단이다. 과학기술정보통신부는 국가정보원, 행정안전부 등 관계부처와 함께 8일 서울 신라호텔에서 ‘제15회 정보보호의 날’ 기념식을 개최했다. 올해 행사는 ‘안전한 AI 시대, 대한민국이 앞서갑니다’를 주제로 열렸다. AI 시대 정보보호의 중요성을 되새기고 안전한 AI 사회 구현을 위한 정책 방향을 공유하는 자리다. 이재명 대통령은 대독축사를 통해 “인공지능이 우리 사회 전반으로 빠르게 확산되면서 정보보호의 중요성이 그 어느 때보다 커지고 있다”고 밝혔다. 이어 “범부처 협력체계를 확대해 새로운 위협에 신속히 대응하고 AI 기반 보안 기술과 산업 생태계를 적극 육성하겠다”고 강조했다. 이번 메시지는 AI 확산에 따른 보안 위협의 성격이 달라지고 있다는 인식을 반영한다. 기업과 공공기관은 생성형 AI를 문서 작성, 상담, 코드 개발, 데이터 분석에 활용하고 있다. 동시에 프롬프트 인젝션, 데이터 유출, 모델 오용, 공급망 공격 등 기존 보안 체계로 대응하기 어려운 위험도 커지고 있다. 정부는 정보보호를 규제나 사고 대응 차원이 아니라 산업 육성의 축으로 보고 있다. AI 기반 보안 기술, 위협 탐지, 레드팀, 취약점 점검, 보안 인재 양성이 함께 커져야 안전한 AI 활용 환경이 만들어진다는 판단이다. 앞서 과기정통부와 한국인터넷진흥원은 AI 보안 위협 대응 매뉴얼과 AI 보안 레드티밍 가이드를 발간하며 현장 대응 기준도 제시했다. 이날 기념식에서는 정보보호 발전에 기여한 유공자 35명에 대한 정부 포상도 진행됐다. 이동범 지니언스 대표이사는 국산 보안 기술을 통해 국가 주요 시설 보안 강화와 산업 발전에 기여한 공로로 국민훈장 석류장을 받았다. 김용대 한국과학기술원 교수는 이동통신·사이버물리 보안 연구와 표준·정책 개선 공로로 국민포장을 수상했다. 하재철 호서대학교 교수는 암호용 하드웨어 연구개발과 핵심 원천기술 확보에 기여한 공로로 근정포장을 받았다. 이철호 엔플러스랩 대표이사, 임채식 세종특별자치시 사무관, 황정현 아이닉스 대표이사는 대통령 표창을 받았다. 국무총리 표창 5점도 정보보호 분야 유공자에게 수여됐다. 정부는 7월 한 달을 ‘정보보호의 달’로 지정하고 산·학·연이 참여하는 행사를 이어간다. 정보보호의 날 기념식을 시작으로 AI 보안 레드팀 및 보안취약점 신고·조치·공개 제도 심포지엄, 국제 사이버보안 협력 네트워크(CAMP) 연례회의, 2026 핵테온 세종, 주요정보통신기반시설 보호 워크숍, 정보보호 루키 밋업데이, 코드게이트 해킹방어대회 등이 순차적으로 열린다.2026-07-08 14:20:57
-
은행권 AX 전략 속도…AI 에이전트·내부통제 전반으로 확대 [경제일보] 주요 은행들이 인공지능 전환(AX) 경영 전략에 속도를 내고 있다. 지난해까지 챗봇과 상담 지원, 금융사기 탐지 등 개별 서비스 고도화에 집중했다면 올해는 AI 에이전트와 내부 플랫폼 구축, 내부통제 업무 적용 등으로 범위가 넓어지고 있다. 11일 업계에 따르면 은행의 AI 전략은 단순 서비스 도입을 넘어 조직 운영 방식 변화로 이어지고 있다. 신한은행은 지난 9일 AI 인재 육성 조직 'AX·Web3 Academy'를 출범했다. 이 조직은 금융 업무에 특화된 '버티컬 에이전트' AI 개발을 주요 과제로 삼고 부서별 업무 효율화, 고객 경험 개선을 위한 AI 활용 모델을 모색한다. 또한 약 1만2000명의 임직원을 대상으로 AI 활용 교육을 확대해 AX·Web3 분야 핵심 전문가 양성도 병행한다. 우리은행은 AI 에이전트를 실제 업무 단위에 적용하는 방식으로 AI 전략을 구체화하고 있다. 우리은행은 △기업여신 △자산관리 △내부통제 △고객상담 △업무자동화 등 5대 영역 29개 업무에 175개 AI 에이전트를 도입하는 체계를 추진 중이다. 앞서 우리은행은 생성형 AI 기반 '심층 리서치'도 자체 개발했다. 내부 금융 데이터를 수집·연계·분석해 산업·기업 분석 보고서 초안을 생성하는 방식으로 단순 검색이나 문서 요약을 넘어 내부 데이터를 기반으로 업무 판단을 지원하는 데 초점을 맞췄다. NH농협은행은 'Agentic AI Bank'를 내세워 전사 AI 전환을 추진하고 있다. 농협은행은 직원이 AI 에이전트를 직접 만들고 활용할 수 있는 자체 AI 플랫폼 'NHAIS'를 기반으로 금융 업무 전반을 AI 기반으로 구현하는 'AI 풀 뱅킹'을 목표로 삼았다. 농협은행은 AI 기업 인수와 데이터센터 투자도 추진한다. AI 전문기업 애자일소다 인수를 통해 AI 기술 내재화를 추진하고 관련 인프라 구축을 통해 은행 업무 전반의 자동화와 고도화를 추진한다는 구상이다. KB국민은행의 경우 영업현장에 PB·RM·금융상담 에이전트를 선제적으로 도입했다. 해당 에이전트는 직원들이 고객의 투자성향과 시장동향을 정밀하게 분석하고 맞춤형 포트폴리오를 제안할 수 있도록 지원한다. 하나은행은 AI를 자산관리와 신사업 발굴 영역에 접목하고 있다. 하나은행은 △고객별 인출기간 △인출주기 △연금 자산규모 △위험성향 △시장환경 등을 반영하는 AI 연금투자 인출기 솔루션을 선보이고 비대면 채널 확대를 추진하고 있다. 은행권의 AI 도입 초기 활용은 △챗봇 △AI 상담 △금융비서 △이상거래 탐지 등 고객 접점과 일부 내부 업무 고도화에 집중됐다. 반면 올해는 AI가 전사 조직 운영과 인재 육성, 업무 프로세스, 내부통제, 금융사기 예방, 자산관리, 여신심사 등으로 범위를 넓히고 있다. 은행권의 AI 역량이 빠르게 성장하면서 보안과 내부통제, 금융소비자 보호 체계도 함께 주목받고 있다. 금융 업무 특성상 △개인정보 △금융거래 데이터 △알고리즘 신뢰성 문제가 발생할 수 있어 AI 거버넌스 구축이 향후 안정적인 금융 AI 환경을 위한 변수로 꼽힌다. 이에 금융당국도 금융권의 AI 보안 체계 고도화에 나섰다. 금융위는 현재 △망분리 규제 긴급 완화 △보이스피싱 정보공유·분석 AI 플랫폼 'ASAP'의 통신·수사 정보 공유 확대 △금융권 무과실 책임제도 도입 등을 추진하고 있다. 특히 망분리 규제 완화는 금융권 AI 확대 속도를 높이는 계기가 될 수 있다. 금융위는 올해 시행을 목표로 보안 목적 AI를 활용한 취약점 점검에 대해 망분리 규제 긴급 완화를 추진하고 있다. 안전한 AI·보안 역량을 갖춘 금융회사에 대해서는 망분리 규제 전면 해제 방안도 검토하고 있다. 기존 금융사는 내부망과 외부망을 분리하는 규제로 인해 외부 데이터와 클라우드 기반 AI 기술을 업무에 적용하려면 혁신금융서비스 등 관련 절차를 거쳐야 했다. 업계에서는 규제 완화가 현실화될 경우 외부 AI 기술과 내부 업무 시스템의 연계 효율성을 높일 수 있을 것으로 보고 있다. 은행권 관계자는 "망분리 규제 완화로 금융사는 그동안 도입이 어려웠던 SaaS 기반 서비스에 대한 검토를 적극적으로 진행하고 있다"며 "이는 생성형 AI로 촉발된 급변하는 기술 환경에 대응하는데 긍정적 영향을 미칠 것으로 기대된다"고 말했다.2026-06-11 16:56:04
-
한컴, AI 시대 '데이터 유출' 막는다…에어코드와 보안 동맹 [경제일보] 한글과컴퓨터(한컴)가 원격 웹 격리(RBI) 보안 전문기업 에어코드와 손잡고 인공지능(AI) 업무환경의 보안 경쟁력 강화에 나선다. 생성형 AI 도입이 기업과 공공기관 전반으로 확산되는 가운데 외부 웹과 AI 서비스를 이용하는 과정에서 발생할 수 있는 데이터 유출 위험을 최소화하겠다는 전략이다. 한컴은 에어코드와 원격 웹 격리 보안 솔루션 ‘AirRBI’ 총판 업무협약(MOU)을 체결했다고 2일 밝혔다. 한컴은 공공·교육·기업·중소사업자 분야에 구축한 전국 공인 파트너망과 에어코드의 보안 기술을 결합해 공공 및 민간 보안 시장 공략을 강화할 계획이다. 이번 협력의 핵심은 생성형 AI 시대에 적합한 안전한 업무환경 구축이다. 기업이 생성형 AI를 업무에 도입하면 내부 문서와 고객 정보, 업무 데이터가 외부 AI 서비스 및 웹 환경과 연결될 가능성이 커진다. AI 활용 범위가 넓어질수록 데이터가 어디에서 처리되고 어떤 경로를 통해 이동하는지 통제하는 보안 체계의 중요성도 함께 커지고 있다. AirRBI는 웹 브라우징을 사용자 PC가 아닌 원격 서버에서 실행해 악성코드와 랜섬웨어 유입을 차단하는 솔루션이다. 여기에 웹 첨부파일의 위협을 제거하는 콘텐츠 무해화(CDR) 기술과 생성형 AI 사용 과정에서 개인정보 및 중요 정보 유출을 방지하는 데이터 유출 방지(DLP) 기능을 결합해 다중 방어 체계를 제공한다. 회사 측에 따르면 AirRBI는 GS인증 1등급과 한국인터넷진흥원(KISA) 신속확인제 승인을 획득했으며 조달청 다수공급자계약(MAS) 물품 등록도 완료했다. 이번 협력은 한컴이 지난달 발표한 ‘소버린 에이전틱 운영체제(Sovereign Agentic OS)’ 전략과도 맞닿아 있다. 소버린 에이전틱 OS는 조직 내부 데이터와 외부 AI 모델, 업무 시스템, 권한 체계를 하나의 안전한 환경에서 연결·통제하는 AI 에이전트 운영체제다. 한컴은 데이터 주권 확보를 핵심 원칙으로 내세우고 있으며 RBI·CDR·DLP 기반 보안 기술은 이를 구현하는 핵심 신뢰 인프라 역할을 담당하게 된다. 정책 환경도 우호적이다. 국가정보원이 지난해 9월 공개한 국가망보안체계(N2SF)는 공공기관이 AI와 클라우드 등 신기술을 보다 안전하게 활용할 수 있도록 설계된 새로운 보안 체계다. 제로트러스트 원칙을 기반으로 하는 만큼 웹 격리와 데이터 유출 방지 기술에 대한 수요 역시 공공 부문을 중심으로 확대될 것으로 전망된다. 다만 시장 확대의 관건은 실제 구축 성과에 달려 있다. AI 보안은 단순히 기술을 도입하는 데 그치지 않고 기존 업무망과 사용자 권한 체계, 문서 관리 시스템, 외부 AI 서비스 활용 정책까지 통합적으로 설계돼야 한다. 한컴이 에어코드 솔루션을 자사 AI 플랫폼과 얼마나 자연스럽게 연계해 공공 및 기업 고객 사례를 확보하느냐가 향후 사업 성패를 좌우할 것으로 보인다. 한컴 관계자는 “AI가 신뢰받기 위해서는 데이터가 안전하게 통제된다는 전제가 충족돼야 한다”며 “검증된 보안 기술을 한컴 AI 환경에 결합해 안전한 AI 업무환경을 구현하고 소버린 에이전틱 OS 전략을 현실화해 나가겠다”고 말했다.2026-06-02 08:59:01
-
코드게이트, AI 스타트업 해커톤 참가자 모집…창업에 보안 더한다 [경제일보] 코드게이트보안포럼과 기술보증기금이 AI 창업 아이디어 발굴과 사업화 검증을 위한 ‘코드게이트 AI 스타트업 해커톤’ 참가자를 모집한다. 생성형 AI 확산으로 서비스 개발 진입장벽이 낮아진 가운데, 초기 창업 단계부터 보안을 함께 설계하는 문화를 확산하겠다는 취지다. 코드게이트보안포럼과 기술보증기금은 오는 7월21일부터 23일까지 사흘간 ‘코드게이트 AI 스타트업 해커톤’을 공동 개최한다고 밝혔다. 참가 신청은 7월8일까지 코드게이트 홈페이지와 공식 모집 페이지를 통해 진행된다. AI와 창업에 관심 있는 국내외 참가자는 국적, 연령, 직업 제한 없이 지원할 수 있다. 이번 해커톤은 단순한 아이디어 경진대회가 아니라 AI를 활용해 실제 서비스 기획과 최소기능제품(MVP) 구현까지 경험하는 실전형 프로그램으로 운영된다. 기획자, 개발자, 마케터, 디자이너 등 다양한 직군이 참여할 수 있으며 팀은 3인 이상 5인 이내 구성이 원칙이다. 개인 신청자는 운영사무국의 팀 매칭 지원을 받을 수 있다. 선발된 약 20개 팀은 7월15일 최종 발표될 예정이다. 본 행사는 7월21일부터 22일까지 스페이스쉐어 삼성역센터에서 집중 협업 방식으로 진행되며 23일에는 코엑스 그랜드볼룸에서 최종 결과물을 발표하는 데모데이와 심사가 열린다. 이번 행사의 차별점은 평가 기준에 보안을 별도 항목으로 반영한 데 있다. 최종 평가는 시장성 및 사업화 가능성, MVP 완성도, 문제 정의력, 보안 등을 중심으로 이뤄진다. 특히 보안 항목에 20% 배점이 부여돼 참가자들은 서비스 기획과 개발 단계에서 개인정보 보호, 데이터 관리, 취약점 대응 등 안전한 AI 서비스 설계 역량까지 함께 검증받게 된다. AI 창업 환경에서 보안은 더 이상 후순위 요소가 아니다. 생성형 AI 도구를 활용하면 짧은 시간 안에 서비스 프로토타입을 만들 수 있지만 데이터 오남용이나 권한 관리, 프롬프트 조작, 모델 출력 오류 같은 위험도 함께 커진다. 초기 스타트업이 빠른 개발 속도만 앞세울 경우 실제 사업화 단계에서 신뢰와 규제 대응이 걸림돌이 될 수 있다. 코드게이트가 AI 해커톤에 보안 평가를 넣은 것도 이런 흐름과 맞닿아 있다. 올해 코드게이트 2026 본선에는 KAIST와 협업해 개발한 ‘AI 해커’가 선수 자격으로 참가할 예정이다. AI가 공격과 방어 양쪽에서 활용되는 시대가 본격화되면서 창업 생태계에서도 기술 구현력 못지않게 안전한 서비스 설계 능력이 중요해지고 있다. 대회 첫날에는 김진형 KAIST 명예교수와 정영범 퓨리오사AI 이사 등이 참여하는 토크콘서트가 열려 AI와 창업 트렌드, 현업 인사이트를 공유할 예정이다. 시상은 총 3개 팀을 대상으로 진행되며 총상금은 1500만원이다. 1위 1000만원, 2위 300만원, 3위 200만원이 각각 수여된다. 이번 해커톤은 국제해킹방어대회와 콘퍼런스인 ‘코드게이트 2026’의 부대행사로 치러진다. 시상식은 7월24일 코드게이트 국제해킹방어대회 시상식과 함께 진행될 예정이다. AI 창업과 보안 역량을 동시에 검증하는 이번 행사가 초기 스타트업의 사업화 가능성과 신뢰성을 함께 높이는 계기가 될지 주목된다.2026-06-01 09:24:55
-
카카오, 구글 딥마인드와 손잡았다…카카오 AI '카나나'에 워터마크 적용 [경제일보] 카카오가 구글 딥마인드와 손잡고 AI 생성 콘텐츠 추적 기술 도입에 나선다. 생성형 AI 확산과 함께 딥페이크·허위정보 우려가 커지는 가운데 AI 콘텐츠 신뢰성과 투명성을 강화하기 위한 대응에 속도를 내고 있다. 20일 카카오는 구글 딥마인드와 AI 생성 콘텐츠 투명성 강화를 위한 기술 파트너십을 체결했다고 밝혔다. 이번 협력을 통해 카카오는 자체 AI 모델 '카나나'에 구글 딥마인드의 디지털 워터마킹 기술 '신스ID'를 적용할 계획이다. 카카오는 아시아 기업 가운데 처음으로 신스ID 기술을 도입하는 것으로 알려졌다. 글로벌 AI 업계에서는 생성형 AI 결과물에 대한 식별 기술 필요성이 커지면서 워터마킹 기술 경쟁이 확대되고 있다. AI가 생성한 이미지와 영상, 음성, 텍스트가 실제 콘텐츠와 혼재되면서 진위 여부를 구분하기 어려워지고 있기 때문이다. 신스ID는 구글 딥마인드가 개발한 AI 생성물 식별 기술이다. 이미지·영상·오디오·텍스트 등에 사람의 눈이나 귀로는 인식하기 어려운 비가시적 워터마크를 삽입해 AI 생성 여부를 추적할 수 있도록 설계됐다. 단순 로고 삽입 방식과 달리 편집이나 재가공 이후에도 AI 생성 여부를 판별할 수 있는 것이 특징이다. 푸시미트 콜리 구글 딥마인드 과학·전략 이니셔티브 부문 부사장은 "AI 생성 콘텐츠를 식별하기 위해서는 효과적인 협력이 필수적"이라며 "업계 선도 기업들과의 파트너십을 통해 신스ID 기술을 더 많은 플랫폼에 확대 적용함으로써 모두를 위한 보다 투명한 디지털 생태계 구축을 향한 중요한 발걸음을 내딛고 있다"고 강조했다. AI 업계에서는 해당 기술이 딥페이크와 허위 정보 확산 대응을 위한 핵심 기술 가운데 하나로 주목하고 있다. 최근 글로벌 플랫폼 기업들은 생성형 AI 콘텐츠 범람에 대응하기 위해 AI 생성물 표기 체계와 워터마킹 기술 도입을 확대하고 있다. 카카오는 올해 하반기부터 이미지 생성 모델 '카나나 콜라주'와 영상 생성 모델 '카나나 키네마'에 신스ID 워터마크를 적용할 계획이다. 우선 카카오톡 기반 AI 영상 제작 기능인 '카나나 템플릿'에 해당 기술이 우선 적용된다. 카나나 템플릿은 이용자가 카카오톡에서 주고받은 이미지를 활용해 짧은 AI 영상을 제작할 수 있는 기능이다. 기존에는 AI 생성 영상에 카나나 로고를 표시하는 방식이었다면 향후에는 신스ID 기반 비가시적 워터마크까지 함께 삽입된다. 이를 통해 영상이 편집되거나 재가공되더라도 AI 생성 콘텐츠 여부를 식별할 수 있도록 한다는 계획이다. 카카오는 올해부터 시행된 AI 기본법과 AI 생성물 표시제에 대응해 관련 기술 적용을 확대하고 있다. 특히 단순 의무 표시를 넘어 비가시적 워터마킹 기술까지 선제 도입하며 책임형 AI 체계 구축에 나서는 모습이다. 이번 협력은 카카오의 AI 안전 전략 강화 차원으로 진행되는 것으로 분석된다. 카카오는 최근 자체 AI 모델 카나나를 중심으로 AI 서비스 확대에 나서고 있으며 동시에 AI 윤리와 신뢰성 체계 구축에도 투자를 확대하고 있다. 특히 카카오톡 기반 AI 콘텐츠 서비스가 확대될수록 생성형 콘텐츠 식별 체계의 중요성 역시 커질 것으로 전망된다. 메신저 플랫폼 특성상 이용자 간 콘텐츠 유통 속도가 빠른 만큼 AI 생성물에 대한 신뢰 확보가 핵심 과제로 떠오르고 있기 때문이다. 김경훈 카카오 AI 세이프티 리더는 "AI 기술이 일상 속으로 빠르게 확산되면서 AI 생성 콘텐츠의 투명성과 신뢰성을 확보하는 중요성도 함께 커지고 있다"며 "신스ID 적용을 시작으로 구글과 책임감 있는 AI 영역에서의 기술 협력을 지속하며, 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공해 나갈 계획"이라고 말했다.2026-05-20 17:40:57
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 전기차 시장 커지는데…K배터리, 북미 의존 벗어나야](https://image.ajunews.com/content/image/2026/10/08/20261008143801133369_518_323.jpg)