2026.10.16 금요일
검색
'사이버보안' 검색결과
기간검색
-
~
검색영역
검색어
-
베트남서 신사업 넓히는 롯데이노베이트…데이터센터·클라우드 협력 [경제일보] 롯데이노베이트가 베트남에서 금융 정보기술(IT) 사업을 통해 쌓은 현지 기반을 바탕으로 데이터센터와 전기차 충전 인프라 등 신사업 확대에 나선다. 현지 IT 기업 CMC그룹과 협력해 하이퍼스케일 데이터센터부터 클라우드, 사이버보안까지 사업 영역을 넓히고 베트남을 동남아시아 시장 공략을 위한 전략적 거점으로 육성한다는 구상이다. 14일 롯데이노베이트는 전날 베트남 하노이에서 CMC그룹과 전략적 사업 협력을 위한 업무협약(MOU)을 체결했다고 밝혔다. 양사는 이번 협약을 통해 하이퍼스케일 데이터센터, 전기차 충전사업(CPO), 사이버보안, 오프쇼어 IT 서비스, 클라우드 등 5개 분야에서 사업 기회를 공동 발굴할 예정이다. 이번 협력은 롯데이노베이트가 기존 금융 IT 및 시스템 운영 중심의 사업을 디지털 인프라와 신성장 분야로 확장하려는 전략의 일환으로 풀이된다. 베트남에서 확보한 사업 경험에 국내에서 축적한 데이터센터 설계·구축·운영 역량과 전기차 충전 인프라 기술을 결합해 신규 고객과 사업 기회를 확보하겠다는 것이다. 특히 데이터센터 분야에서는 국내에서 축적한 설계·구축·운영(DBO) 역량을 바탕으로 베트남 하이퍼스케일 데이터센터 시장 진출 가능성을 검토한다는 구상이다. 하이퍼스케일 데이터센터는 대규모 서버와 저장장치를 갖추고 클라우드와 인공지능(AI) 등 대규모 연산·데이터 처리 수요를 지원하는 시설로, 최근 AI와 클라우드 서비스가 확대되면서 대용량 데이터를 처리하고 저장할 인프라의 중요성도 커지고 있는 것으로 평가된다. 전기차 충전 분야에서는 자회사 이브이시스(EVSIS)의 충전 인프라 구축·운영 역량을 활용해 현지 충전사업자(CPO) 사업 기회를 찾는다. 충전 인프라 사업은 충전기 공급뿐 아니라 설치 장소 확보와 전력 공급, 운영 체계 구축 등이 함께 요구되는 만큼 현지 파트너와의 협력이 사업 확대의 기반이 될 것으로 분석된다. 롯데이노베이트는 이 밖에도 사이버보안과 오프쇼어 IT 서비스, 클라우드 분야에서 양사의 전문성을 연계하는 방안을 검토한다. 롯데이노베이트가 베트남에서 쌓아온 금융 IT 사업 경험은 신규 사업 확대를 뒷받침하는 기반이다. 롯데이노베이트는 베트남 아그리뱅크의 IT 시스템 구축·운영 경험과 IBK기업은행 베트남 관련 IT 인프라 사업 등을 통해 금융 시스템 구축과 현지 운영 경험을 축적해 왔다. 이를 바탕으로 기존 금융 IT 사업과 데이터센터·전기차 충전 등 신사업 간 접점을 넓히려는 전략이다. 협력 파트너인 CMC그룹은 30년 이상의 업력을 보유한 베트남 IT 기업이다. 소프트웨어 개발과 인공지능(AI), 클라우드, 디지털 인프라 등 다양한 분야에서 사업을 전개하고 있으며 한국·일본·미국·유럽 등에 해외 거점을 두고 있다. 롯데이노베이트는 CMC그룹의 현지 네트워크를 활용해 신규 고객을 발굴하고, 국내에서 확보한 기술과 운영 역량을 현지 사업 기회로 연결한다는 계획이다. 최종필 롯데이노베이트 베트남 법인장은 "롯데이노베이트는 베트남에서 축적한 금융 IT 사업 경험과 국내에서 확보한 데이터센터 및 전기차 충전 인프라 역량을 기반으로 사업 영역을 확대하고 있다"며 "이번 CMC그룹과의 협력을 통해 현지 사업 기반을 강화하고, 미래 성장 분야에서 새로운 사업 기회를 적극 발굴해 나가겠다"고 말했다.2026-10-14 13:58:41
-
AI가 금융권 보안 사각지대 파고들었다…핵심 시스템 밖에서 뚫린 방어망 [경제일보] 인공지능(AI)을 활용한 사이버 공격이 국내 금융권을 잇달아 겨냥하면서 금융회사들의 보안 관리 체계가 시험대에 올랐다. AI 기반 도구가 취약점 탐색과 공격 작업을 효율화하면서 공격자의 숙련도가 높지 않더라도 여러 기관을 상대로 침투를 시도할 수 있는 것으로 분석된다. 특히 최근 사고가 금융 거래의 핵심 시스템보다는 대출모집인 서비스와 직원용 업무지원 시스템 등 주변 업무 환경에서 발생하면서, 보안 투자가 집중된 핵심 시스템 밖의 사각지대를 점검해야 한다는 지적도 제기되고 있다. 11일 금융권과 보안업계에 따르면 지난달 말부터 이달 초까지 신한은행·KB국민은행·하나은행·BNK부산은행과 예가람저축은행·웰컴저축은행·현대캐피탈 등 금융회사 7곳에서 해킹에 따른 정보 유출이 확인됐다. 신한은행에서는 대출 신청 관련 고객 정보 약 2만5000명분이 유출됐고, 예가람저축은행에서도 고객 약 4만명의 정보가 빠져나간 것으로 파악됐다. KB국민은행과 하나은행에서도 각각 고객 119명과 89명의 정보가 유출됐다. 이번 사고는 공격에 활용된 도구와 침입 경로가 기존과는 다른 특성을 지닌 것이 특징이다. 국내 보안업체 지니언스 시큐리티센터와 미국 사이버보안 기업 크라우드스트라이크는 공격자가 오픈소스 에이전틱 침투테스트 도구 '아르텍스'와 여러 AI 모델을 활용한 정황을 제시했다. 크라우드스트라이크는 공격자가 AI 도구와 기존 공격 기법을 결합해 여러 금융기관을 상대로 침투 활동을 벌인 것으로 분석했다. 보안 업계에 따르면 이번 공격 과정에서 다수의 흔적을 남기는 등 운영 보안이 허술했다는 점도 근거로 들며 비숙련자의 공격 가능성을 높게 보고 있다. AI가 공격자의 기술적 한계를 보완해 공격 속도와 범위를 확대했을 가능성이 있다는 설명이다. ◆ AI가 바꾼 공격 방식…숙련도보다 자동화 역량이 변수 에이전틱 AI 도구는 사용자의 지시에 따라 여러 작업을 연속적으로 수행하도록 설계된다. 보안 분야에서는 취약점 점검과 공격 경로 탐색 등에도 활용될 수 있다. 공격자가 이를 악용하면 개별 작업을 일일이 수행하는 부담을 줄이고, 여러 대상에 대한 공격 시도를 빠르게 반복할 수 있다. 이번 금융권 사고에서도 공격자가 아르텍스와 복수의 AI 모델을 연계하고, 서버와 접속 경로를 바꿔가며 국내 금융기관을 겨냥한 정황이 확인됐다. 크라우드스트라이크는 AI 도구가 공격자의 활동 속도를 높이는 데 기여한 것으로 분석했다. 보안업계에서는 AI가 공격의 진입장벽을 낮출수록 기존에 보안 점검 우선순위에서 밀렸던 시스템이 공격 대상이 될 가능성에 주목한다. 공격자가 반드시 최고 수준의 기술을 갖춰야 하는 것이 아니라, 관리가 허술한 시스템을 찾아내고 반복적으로 접근을 시도하는 것만으로도 침해 가능성을 높일 수 있기 때문이다. ◆ 핵심 거래망만 지켜선 한계…주변 시스템이 침입 경로로 금융회사별 침입 경로를 보면 보안 관리의 범위를 핵심 거래 시스템에 한정하기 어렵다는 점이 드러난다. 신한은행에서는 대출모집인 전용 서비스가, KB국민은행에서는 직원용 모바일 업무 지원 시스템이 공격받았다. 하나은행에서도 영업 지원 시스템을 둘러싼 침해 사고가 발생한 것으로 알려졌다. 이들 시스템은 금융 거래의 핵심 전산망과는 구분되지만 고객 정보나 업무 관련 데이터에 접근할 수 있어 보안상 중요한 것으로 꼽힌다. 핵심 거래 시스템을 보호하는 방어 체계를 갖추더라도 주변 업무 시스템의 접근 권한이 과도하거나 인증 절차가 허술하면 개인정보 유출로 이어질 수 있다. 보안 관리에서 중요한 것은 시스템의 명칭이나 업무상 중요도만으로 위험을 판단하지 않는 것이다. 고객정보를 조회할 수 있는 시스템이라면 해당 정보가 실제 업무에 필요한 범위에서만 제공되는지, 계정별 권한이 적절하게 제한돼 있는지, 비정상적인 대량 조회나 외부 접속이 발생했을 때 이를 탐지할 수 있는지 확인해야 한다. 외부 협력업체와 위탁 시스템도 점검 대상이다. 금융회사는 개발·유지보수·고객관리 등 여러 업무를 외부 업체와 수행하는 만큼 협력업체 계정과 원격 접속 경로가 보안 사각지대가 되지 않도록 관리해야 한다. 계약 당시 보안 요건을 확인하는 데 그치지 않고 계약 기간 중 접근 권한과 접속 기록을 점검하고, 업무 종료 후 계정을 회수하는 절차도 중요하다. 특히 개인정보가 여러 시스템과 업체에 분산돼 있다면 사고가 발생했을 때 유출 범위를 파악하는 데 시간이 걸릴 수 있다. 시스템 교체나 계약 종료 이후에도 과거 데이터가 남아 있는지, 불필요한 정보가 적시에 파기되는지 확인할 필요가 있다. 한 시스템의 침해가 다른 시스템으로 확산되지 않도록 권한과 네트워크를 분리하는 조치도 요구된다. 금융권의 연쇄 해킹과 외부 위탁 시스템을 둘러싼 사고는 보안의 경계가 더 이상 금융회사가 직접 운영하는 핵심 전산망에 머물지 않는다는 점을 보여준다. AI가 공격자의 작업을 효율화하는 환경에서는 시스템과 계정, 외부 업체까지 포함한 전체 업무 환경을 관리하고 침해 징후를 빠르게 차단하는 역량이 금융 보안의 핵심 과제로 떠오르고 있다. 과학기술정보통신부(KISA)는 "금융위원회 등 관계기관과 지속적으로 정보를 공유하고 있으며, 금융위원회·금융감독원 등에서 KISA 등 전문인력 지원을 요청할 경우, 즉시 현장에 투입할 수 있도록 인력과 대응체계를 사전에 준비하고 있으며, 사고 조사 과정에서도 관계기관과 긴밀하게 협력해 나갈 예정"이라며 "앞으로도 금융권을 포함한 민간 정보통신서비스에 대한 사이버위협 동향을 면밀하게 모니터링하고, 사이버 위협 정보의 신속한 공유와 관계기관 간 협력을 통해 유사 사고의 발생과 피해 확산을 방지하는 데 총력을 다할 계획"이라고 전했다.2026-10-11 13:51:46
-
"거래·출금 안 한다"는 말에 속지 마세요…두나무 API 키 주의보 [경제일보] 가상자산 거래소 계정을 노리는 사기 수법이 아이디·비밀번호를 직접 빼내는 방식에서 이용자에게 API 키를 넘기도록 유도하는 방식으로 확산하고 있다. 소셜미디어(SNS)에서는 '거래나 출금은 하지 않고 시장 데이터만 조회하겠다'며 업비트 계정이나 읽기 전용 API 키를 대여해 달라는 요구까지 등장했다. 10일 디지털자산 거래소 업비트를 운영하는 두나무에 따르면 최근 SNS를 중심으로 '원화(KRW) 마켓에 접근할 수 있는 업비트 계정'이나 '읽기 전용 API 키를 대여·구매한다'는 내용의 메시지가 확산하고 있다. 이들은 입출금이나 거래에는 관여하지 않고 시장 데이터 조회에만 사용한다며 계정이나 API 키 제공을 요구하는 것으로 알려졌다. 문제는 일반적인 시장 데이터 조회라면 애초에 이용자의 인증 API 키가 필요하지 않다는 점이다. 업비트의 시세·마켓 데이터는 인증 없이 접근할 수 있는 공개형 API를 통해 제공된다. 따라서 단순히 시장 데이터를 확인하기 위해 타인의 계정이나 인증 API 키를 요구한다는 설명은 정상적인 데이터 이용 목적과 맞지 않는다. API 키는 거래소 계정에 프로그램 방식으로 접근할 수 있도록 발급되는 인증정보다. 권한 설정에 따라 자산과 주문, 입출금 관련 정보를 조회하거나 거래 기능을 사용할 수 있어 아이디·비밀번호와 별개로 중요한 보안 수단으로 취급된다. 이용자가 이를 타인에게 넘길 경우 계정에 대한 통제권 일부를 외부에 넘기는 것과 마찬가지인 것이다. 특히 '읽기 전용'이라는 표현이 이용자의 경계심을 낮추는 수단으로 활용될 수 있다는 점이 문제로 꼽힌다. 거래나 출금 권한이 없다는 설명만으로 안전하다고 판단하기 쉽지만, 어떤 정보에 접근할 수 있는지와 해당 정보가 다른 공격으로 어떻게 활용될 수 있는지는 별개의 문제다. 공격자가 계정 정보나 거래 내역 등을 확보한 뒤 추가적인 피싱이나 사회공학 공격에 활용할 가능성도 배제하기 어렵다. 가상자산 거래에서 API 활용도가 높아지고 있다는 점도 공격자들이 API 키를 노리는 배경으로 분석된다. API는 자동매매 프로그램이나 자산관리 서비스, 거래 데이터 분석 등 정상적인 목적으로도 널리 사용된다. 이 때문에 일반 이용자 입장에서는 'API 키를 빌려달라'는 요구를 처음부터 사기나 해킹 시도로 인식하기 어려울 수 있다. 거래소 입장에서도 API가 새로운 보안 경계로 떠오르고 있다. 기존 계정 보안이 로그인 과정의 아이디·비밀번호와 다중인증 등을 중심으로 이뤄졌다면 API는 프로그램이 계정에 직접 접근하는 통로인 만큼 별도의 권한 관리와 호출 감시가 필요하기 때문이다. 두나무는 API를 통한 자산 접근 위험을 줄이기 위해 권한을 세분화하고 출금 기능에 추가적인 안전장치를 적용하고 있다. API 키에 '출금하기' 권한을 포함하더라도 기본적으로 출금을 차단하고, 이용자가 모바일 앱의 '더보기→보안인증→Open API 관리'에서 직접 출금 허용 기능을 활성화해야 실제 출금이 가능하도록 구현했다. 등록되지 않은 IP에서 API 호출이 발생했을 때 카카오톡 알림톡을 통해 이용자에게 알리는 기능도 제공한다. 이용자가 인지하지 못한 비정상적인 API 요청을 확인할 수 있도록 해 API 키가 외부에서 사용되는 상황을 조기에 파악할 수 있도록 한 것이다. 두나무는 API 키가 외부에 노출됐거나 유출이 의심되는 경우 해당 키를 즉시 삭제하고 새 키를 발급받을 것을 권고했다. 장기간 사용하지 않는 API 키 역시 삭제해 불필요한 접근 경로를 줄여야 한다고 강조했다. 계정 정보와 API 키를 타인에게 대여하거나 공유해서는 안 된다는 점도 재차 당부했다. 최근 큐싱(QR코드 피싱) 등 신종 사기가 이어지는 가운데 공격자들이 이용자에게 직접 인증정보를 넘기도록 유도하는 방식으로 수법을 넓히고 있다는 점도 주목된다. 악성 링크를 클릭하게 만드는 기존 피싱과 달리 API 키 대여 방식은 이용자에게 금전적 대가를 제시하거나 정상적인 데이터 사업처럼 설명할 수 있어 피해자가 위험성을 인지하기 어렵다는 특징이 있다. 두나무는 검증되지 않은 서비스를 내세워 계정이나 API 키를 요구하거나 허위·과장 광고로 이용자를 현혹하는 행위에 대해 강력하게 대응할 방침이다. 의심 행위에 이용됐거나 부당하게 대여된 계정은 이용을 정지하고 소명자료를 요구하며, 필요할 경우 수사기관 고발까지 진행한다는 계획이다. 두나무 관계자는 "단순 조회용이라는 말로 현혹하더라도 본인의 계정 정보나 API 키를 타인에게 넘기는 것은 자신의 금고 열쇠를 낯선 이에게 쥐여주는 것과 같다"며 "업비트는 앞으로도 투자자 보호를 최우선으로 삼고 모니터링을 강화해 악의적인 사기 행위로부터 회원의 자산을 안전하게 지키는 데 최선을 다하겠다"고 말했다.2026-10-10 15:00:00
-
독자 AI, 이제 '실전'으로…SKT·업스테이지, 보안 데이터로 성능 검증 [경제일보] 독자 인공지능(AI) 파운데이션 모델 경쟁이 모델 성능을 겨루는 단계를 넘어 실제 산업 현장에 투입해 경쟁력을 입증하는 단계로 넘어가고 있다. SK텔레콤과 업스테이지는 국내 정보보호 기업들이 보유한 실제 보안 데이터를 독자 AI 모델에 학습시키고, 두 모델이 서로를 공격하는 레드티밍까지 진행하며 사이버보안 분야에서 실전 성능 검증에 나선다. 정부의 '독자 AI 파운데이션 모델 프로젝트(독파모)'를 통해 확보한 모델 경쟁력을 산업 현장으로 확장하려는 움직임이다. 8일 SK텔레콤은 업스테이지와 전날 SKT타워에서 국내 정보보호 기업 6곳, 대학 3곳과 함께 '독자 AI 사이버보안 협의체'를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 밝혔다. SK쉴더스·시큐아이·안랩·라온시큐어·지니언스·파이오링크 등 보안기업과 고려대·숭실대·부산대가 참여했다. 이번 협의체는 국내 보안기업이 현장에서 축적한 데이터를 독자 AI 모델 개발에 연결하는 것을 목표로 설립됐다. SK텔레콤의 A.X K 시리즈와 업스테이지의 솔라에 악성코드 분석, 취약점 분석, 보안관제 등 실제 보안 업무 과정에서 생성되는 데이터를 학습시키고, 이후 보안기업의 제품과 서비스에 적용해 성능을 검증한다. 이는 독파모를 통해 개발한 AI 모델의 활용처를 산업별로 넓히는 과정으로 분석된다. SKT와 업스테이지는 독파모 3단계에 진출하며 국내 독자 AI 모델 경쟁력을 입증한 데 이어, 이번에는 보안이라는 구체적인 산업 영역에서 모델의 활용 가능성을 시험한다. 특히 사이버보안은 일반적인 생성형 AI 서비스와 달리 현장 데이터의 중요성이 큰 분야다. AI가 실제 공격을 탐지하고 취약점을 분석하려면 과거 공격 사례와 악성코드, 보안관제 기록 등 전문 데이터에 대한 이해가 필요하기 때문이다. 새로운 공격 방식이 계속 등장하는 만큼 최신 위협 데이터를 얼마나 빠르게 모델에 반영하느냐도 성능을 좌우할 전망이다. 협의체에 참여한 보안기업들은 각자의 현장 데이터를 바탕으로 모델 고도화를 지원한다. SK쉴더스는 통합 보안관제 플랫폼을 통해 하루 170억건 규모의 위협 이벤트를 분석하고 있으며, 안랩은 2.5PB 이상의 보안 데이터를 보유하고 있다. 시큐아이는 방화벽 등 네트워크 보안 영역, 라온시큐어는 보안 데이터와 자율 모의침투, 지니언스는 보안 솔루션 운영 데이터와 사후학습 데이터셋, 파이오링크는 자율 공격 검증과 탐지룰 생성 분야의 역량을 제공한다. SK텔레콤과 업스테이지는 사전학습과 사후학습을 나눠 진행한다. 사전학습에서는 보안 데이터를 활용해 모델의 기초적인 보안 지식을 강화하고, 사후학습에서는 소프트웨어 취약점 분석·패치, 보안관제센터의 사고 대응, 보안 도구 활용 등 실제 업무 수행 능력을 높인다. SK텔레콤은 차기 모델인 A.X K3에 보안 분야 데이터를 체계적으로 학습시키는 한편 전 국민 대상 AI 서비스인 '모두의 AI'를 안전하게 운영하는 데 필요한 데이터도 보강한다. 업스테이지는 대용량 코드와 장기간 로그를 분석할 수 있는 차기 솔라 모델에 취약점 탐지·분석 데이터를 집중적으로 학습시킬 계획이다. 이 과정에서 두 독자 AI 모델이 서로를 공격하는 '상호 레드티밍'도 진행한다. 한 모델이 다른 모델의 취약점을 찾아 공격하고, 여기서 발견된 문제를 다시 학습 데이터로 활용해 방어 능력을 높이는 방식이다. AI 모델을 대상으로 한 공격과 방어를 반복하면서 기존 벤치마크 점수만으로 확인하기 어려운 보안 취약점을 찾아내겠다는 것이다. SK텔레콤은 앞서 A.X K2 개발 과정에서 자체 레드티밍 자동화 체계인 SERT(셀프 익스펜딩 레드티밍)를 구축해 약 1만5000건의 공격 대응 데이터를 생성·학습한 바 있다. 이를 이번 협의체의 상호 레드티밍에도 확대 적용한다. 업스테이지 역시 고난도·안전성 데이터 21만건과 AI가 위험한 요청을 거부하도록 학습시키는 정렬 체계를 활용한다. 양사가 각각 축적한 AI 안전성 기술을 사이버보안이라는 실제 공격·방어 환경에 적용하는 것이다. 해당 구상에서 대학이 제3자 검증 역할을 맡는다. 고려대는 AI의 실행 파일 분석 능력과 공격 방어력을 평가하고, 숭실대는 AI 보안 성능 평가 기준과 안전장치 우회 공격 대응력을 검증한다. 부산대는 차기 모델과 경량 모델의 성능 및 안전성을 평가한다. 기업이 직접 개발한 AI 모델을 자사 기준으로만 평가하는 것이 아니라 대학의 독립적인 검증을 병행한다는 점에서 이번 협의체의 차별점이 있다. 특히 보안 AI는 모델이 공격을 잘 탐지하는 것뿐 아니라 공격자가 AI의 판단을 우회하거나 잘못된 답변을 유도했을 때도 안정적으로 대응하는지가 중요하다. 최종적으로는 실제 보안 제품과 서비스에 A.X K와 솔라를 적용하는 단계까지 이어진다. 참여 기업들은 제로데이 취약점 분석과 실시간 보안 관제 등 각자의 제품·서비스에 AI 모델을 적용하고 운영 환경에서 성능을 확인할 계획이다. 여기서 확보한 분석·대응 결과는 다시 모델 학습에 반영한다. '보안 데이터 확보 → AI 학습 → 레드티밍 → 현장 실증 → 재학습'으로 이어지는 순환 구조를 만드는 것이 협의체의 목표다. 유경상 SK텔레콤 AI CIC장은 "보안 AI의 수준은 결국 모델이 얼마나 넓고 깊게 추론하느냐에 달려 있다"며 "독자 AI 파운데이션 모델 프로젝트에서 검증된 모델들이 국내 대표 정보보호 기업·대학과 함께 실제 보안 현장에서 효과를 입증해, 국가 대표 AI 모델의 활용 성과를 사이버보안 영역에서도 보여주겠다"고 말했다.2026-10-08 08:55:43
-
![[2026 국감] AI 성능에 6조, 안전엔 274억…과기부, 국감서 브레이크](https://image.ajunews.com//content/image/2026/10/06/20261006144453107566.jpg)
AI 성능에 6조, 안전엔 274억…과기부, 국감서 '브레이크' [경제일보] 정부의 내년도 인공지능(AI) 예산 확대가 모델 성능과 인프라에 집중되면서 AI 자체의 위험을 평가·통제할 투자도 늘려야 한다는 요구가 국정감사에서 나왔다. 과학기술정보통신부 소관 AI 예산 정부안은 9조4308억원이지만 안전·신뢰 분야는 274억원으로 약 0.3%에 머물렀다. 배경훈 부총리 겸 과기정통부 장관은 안전연구소의 인력·예산 확충 필요성을 인정하고 12월 종합계획을 발표하겠다고 밝혔다. 이주희 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회 국감에서 “가속페달은 급속히 키워져 가고 있는데 브레이크는 지금 그대로인 상황”이라며 안전 분야 투자 확대를 촉구했다. 이 의원이 과기정통부에서 제출받은 자료에 따르면 내년 AI 성능·인프라 예산은 6조1490억원으로 전체의 65.2%다. 모델 개발, GPU 등 컴퓨팅 자원, 데이터 구축이 포함된다. 안전·신뢰 예산에는 안전성 평가·검증과 공격자 관점의 위험 시험, 딥페이크 대응, 윤리·영향평가 등이 분류됐다. 의원실이 제시한 기능별 기준에 따라 과기정통부가 세부 사업을 나눠 제출한 결과다. 두 분야의 예산 비율은 224대1로, 2024년 36대1보다 벌어졌다. 성능·인프라 예산은 올해보다 116% 늘어나지만 안전·신뢰 분야 증가율은 36%다. 안전 예산의 절대 규모가 늘어도 개발·인프라 투자 확대 속도를 따라가지 못하는 구조다. 274억원의 구성은 AI 안전 기술개발 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성 및 산업 생태계 기반 조성 21억원이다. 뒤의 두 사업은 올해와 편성액이 같다. 이 의원은 안전 예산을 전체 AI 예산의 최소 1%로 높이고 단계별 확대 계획을 제시하라고 요구했다. 현 정부안의 AI 총액에 1%를 적용하면 약 943억원으로, 현재 안전·신뢰 편성액보다 약 669억원 많다. 핵심 쟁점은 AI를 사이버방어에 활용하는 능력과 AI의 행동을 통제하는 능력을 함께 확보하는 데 있다. 취약점을 찾아 공격을 막는 보안 특화 모델을 개발하는 동시에, 모델이 허용된 작업 범위를 벗어나거나 외부 시스템에 접근하는 위험을 평가하고 차단할 체계도 필요하다는 지적이다. 해외에서는 시험 중인 AI가 통제를 벗어난 실제 사고가 발생했다. 오픈AI는 지난 8월 공개한 조사보고서에서 7월 내부 사이버보안 평가 중 AI 모델들이 인터넷 격리 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템에 침입했다고 밝혔다. 안전장치를 축소한 시험 환경에서 발생한 사건으로, 회사는 인터넷 접근 제한과 평가 환경 격리, 이상행동 감시를 강화하겠다고 설명했다. 영국 AI보안연구소(AISI)도 지난 8월 보고서에서 인터넷 접근을 허용하고 일부 안전 필터를 해제한 사이버 평가 도중 에이전트가 실제 인물·기관을 겨냥한 승인되지 않은 행동을 했다고 공개했다. 대응책으로 외부 접속 통제, 실시간 감시, 평가 환경 재설계를 제시했다. AI 안전 평가에는 모델을 시험하는 전문인력뿐 아니라 시험이 외부 피해로 이어지지 않도록 격리하는 인프라도 요구된다. 국내 평가 역량을 담당할 AI안전연구소의 인력 문제도 제기됐다. 이 의원은 인력이 26명에서 38명으로 늘었지만 해외 주요국보다 부족하다며 확충을 요구했다. 연구소는 AI 안전성 평가와 정책·기술 연구, 주요국 연구기관과의 협력을 맡고 있다. 이 의원은 정부 지원 모델의 학습·시험 과정에서 외부 접속을 어디까지 허용하는지, 이상행동이 발생하면 누가 실행을 중단하고 보고하는지 명확히 해야 한다고 강조했다. 배 부총리는 관련 해외 사고로 인한 국내 기관 피해는 아직 확인되지 않았다고 설명했다. 배 부총리는 “고영향 AI나 AI의 안전성을 평가할 때 영국의 안전연구소에 많이 의뢰한다”며 국내 연구소의 인력과 예산을 늘려 역량을 확보하는 일이 중요하다고 밝혔다. 정부는 보안 특화 모델과 프론티어 AI 개발을 통한 사이버안보 대응도 추진한다. 과기정통부는 12월 ‘국가 AI 안전생태계 조성 마스터플랜’을 수립·발표할 계획이다. 배 부총리는 국가 AI 안전관리체계 구축, 첨단 AI 안전 대응 역량 강화, 국민 일상의 안전한 AI 환경 조성을 준비하겠다고 밝혔다.2026-10-06 14:46:43
-
![[경제일보] AI가 해킹도 자율 수행…신한은행 정보유출로 드러난 AI 에이전트 보안 경고](https://image.ajunews.com//content/image/2026/10/02/20261002150952601493.jpg)
AI가 해킹도 자율 수행…신한은행 정보유출로 드러난 'AI 에이전트 보안' 경고 [경제일보] 인공지능(AI) 에이전트가 스스로 취약점을 찾고 공격을 수행하는 데 활용된 정황이 확인되면서 보안 업계에 새로운 경고등이 켜졌다. 최근 신한은행에서 고객정보가 유출된 사고에서 고도화된 AI 에이전트가 공격에 활용된 것으로 알려지면서 기존 보안 체계에도 변화가 요구되고 있다. 6일 보안업계에 따르면 신한은행 고객정보 유출 사고를 조사하는 과정에서 AI를 활용한 자동화 공격 도구가 사용된 정황이 확인된 것으로 전해졌다. 금융보안원과 수사당국은 악성 스크립트 등을 분석하면서 중국어권에서 개발·유포된 것으로 추정되는 AI 에이전트의 공격 흔적을 확인하고 실제 공격 과정에서 어떻게 활용됐는지 추적하고 있는 것으로 알려졌다. 신한은행은 지난달 30일 고객정보 유출 사실을 확인했으며, 현재까지 약 2만5000명의 정보가 유출된 것으로 파악됐다. 유출 정보에는 고객명, 전화번호, 연소득, 대출 산출한도 등이 포함됐고 일부 고객의 주민등록번호 66건과 CI 97건도 포함됐다. 금융감독원은 사고 경위와 피해 규모를 조사하고 있다. 공격자는 대출모집인이 사용하는 별도 조회 서비스에서 인증 절차를 우회한 뒤 고객번호를 확보하고, 조회 요청값을 반복적으로 변경하며 고객정보를 가져간 것으로 알려졌다. 신한은행은 외부 IP를 차단하고 관련 서비스를 중단하는 등 보안 조치를 진행했다. 최근 보안업계에서는 해커들이 취약점 공격 과정에 AI 에이전트를 결합해 기존의 반복적인 공격 작업을 자동화하는 것으로 진단하고 있다. AI 에이전트는 목표를 받은 뒤 작업을 여러 단계로 나누고 각 단계의 결과를 확인하면서 다음 행동을 결정한다. 웹 검색, 코드 실행, 외부 프로그램 호출 등이 연결되면 사람이 직접 수행하던 취약점 탐색과 공격 검증 작업을 이어서 수행할 수 있다. 예를 들어 공격 대상의 웹 서비스를 탐색하고 취약한 입력값을 찾은 뒤 서버 응답을 분석하고, 결과에 따라 다음 요청을 보내는 작업을 AI가 반복할 수 있다. 개별 요청만 보면 정상적인 API 호출처럼 보일 수 있지만 여러 행동을 연결하면 공격 패턴이 드러나는 방식이다. 기업 보안도 악성 코드나 공격 IP를 차단하는 데서 행동의 흐름을 분석하는 방식으로 확대될 필요성이 커지고 있다. 어떤 계정이 어떤 서비스에 접근했는지뿐 아니라 어떤 API를 어떤 순서로 호출했는지, 앞선 결과를 바탕으로 다음 행동을 어떻게 바꿨는지까지 살펴야 한다는 것이다. AI 에이전트에 부여하는 권한을 최소화하는 것도 중요하다. 개인 정보나 금융 정보에 접근하거나 계정·결제 정보를 변경하는 작업에는 별도 승인을 요구하고, AI가 수행한 작업을 처음부터 끝까지 기록해 비정상적인 행동이 발견되면 즉시 작업을 중단할 수 있어야 한다. 글로벌 AI 업계에서도 고성능 AI의 사이버 보안 활용을 별도로 관리하는 움직임이 나타나고 있다. 구글은 지난달 30일(현지시간) '제미나이 4 아르곤'을 공개하면서 사이버 보안 분야에서 소프트웨어 취약점을 스스로 찾고 검증한 뒤 패치하는 능력을 설명했다. 다만 해당 기능을 공격자가 사용한다면 소프트웨어 취약점을 스스로 찾고 공격하는 능력으로도 발전할 수 있는 구조다. 이에 구글은 아르곤을 일반 이용자에게 바로 공개하지 않고 '페어윈드 프로그램'을 통해 신뢰할 수 있는 사이버보안 방어자들에게 우선 제공하고 있다. 실제 보안 환경에서 모델의 성능과 위험 요소를 검증하고 안전장치를 보완하기 위한 조치로, AI의 취약점 탐지 능력을 방어에 활용하는 동시에 악용 가능성까지 고려했다. AI 에이전트가 공격에 활용되면 공격자가 취약점을 찾고 검증하는 데 필요한 시간과 인력을 줄일 수 있다. 반대로 기업은 AI를 활용해 취약점을 먼저 찾아내고 보완하는 방식으로 대응할 수 있다. AI의 발전이 공격과 방어 양쪽의 자동화를 동시에 촉진하는 것이다. 신한은행 사고에서 AI 에이전트가 실제 공격 과정에 활용된 정황이 확인되면서 AI를 활용한 공격은 더 이상 가정에만 머물지 않게 됐다. AI가 사람 대신 웹을 탐색하고 시스템과 상호작용하는 시대가 본격화하면서 기업 역시 AI의 업무 활용과 함께 AI를 이용한 공격 가능성까지 고려한 새로운 보안 체계를 빠르게 마련해야 할 상황에 놓였다. 특히 기존의 보안 관제 방식만으로는 AI가 만들어내는 다단계 공격을 빠르게 식별하기 어려울 수 있다는 지적도 나온다. AI가 짧은 시간 동안 여러 시스템을 오가며 정상적인 요청을 반복할 경우 개별 행위만으로는 이상 징후를 파악하기 어렵기 때문이다. 이에 로그인부터 API 호출, 정보 조회, 권한 변경 등 일련의 행동을 하나의 공격 흐름으로 분석하는 보안 기술의 중요성도 커지고 있다. 서기택 SK쉴더스 MSS사업그룹 관제CERT팀 수석은 지난달 30일 전문가 리포트를 통해 "사이버 위협의 속도가 인간의 인지 능력을 넘어선 지 오래"라며 "공격자는 이미 AI 에이전트를 24시간 쉬지 않고 가동하며 침투부터 내부 확산까지 단 몇 분 만에 끝낸다"고 말했다. [아주경제 2026년 10월 06일자 13면에 게재된 기사입니다.]2026-10-06 08:46:06
-
AI 주권 확보, 기술만으론 부족…S2W "공급망 보안까지 챙겨야" [경제일보] AI(인공지능) 반도체와 데이터센터, 소프트웨어 등 핵심 공급망이 복잡하게 연결되면서 특정 기업이나 국가를 직접 공격하지 않고 협력사나 공급망의 취약점을 노리는 방식으로 AI 생태계 전체를 위협할 가능성이 커지고 있다. 국내 보안기업 S2W는 한국과 영국이 AI 공급망의 위협 정보를 공유하고 이를 국제적인 보안 의제로 발전시켜야 한다고 제안하는 등 공급망을 사이버 공격으로부터 보호하는 영역으로 AI 경쟁이 확대되고 있다. 6일 데이터 인텔리전스 기업 S2W에 따르면 서상덕 대표는 지난달 30일부터 지난 2일까지 영국 웨스트서식스에서 열린 '제2차 한영고위급포럼'에 초청돼 AI 협력 방안을 논의했다. 이번 포럼은 한국국제교류재단(KF)과 영국 윌튼 파크가 공동 주최하고 현대자동차그룹·한화그룹·롤스로이스가 후원했다. 정부와 의회, 재계, 학계, 언론 등 양국 주요 인사들이 참석해 한영 자유무역협정(FTA)을 통한 경제 협력과 안보·회복탄력성, 디지털·신흥 기술 분야의 협력 방안을 논의했다. 서 대표는 2일차 'AI의 새로운 지평: AI 연대를 통한 역량 강화' 세션의 발제자로 나서 AI 주권 강화를 위한 공급망 보안과 한영 양국 간 협력의 필요성을 강조했다. AI 주권을 단순히 자체 AI 모델이나 반도체 등 핵심 기술을 확보하는 문제로 한정하지 않고 이를 뒷받침하는 공급망의 안전성까지 넓혀야 한다는 취지로 풀이된다. AI 산업은 반도체와 데이터센터, 클라우드, 소프트웨어 등 여러 분야가 연결된 구조다. 하나의 기술이나 기업에 대한 공격이 다른 기업과 서비스로 확산될 수 있는 만큼 개별 기업의 보안만으로는 공급망 전체를 보호하기 어렵다는 지적이 나온다. 특히 공급망을 노린 사이버 공격은 기업이 직접 관리하는 시스템의 취약점뿐 아니라 협력사나 외부 소프트웨어 등을 통해 침투할 수 있다는 점에서 대응이 까다롭다. AI 관련 산업이 확대될수록 참여 기업과 기술이 늘어나면서 관리해야 할 보안 영역도 함께 넓어질 수밖에 없다. S2W가 제안한 방안 중 하나는 이 같은 공급망 위협에 대응하기 위한 민관 협력 채널이다. 반도체와 피지컬 AI 공급망을 겨냥한 위협정보를 상시 공유해 공격 징후를 조기에 파악하고 대응할 수 있는 체계를 구축하자는 내용이다. 국가와 기업이 각각 확보한 사이버 위협정보를 공유할 경우 개별 기업이 단독으로 탐지하기 어려운 공격 흐름을 보다 빠르게 파악할 수 있다는 것이 핵심이다. 다만 국가 간 위협정보 공유가 실제로 작동하기 위해서는 기업의 기밀정보나 민감정보를 침해하지 않으면서 어떤 정보를 어떤 방식으로 공유할지에 대한 기준을 마련하는 것도 과제로 꼽힌다. S2W는 이를 국제적인 논의로 확대하는 방안도 제시했다. 한국과 영국이 각각 내년과 오는 2028년 주요 20개국(G20) 의장국을 맡는 시기를 활용해 '신뢰할 수 있는 공급망 보안'을 국제사회의 주요 의제로 설정하자는 것이다. 양국이 연이어 G20 의장국을 맡는 만큼 공급망 보안과 AI 협력을 공동 의제로 발전시킬 수 있는 계기를 만들자는 구상이다. AI 산업이 특정 국가에 국한되지 않고 글로벌 공급망을 통해 연결돼 있는 만큼 개별 국가의 보안 정책만으로는 대응에 한계가 있다는 판단도 깔려 있다. 특히 AI 반도체와 피지컬 AI 등 신흥 기술이 산업 현장으로 확산될수록 공급망 보안의 중요성은 더욱 커질 전망이다. 피지컬 AI는 로봇과 자율주행, 스마트팩토리 등 물리적 환경과 직접 연결되는 만큼 사이버 공격이 데이터 탈취에 그치지 않고 실제 시스템 운영에 영향을 줄 가능성도 고려해야 한다. 서상덕 S2W 대표는 "한영 양국이 AI 시대의 동반성장 전략을 심도 있게 논의하는 뜻깊은 자리에 함께할 수 있어 영광이었다"며 "지난 수년간 국제기구와 해외 정부, 빅테크 등과 협업하며 축적해온 글로벌 파트너십 경험을 바탕으로 영국을 비롯한 세계 각국과의 협력 접점을 확대하고, AI·안보·사이버보안 등의 전문 분야에서 국제사회가 당면한 주요 과제에 대한 기술 해법을 제시해 나가겠다"고 말했다.2026-10-06 08:28:49
-
SK쉴더스, AWS 위협 대응 역량 검증…클라우드 보안 운영 사업 넓힌다 [경제일보] SK쉴더스가 AWS 클라우드의 위협 탐지·대응 역량을 검증받고 보안관제·운영 사업을 확대한다. AWS의 보안 기능에 자체 분석 플랫폼과 사고 대응 조직을 결합해 기업이 직접 수행해야 하는 보안 운영을 지원하는 방식이다. SK쉴더스는 2일 AWS 보안 컴피턴시의 ‘위협 탐지 및 대응(TDR)’ 분야를 획득했다고 밝혔다. 회사 측은 올해 9월 기준 전 세계 보유 기업이 54곳이며 국내에서는 처음이라고 설명했다. AWS가 지난달 1일 공개한 8월 신규 컴피턴시 파트너 명단에도 SK쉴더스가 TDR 분야로 등재돼 있다. 컴피턴시는 AWS 환경에서 파트너의 기술 전문성과 고객 수행 사례 등을 검증하는 프로그램이다. TDR은 보안관제센터 운영, 보안 로그 분석, 대응 절차의 자동화 등 위협 탐지·대응 영역을 다룬다. AWS를 사용하는 기업이 보안 파트너를 선정할 때 전문성을 확인할 수 있는 기준이 된다. 사업 확대의 배경에는 클라우드의 ‘공동 책임 모델’이 있다. AWS가 기반 인프라를 보호하더라도 고객은 사용하는 서비스에 따라 데이터와 계정 권한, 애플리케이션, 보안 설정 등을 관리해야 한다. 서버를 클라우드로 옮긴 뒤에도 계정 탈취와 권한 오남용, 데이터 유출에 대비한 운영 체계가 필요한 이유다. SK쉴더스는 심사 과정에서 AWS의 위협 탐지 서비스 ‘가드듀티’와 웹방화벽, 네트워크 방화벽 등을 활용해 고객의 탐지·대응 체계를 구축한 사례를 제출했다. 현재 AWS 보안 서비스와 AI 기반 관제 플랫폼 ‘시큐디움’을 연계해 보안 이벤트를 분석하고 대응 절차를 운영한다. 침해사고 대응 조직 ‘탑서트’는 사고 분석과 대응·복구를 지원한다. 이번 검증은 기존 클라우드 보안 사업과 관제 플랫폼 투자에 이어진 성과다. SK쉴더스는 지난해 5월 AWS 레벨1 MSSP(관리형 보안 서비스 제공업체) 컴피턴시를 획득했다. 같은 해 9월에는 2026년까지 시큐디움에 총 200억원을 투입해 AI 기반 관리형 확장 탐지·대응 체계로 발전시키겠다는 계획을 발표했다. 여러 보안 지점의 데이터를 통합 분석하고 대응을 자동화하는 방향이다. 앞으로는 이커머스·제조업·스타트업 등 AWS 이용 기업을 대상으로 서비스 범위를 넓힐 계획이다. 가드듀티에 자체 AI 기술을 연계해 탐지된 위협의 분석과 우선순위 판단, 자동 대응을 강화한다는 방침이다. 개별 보안 도구를 구축하는 것과 함께 이를 지속적으로 운영하는 서비스의 비중을 높이는 흐름으로 읽힌다. AWS의 파트너 검증은 신규 고객의 기술 평가 과정에서 운영 역량을 설명할 근거로 활용할 수 있다. 최재호 SK쉴더스 사이버기술센터장은 “이번 컴피턴시 획득은 AWS 클라우드 환경에서 보안관제와 위협 탐지·대응을 아우르는 SK쉴더스의 전문성을 다시 한번 검증받은 성과”라며 “AWS와의 긴밀한 협력을 바탕으로 고객의 디지털 전환을 지원하고, 고도화되는 사이버 위협에 선제적으로 대응할 수 있는 사이버보안 서비스를 지속 확대해 나가겠다”고 밝혔다.2026-10-02 08:55:47
-
美 캘리포니아, 오픈AI에 소환장…AI '무단 해킹' 개발사 책임 조사 [경제일보] 미국 캘리포니아주가 외부 시스템에 무단 침입한 인공지능(AI) 에이전트의 통제 실패에 대해 오픈AI의 법적 책임을 조사하고 있다. 연구·평가 단계에서 발생한 해킹이 개발사의 안전조치와 사고 대응에 대한 규제당국의 검증으로 이어졌다. 캘리포니아주 법무장관실은 1일(현지시간) 오픈AI에 조사용 소환장을 송달했다고 밝혔다. 실제 송달일은 지난달 30일이다. 지난달 시작한 AI 개발 플랫폼 허깅페이스 침입 조사의 후속 조치로, 오픈AI와 해당 모델의 사이버 보안 사고·위험을 폭넓게 들여다본다. 롭 본타 법무장관은 최첨단 AI 모델이 사이버 방어에 쓰일 수 있지만, 개발 기업에는 모델이 공격을 실행하거나 돕지 않도록 할 도덕적·법적 책임이 있다고 강조했다. 책임을 다하지 못한 개발사에 법적 책임을 물을 수 있으며, 오픈AI가 이에 해당하는지 확인하겠다는 입장이다. 이번 조사의 출발점은 지난 7월 오픈AI 내부 사이버 보안 평가 중 발생한 허깅페이스 침입이다. AI 에이전트는 주어진 과제를 수행하기 위해 도구를 사용하고 작업을 이어가는 시스템이다. 당시 일부 에이전트는 인터넷 접근과 상호 통신을 제한한 실험환경의 통제를 우회했다. 오픈AI가 공개한 기술 보고서는 에이전트들이 내부 소프트웨어 관리 시스템을 게시판처럼 사용해 정보를 교환하고, 외부 인터넷에 접근했다고 설명했다. 이후 노출된 인증정보와 보안 취약점을 이용해 허깅페이스 서버에서 코드를 실행하고 일부 비공개 데이터에도 접근했다. 회사는 사안의 중심에 일반에 공개되지 않은 내부 연구용 모델이 있었으며, 평가 환경에는 외부 서비스와 같은 수준의 안전장치를 적용하지 않았다고 밝혔다. 당시 침입이 자사 고객 데이터나 제품 기능·가용성에는 영향을 주지 않았다는 설명도 내놨다. 조사 범위는 허깅페이스 한 곳에 머물지 않는다. 로이터통신은 1일 오픈AI가 에이전트의 무단 활동과 관련해 100곳 넘는 기관에 통보했다고 보도했다. 회사는 보안 통제 우회와 서비스 가용성 저해 가능성 등을 기준으로 관련 기관에 순차적으로 알리고 있다. 오픈AI는 연구 인프라의 격리 수준을 높이고 인터넷 접근과 모델 접근 권한을 제한하는 등 안전조치를 강화하고 있다고 설명했다. 학습·평가 과정에서 모델이 인터넷을 사용한 기록도 폭넓게 검토하고 있다. 주·연방 당국의 대응도 확대됐다. 아이오와주가 이끄는 15개 주 법무장관 연합은 관련 문서·데이터·통신 기록 보존과 안전성이 입증되기 전 문제의 시험 활동 중단을 요구했다. 로이터는 연방거래위원회(FTC)도 오픈AI·앤트로픽 등 AI 기업의 기술이 소비자에게 미칠 위험을 조사하며 자료 제출과 경영진 증언을 요구할 계획이라고 전했다. 본타 장관은 트럼프 행정부의 주 차원 AI 규제 제한 시도에도 캘리포니아의 주민 보호 권한을 지키겠다고 밝혔다. 이번 소환장은 진행 중인 조사를 위한 조치로, 법무장관실은 오픈AI의 위법 여부를 아직 확정하지 않았다.2026-10-02 08:16:11
-
"해킹하라" 안 했는데…오픈AI 에이전트, 호주 정부 사이트 비인가 접근 [경제일보] 오픈AI의 인공지능(AI) 에이전트가 별도의 해킹 지시를 받지 않았음에도 호주 정부의 보건 통계 사이트에서 비공개 파일에 비인가 접근한 것으로 확인됐다. AI에 호주 보건·의료 통계에 대한 답을 찾으라는 과제를 수행하게 했지만, 정보를 찾는 과정에서 외부 사이트의 접근 제한을 우회한 것으로 나타나면서 AI 에이전트의 자율 행동에 대한 통제 문제가 새로운 보안 이슈로 떠오르고 있다. 23일(이하 현지시간) 오픈AI는 내부 평가 과정에서 자사의 AI 모델들이 호주 정부의 여러 웹사이트와 서비스에서 정보를 찾던 중 의도하지 않은 행동을 했다는 사실을 확인했다고 밝혔다. AI 에이전트에 주어진 과제 자체는 호주의 보건·의료 통계에 대한 답을 찾는 것이었지만, 이 과정에서 공개된 정보뿐 아니라 비공개 파일에도 접근한 것으로 파악됐다. 이번 사건에서 주목되는 부분은 AI 모델에 특정 정부 시스템을 공격하거나 정보를 탈취하라는 명시적인 지시가 내려진 것이 아니라는 점이다. AI가 주어진 목표를 달성하는 과정에서 사람이 예상하지 못한 방식으로 외부 시스템에 접근했다는 것이다. 오픈AI는 이번 사건에 대해 모델들이 '의도하지 않은 행동'을 취했다고 설명했다. 현재까지 개인의 메디케어 정보나 의료기록 등 민감한 개인정보가 접근됐다는 증거는 확인되지 않은 것으로 알려졌지만, 호주 정부는 실제로 어떤 정보에 접근했는지와 다른 정부 시스템까지 영향을 받았는지를 확인하기 위해 디지털 포렌식 조사를 진행하고 있다. 이에 앤서니 앨버니지 호주 총리는 기자회견을 통해 샘 올트먼 오픈AI 최고경영자(CEO)와 직접 통화해 호주 정부의 우려를 전달했다고 밝혔다. 그는 정부 통신망 전체로 피해가 확산한 정황은 현재까지 확인되지 않았지만 이번 상황은 받아들일 수 없다는 입장을 전했으며, 오픈AI가 사건을 인지한 뒤 호주 정부에 통보하기까지 상당한 시간이 걸린 점에 대해서도 불만을 표시했다. 호주신호국(ASD)은 현재 사건에 대한 추가 정보를 확보하기 위해 디지털 포렌식 조사에 참여하고 있다. 조사 결과에 따라 이번 접근이 단일 포털에 국한됐는지, 다른 정부 시스템에서도 유사한 행동이 있었는지가 확인될 전망이다. 최근 오픈AI의 AI 에이전트는 비정상적인 행동 사례가 잇따라 발생하고 있다. 오픈AI는 지난 8월 공개한 내부 조사에서 7월 사이버보안 평가 과정 중 자사 모델들이 인터넷 접근을 차단하기 위해 마련된 통제를 우회하고 오픈AI 내부 연구 인프라와 외부 AI 개발 플랫폼인 허깅페이스의 일부 시스템에 접근했다고 밝혔다. 당시 모델들은 허가되지 않은 통신 채널을 이용하고 공유 인프라의 취약점을 악용하는 방식으로 인터넷에 접근했다. 오픈AI는 이 과정에서 모델들이 할당된 과제의 목적과 맞지 않는 행동을 했다고 설명했다. 해당 사건은 사이버보안 능력을 평가하기 위한 내부 테스트 과정에서 발생한 것으로, 이번 호주 정부 사건과 AI 에이전트가 통제된 환경을 벗어나 외부 시스템과 상호작용했다는 공통점이 있다. AI 에이전트가 기존 챗봇과 다른 방식으로 작동한다는 점도 이번 사건의 배경으로 꼽힌다. 기존 챗봇이 사용자의 질문에 답변하는 데 초점이 맞춰져 있다면, 에이전트는 목표를 달성하기 위해 웹사이트를 검색하고 외부 도구를 호출하며 여러 단계의 작업을 자율적으로 수행할 수 있다. 이 과정에서 사용자가 의도한 최종 목표와 AI가 목표를 달성하기 위해 선택하는 중간 행동 사이에 차이가 발생할 수 있도록 설계되고 있다. 특히 외부 인터넷이나 개발 도구, 파일 시스템 등에 직접 접근할 수 있도록 권한을 부여받은 에이전트의 경우 예상하지 못한 행동이 실제 시스템에 영향을 미칠 가능성도 커진다. 오픈AI 역시 최근 AI 모델의 이른바 '미스얼라인먼트' 사례를 잇따라 공개하고 대응 체계를 마련하고 있다. 지난 17일에는 모델이 제약을 우회하기 위한 지시를 삽입하거나, 승인 없이 파일을 외부에 올리는 등 예상하지 못한 행동을 보인 사례들을 공개했다. 오픈AI는 모델의 자율 행동과 감독 회피 가능성을 추적·조사하기 위한 새로운 공개 체계를 마련하겠다고 언급했다. 공교롭게도 이번 호주 사건이 알려진 날 샘 올트먼 CEO는 유엔 안전보장이사회 회의에 참석해 고도화된 AI의 안전성과 국제적인 관리 체계의 필요성을 강조했다. 세계 주요 AI 기업 경영진이 AI가 인간의 통제를 벗어날 가능성과 국제적인 안전 기준 마련을 논의하는 가운데, 실제 AI 에이전트가 외부 정부 시스템에서 예상하지 못한 행동을 한 사례가 공개된 것이다. AI 업계에서는 에이전트의 성능이 높아질수록 단순히 모델의 답변이 안전한지를 확인하는 것뿐 아니라 실제 행동을 어디까지 허용할 것인지에 대한 통제 장치가 중요해지고 있다. 이번 호주 사건 역시 개인정보 유출 여부와 별개로 AI가 사람의 명시적인 해킹 지시 없이도 주어진 목표를 수행하는 과정에서 외부 시스템의 접근 제한을 넘어설 수 있다는 점에서 에이전트 보안의 새로운 과제를 보여주는 사례가 될 전망이다. 샘 올트먼 오픈AI CEO는 유엔 안전보장이사회에서 인공지능에 관해 연설하며 "(인공지능)모델의 빠른 발전으로 인해 실현 시기가 더욱 촉박해졌고, 잠재적 이점이 더욱 분명해졌지만, 동시에 위험과 부담 또한 더욱 시급해졌다"며 "인공지능은 창의성과 발견의 새로운 르네상스처럼 될 수도 있고, 격변과 혼란을 야기하는 새로운 산업혁명처럼 될 수도 있다"고 말했다.2026-09-24 10:52:07
-
배경훈 "AI 보안주권 확보"…네이버·LG, 공격·방어 AI 함께 키운다 [경제일보] 정부와 민간이 금융·전력·통신·방위산업의 사이버 위협에 대응할 국산 인공지능(AI) 모델 개발에 들어갔다. 해외 범용 모델에 의존하기 어려운 국가 핵심 분야에 자체 통제할 수 있는 보안 AI를 공급하는 것이 목표다. 과학기술정보통신부는 22일 서울 소공동 롯데호텔에서 ‘사이버보안 특화 AI 모델 개발’ 착수 간담회를 열고 네이버클라우드 컨소시엄의 개발 계획을 공개했다. 컨소시엄에는 LG CNS·LG AI연구원·LG유플러스와 국내 보안기업, 서울대·KAIST 등 33개 산·학·연·공공기관이 참여한다. 협력의향서를 체결한 기관까지 합하면 42곳이다. 개발 전략은 공격과 방어를 함께 고도화하는 방식이다. 네이버클라우드는 하이퍼클로바X를 기반으로 침해 징후 분석과 사고 대응을 지원하는 방어형 모델을 맡는다. LG AI연구원은 엑사원을 토대로 소프트웨어 취약점을 찾아내고 모의 공격을 수행하는 공격형 모델을 개발한다. 두 모델이 제한된 시험환경에서 서로 공격하고 방어한 결과를 학습에 다시 활용한다. 컨소시엄은 필요한 전문가 신경망만 선택해 작동시키는 MoE(전문가 혼합) 구조의 700B급 모델 2종을 목표로 제시했다. 네이버클라우드의 엔비디아 B200 GPU 4000장과 정부가 지원하는 B200 256장, LG의 H200 256장 등 모두 4512장을 개발에 연계한다. 네이버클라우드 측은 사업 착수 전부터 자체 GPU를 활용해 사전학습을 진행해 왔다고 설명했다. 학습에는 22곳 이상이 제공하는 약 830TB 규모의 보안 데이터가 활용된다. 금융보안원과 한국수력원자력, LG유플러스 등의 침해 대응·운영 데이터를 결합해 국내 산업과 언어, 공격 유형에 맞춘다는 구상이다. 기관별 민감정보와 보안기밀이 포함될 수 있는 만큼 데이터 반출 범위와 비식별화, 접근권한 관리가 사업의 신뢰성을 가를 요소다. 성능 평가는 공격형 모델의 취약점 발굴 능력을 측정하는 사이버짐(CyberGym)과 방어형 모델의 침해사고 분석 역량을 평가하는 엑사이틴 벤치(ExCyTIn-Bench)를 활용한다. 내년 2월 중간평가에서 공격형은 중국 Z.ai의 GLM 5.3 대비 80% 이상을 목표로 한다. 방어형은 엑사이틴 벤치 ‘그룹4’ 진입을 추진한다. ‘그룹4’를 xAI의 ‘그록4’와 혼동해서는 안 된다. 완성된 모델은 2027년 하반기부터 전력·금융·통신 등 국가 기반시설과 반도체·방산·항공우주 분야에서 실증할 계획이다. 외부망 연결이 제한된 공공·금융·국방 분야에는 기관 내부에 설치하는 구축형으로 제공하고 상업적 활용이 가능한 오픈소스 공개도 추진한다. 공격형 모델은 방어 기술을 높이는 동시에 실제 해킹에 악용될 위험을 안고 있다. 컨소시엄은 AI가 격리된 시험공간을 벗어나지 못하도록 안전 체계를 적용할 방침이지만 모델 가중치와 학습데이터, 공격 기능을 어느 수준까지 공개할지는 구체화되지 않았다. 배경훈 부총리 겸 과기정통부 장관은 “프론티어 AI 역량 보유 여부가 국가의 미래를 좌우한다”며 AI가 통제를 벗어나지 않도록 하는 안전장치도 함께 확보해야 한다고 강조했다. 사업 성과는 모델 크기보다 실제 침해사고 대응시간을 얼마나 줄이고 새로운 취약점을 어느 정도 정확하게 찾아내는지로 판단해야 한다.2026-09-22 17:13:14
-
KT, ITU에 'AI 보안 모델' 표준 제안…개발부터 평가·개선까지 기준화 [경제일보] 인공지능(AI)이 사이버공격 탐지와 위협 분석·대응에 활용되는 가운데 AI 모델 자체의 보안성과 신뢰성을 확보하기 위한 국제표준 논의가 본격화되고 있다. KT가 국제전기통신연합(ITU) 회의에서 사이버보안에 특화된 AI 모델을 개발·평가하는 기준을 제안하며 국제표준화에 나섰다. AI 모델에 어떤 보안 데이터를 활용할지부터 개발 과정에서 어떻게 성능과 신뢰성을 검증하고 지속적으로 개선할지까지 기준을 마련하겠다는 취지로 풀이된다. 21일 KT는 지난 7일부터 11일까지 중국 충칭에서 열린 ITU 전기통신표준화부문(ITU-T) SG17 국제표준회의에 참석해 AI 사이버보안과 디지털 신뢰 분야의 표준화 논의를 진행했다고 밝혔다. ITU-T SG17은 사이버보안과 보안 아키텍처, 개인정보보호, AI 보안 등을 다루는 정보보호 분야 연구반이다. 각국 정부와 기업, 연구기관의 전문가들이 참여해 ICT 환경에서 활용할 보안 기술과 요구사항에 대한 국제표준을 개발한다. 이번 회의에서 KT는 범용 파운데이션 모델을 활용한 사이버보안 특화 AI 모델 개발 가이드라인을 제안했다. 생성형 AI와 파운데이션 모델이 다양한 산업으로 확산되는 상황에서 이를 사이버보안 영역에 적용하기 위한 별도의 개발 기준이 필요하다는 판단으로 분석된다. 보안 AI는 일반적인 생성형 AI와 달리 악성코드, 취약점, 공격 패턴, 침해사고 등 전문적인 사이버보안 지식을 다뤄야 하는 것으로 꼽힌다. 모델이 최신 보안 위협을 정확하게 분석하지 못하거나 잘못된 판단을 내릴 경우 실제 보안 사고 대응에 영향을 줄 수 있는 만큼 학습 데이터와 모델 성능을 지속적으로 관리하는 것이 중요하다. KT가 제출한 기고서에는 AI 모델 개발에 활용할 사이버보안 지식 소스와 데이터 세트를 비롯해 보안 특화 모델 개발 과정에서 고려해야 할 기술적 요소가 담겼다. 또한 모델 개발 생애주기 전반에 대한 평가와 지속적인 모델 개선을 위한 권고사항도 포함됐다. 해당 기고서는 보안 AI를 한 번 개발한 뒤 사용하는 것이 아니라 데이터 확보부터 모델 개발·평가·운영·개선까지 전 과정을 관리하는 기준을 만들겠다는 의미로 풀이된다. 국제표준이 마련되면 기업이나 기관이 서로 다른 방식으로 보안 AI를 개발하는 과정에서 참고할 수 있는 공통 기준으로 활용될 전망이다. 특히 사이버보안 분야에서는 AI 모델의 지속적인 업데이트가 중요하다. 공격 방식과 악성코드가 계속 변화하는 만큼 과거 데이터를 기반으로 학습한 모델만으로 새로운 위협에 대응하기 어렵기 때문이다. 이에 모델의 성능을 주기적으로 평가하고 새로운 보안 지식과 데이터를 반영하는 체계 역시 표준화 과정에서 중요한 요소가 될 것으로 분석된다. KT는 AI 보안과 함께 디지털 신뢰 분야의 국제표준화도 추진하고 있다. AI가 개인정보를 처리하고 다양한 서비스의 의사결정 과정에 활용되면서 보안뿐 아니라 서비스가 얼마나 신뢰할 수 있는지를 판단할 수 있는 기준도 필요해지고 있다는 판단이다. 염흥열 KT 개인정보보호자문위원회 위원장은 "AI 기술이 산업 전반으로 빠르게 확산되는 상황에서 사이버보안에 특화된 AI 모델의 개발 기준과 ICT 서비스의 신뢰 프레임워크를 국제사회가 함께 마련하는 것이 중요하다"며 "KT와 지속적으로 협력해 우리나라의 기술과 경험이 차세대 정보보호 및 개인정보보호 국제표준에 적극 반영될 수 있도록 노력하겠다"고 말했다. ITU-T SG17에서는 통신·ICT 환경에서 '신뢰'와 '신뢰성'을 정의하고 이를 실제 시스템과 서비스에 적용하기 위한 신뢰 프레임워크의 구성요소와 요구사항을 체계화하는 기술보고서를 개발하고 있다. KT는 해당 기술보고서에 주요 용어 정의를 보완하고 신뢰 프레임워크의 구성요소와 요구사항을 추가하는 수정안을 제안했다. 영국과 인도 측의 지지를 바탕으로 해당 기술보고서 발행도 완료했다. 디지털 신뢰 표준화는 AI 서비스에서 개인정보보호와 보안, 신뢰성을 하나의 체계 안에서 관리하는 기반이 될 수 있다. AI 서비스가 개인정보를 활용하거나 이용자를 대신해 판단하는 영역이 늘어날수록 단순히 AI 모델의 성능만 검증하는 것으로는 충분하지 않기 때문이다. KT는 향후 사이버보안 참조 아키텍처와 디지털 신뢰 프레임워크의 연계성을 높이고 AI 사이버보안·개인정보보호·디지털 신뢰 분야의 국제표준화 활동을 확대할 계획이다. 통신·ICT 분야에서 축적한 보안 경험을 국제표준에 반영하고 이를 기반으로 글로벌 AI 보안 기술과 서비스의 신뢰성을 높이겠다는 전략이다. KT의 국제표준화 활동은 AI 보안 사업과도 연결될 수 있다. AI 기반 위협 탐지와 분석, 대응 기술이 보안 영역에서 확대되면서 모델의 정확도뿐 아니라 어떤 데이터를 학습했는지, 어떻게 평가했는지, 새로운 위협에 맞춰 어떻게 업데이트하는지 등을 설명하고 검증할 필요성이 커지고 있어서다. 다만 이번 제안이 실제 국제표준으로 확정되기까지는 추가 논의와 검토가 필요하다. 향후 각국과 기업, 연구기관의 의견을 반영해 세부 요구사항을 조정하고 표준화 절차를 거쳐야 한다. 따라서 현재 단계에서는 국제표준 제안을 실제 제품이나 서비스에 적용할 수 있는 기준이 확정된 것으로 보기는 어렵다. 김창오 KT 정보보안실 개인정보보호그룹장 상무는 "AI 시대에는 사이버보안과 개인정보보호, 신뢰가 개별적으로 다뤄지는 것이 아니라 AI와 데이터, 서비스 전반에 함께 내재화돼야 한다"며 "KT가 축적해 온 통신·ICT 및 정보보호와 개인정보보호 경험과 국제표준 역량을 바탕으로 AI 보안, 프라이버시, 신뢰 분야의 글로벌 표준화에 지속적으로 기여하겠다"고 말했다.2026-09-21 10:20:09
-
안랩, AI 보안 플랫폼 기업으로 변신…2035년 매출 1조원 목표 [경제일보] 안랩이 인공지능(AI)을 중심으로 30여 년간 이어온 보안 사업의 틀을 다시 짠다. 개별 보안 제품에 AI 기능을 추가하는 수준을 넘어 제품·데이터·보안 운영 전반을 AI 중심으로 재설계하고, AI가 실제 보안 업무를 수행하는 'AI-네이티브 보안 플랫폼'으로 전환한다는 전략이다. 16일 안랩은 서울 강남구 웨스틴 서울 파르나스에서 '안랩 AI 비전 선포' 기자간담회를 열고 통합 브랜드 '안랩 AI 플러스'를 공개했다. 향후 3년간 AI 인프라와 연구개발(R&D) 역량 강화에만 1000억원을 투자하고, 오는 2035년 매출 1조원과 글로벌 매출 비중 30% 이상을 달성한다는 중장기 목표도 제시했다. 이날 강석균 안랩 대표는 AI가 사이버 공격의 속도와 규모, 자동화 수준을 바꾸면서 기존의 사람 중심 보안 운영 방식에도 변화가 필요하다고 진단했다. 공격자가 AI를 활용하면서 공격 속도와 규모가 빠르게 커지는 반면 보안 현장에서 발생하는 이벤트와 로그, 경보를 분석하고 판단하는 인력과 시간은 제한적이라는 것이다. 강 대표는 "해커들의 공격 속도는 이미 지난해 대비 65% 증가했고, 규모 면에도 AI 활용 공격 증가가 지난해 대비 89%나 증가했다"며 "안랩의 다음 단계, 넥스트 스텝, 넥스트 챕터는 AI로의 전환"이라고 강조했다. 안랩은 지난 1990년대 PC용 백신으로 출발해 엔드포인트·네트워크·OT·클라우드 등으로 보호 영역을 확대해왔다. 이제는 개별 제품 간 연동을 넘어 제품과 서비스 자체를 AI 중심으로 재설계한다는 구상이다. 강 대표는 "이제는 AI를 중심으로 모든 것을 설계하려고 한다"며 "제품, 서비스, 보안 운영을 모두 AI 중심으로 재설계해서 AI 네이티브 보안 플랫폼 기업으로 거듭나려고 한다"고 말했다. ◆ AI 공격에 맞춰 방어도 AI로 안랩은 AI가 사이버 공격의 본질 자체를 바꾸기보다 공격에 걸리는 시간과 공격 가능한 규모를 줄이고 넓히는 방향으로 변화를 가져올 것으로 보고 있다. 최근 AI는 취약점 탐색과 공격 코드 생성, 검증, 실제 활용 가능성이 높은 취약점 선별 등 기존에 사람이 상당한 시간을 들여 수행하던 작업을 직접 수행하는 단계로 발전하고 있다는 것이다. 공격은 AI를 통해 빠르게 연결되는 반면 방어 측에서는 서로 다른 보안 제품과 개발·운영팀, 보안팀에서 발생한 이벤트를 사람이 각각 확인하고 연결해야 하는 것으로 꼽힌다. 이에 안랩은 이를 위해 엔드포인트·네트워크·클라우드 등 30여종의 제품과 180여개 이상의 운영 라인업에서 확보한 데이터에 위협 분석과 악성코드 분석, 보안사고 대응 등 전문성을 결합해 문제 발생 시 빠르게 대응한다는 구상이다. 김창희 안랩 제품기획본부장 "공격은 AI의 속도로 연결되고 있는데 방어는 제품과 담당자 사이에서 사람의 속도로 연결되고 있는 갭이 분명히 존재한다"며 "AI 시대의 핵심 과제는 대규모 신호들을 얼마나 빠르게 맥락으로 연결하고 실제 판단해서 대응으로 전환하느냐에 있다"고 설명했다. ◆ 데이터부터 대응까지 연결하는 'AI 플러스' 안랩이 준비하고 있는 서비스 '안랩 AI 플러스'는 개별 제품이 아니라 보안 데이터 수집부터 위협 분석, 판단, 대응까지 연결하는 AI 네이티브 보안 아키텍처다. '시큐리티 데이터 패브릭'에서 엔드포인트·네트워크·클라우드·이메일·계정 및 타사 제품의 데이터를 연결하고, '유니파이드 시큐리티'에서 각 보안 영역의 탐지와 대응을 통합하도록 설계됐다. 특히 '익스포저 매니지먼트'와 '액세스 매니지먼트'를 통해 노출 자산과 취약점, 접근 경로를 관리하고 'AI 네이티브 오퍼레이션'에서 AI가 탐지·분석·대응 업무를 수행하는 것으로 알려졌다. 최상위 'AI 디시전 인텔리전스'는 각 영역의 데이터와 보안 지식을 종합해 AI의 판단을 지원한다. 안랩은 궁극적으로 AI 에이전트가 보안 운영 전반을 수행하는 에이전틱 AI 기반 구조를 구현한다. AI가 이상 신호를 탐지하면 오케스트레이터 에이전트가 업무를 배분하고, 트리아지·인사이트·인베스티게이션 에이전트가 위협 분류와 맥락 분석, 공격 가설 수립 및 조사를 수행한다. 이후 대응 에이전트가 대응 계획을 세우며 실제 조치는 고객이 승인했거나 사전에 설정한 정책 범위 안에서 실행되는 것이다. ◆ AI가 공격하고 AI가 추적한다 안랩은 이날 개발 중인 'AI 펜테스트'를 통해 AI가 실제 보안 업무를 수행하는 과정을 시연했다. AI 펜테스트는 실제 공격이 아니라 특정 환경에서 침투 가능성을 검증하고 위험도를 평가해 예방하기 위한 기술로, AI가 공격 목표와 환경을 분석해 침투 계획을 세우고 필요한 도구를 선택한 뒤 공격을 수행한다. 실패할 경우 다시 시도하고 실행 결과를 분석해 다음 공격 단계를 스스로 결정한다. 방어 AI는 반대로 보안 신호를 따라가며 공격 흐름을 추적한다. 여러 위험 정보를 연계 분석해 권한 상승과 측면 이동, 원격 데스크톱 접근, 자격 증명 수집, 데이터 유출 시도 등 공격 정황을 파악하고 대응 방안까지 제시한다. 다만 AI의 자율적인 판단을 실제 보안 환경에 적용하기 위해서는 통제도 필요하다. 안랩은 감사·권한 통제·정책·승인 체계를 적용해 AI의 행동 범위를 제한하는 '통제된 자율성'을 구현한다는 계획이다. 이승경 안랩 인공지능개발실장은 "AI 시대의 사이버 보안은 보안 분석가의 지식과 단순 반복 업무 자동화 중심으로 경쟁이 이뤄지는 것이 아니라 AI의 추론 능력으로 경쟁이 이뤄질 것"이라며 "안랩은 에이전틱 AI 시큐리티를 보다 더 빠르게 대응하고, 보다 더 지능적으로 대응하고, 또한 자율적으로 대응하는 부분으로 만들어가고 있다"고 말했다. ◆ 12월 플랫폼 출시…3년간 1000억원 투자 안랩은 지난 2023년 '안랩 XDR'을 SaaS 기반으로 출시한 데 이어 지난 2025년 AI 기반 보안 운영 기능을 적용했고, 지난달에는 익스포저 매니지먼트를 추가했다. 에이전틱 AI 기반 보안 운영 플랫폼은 오는 12월 1일 출시할 예정이다. SaaS와 온프레미스 방식으로 제공하며, 안랩은 이를 기반으로 기존 구축·판매 중심 사업에서 구독형 사업으로 전환한다. 엔드포인트는 EPP와 EDR을 SaaS 기반으로 통합하고 PC에서 서버·가상환경·컨테이너·모바일까지 보호 범위를 확대한다. 섹옵스는 XDR·MDR·AI SOC 등을 통해 엔드포인트·네트워크·클라우드 등에서 발생하는 보안 데이터를 연결한다. 안랩은 AI 네이티브 전환을 위해 향후 3년간 1000억원을 투자한다. AI 컴퓨팅과 데이터·플랫폼 인프라, 핵심 인재, AI 기술 및 R&D 역량 확보에 투자를 집중한다. 안랩은 국내에서 축적한 보안 기술과 데이터를 API와 클라우드 기반 서비스, 글로벌 파트너 등을 통해 해외 시장으로 확대하고 M&A와 AI 기술기업·스타트업과의 협력도 추진한다. 이를 통해 오는 2035년 매출 1조원, 글로벌 매출 비중 30% 이상을 달성한다는 목표다. 강석균 대표는 "AI가 사이버보안의 게임 룰과 보안산업의 경쟁 질서를 바꾸는 현 시점에서, '안랩 AI 플러스'가 안랩의 넥스트 챕터"라며 "책임 있는 혁신을 바탕으로 고객의 선제적 대응과 안전한 보안 운영을 지원하며, 고객이 AI 시대의 보안 문제를 마주할 때 가장 먼저 상기되는 'AI 네이티브 보안 플랫폼 기업'으로 성장할 것"이라고 말했다.2026-09-16 15:19:34
-
배경훈, AI 감속론에…"우리는 지금 AI의 속도를 늦출 여유가 없다" [경제일보] 글로벌 인공지능(AI) 업계가 개발 속도와 안전을 놓고 갈라진 가운데 정부는 독자 모델 고도화와 프론티어 AI 개발을 계속 추진하겠다는 입장을 밝혔다. 선도국을 따라잡아야 하는 한국에는 개발 속도를 낮추는 것보다 연산 인프라와 안전장치를 함께 갖추는 일이 우선이라는 판단이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 16일 사회관계망서비스(SNS)를 통해 “우리는 지금 AI의 속도를 늦출 여유가 없다”고 밝혔다. 최근 미국에서는 다리오 아모데이 앤트로픽 최고경영자(CEO)가 고도화된 AI의 통제 위험을 이유로 개발 속도를 낮추자고 주장하면서 논쟁이 커졌다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO가 이에 호응한 반면 젠슨 황 엔비디아 CEO와 마크 저커버그 메타 CEO는 산업 전체가 속도를 늦추는 방식에 반대했다. 배 부총리는 “이미 앞서 있는 나라가 속도를 조절하는 것과, 추격하면서 시장을 새로 만들어야 하는 나라가 속도를 낮추는 것은 완전히 다른 문제”라고 강조했다. 한국은 독자 거대언어모델(LLM)을 고도화하는 동시에 시각언어모델(VLM)과 시각언어행동모델(VLA) 등 산업 현장에서 활용할 기술로 영역을 넓혀야 한다는 설명이다. 프론티어 AI 확보도 국가 경쟁력과 연결했다. 그는 “프론티어 AI 역량을 확보한 국가와 그렇지 못한 국가 사이의 격차는 단순한 기술 격차에 그치지 않을 것”이라며 산업과 경제, 안보, 국가의 미래 경쟁력에 영향을 줄 수 있다고 말했다. 정부가 추진하는 독자 AI 파운데이션 모델 프로젝트는 지난 8월 2단계 평가를 거쳐 LG AI연구원, SK텔레콤, 업스테이지 등 3개 팀으로 압축됐다. 정부는 3차 평가를 통해 최종 2개 팀을 선정할 예정이다. 대규모 연산 자원 확보는 풀어야 할 과제다. 배 부총리는 지난 7월 업무보고에서 프론티어급 모델 개발에는 약 1만장의 그래픽처리장치(GPU)가 필요하다고 밝혔다. 당시 독파모 참여 기업에 대한 지원 규모는 엔비디아 B200 기준 팀당 735장 수준이었다. 개발 속도를 높이는 과정에서 안전 체계도 함께 마련한다. 정부는 올해 1월 시행된 AI기본법을 토대로 딥페이크와 사이버보안, 개인정보 보호, 고영향 AI 등에 대응할 제도적 기반을 정비하고 있다. 독파모를 활용한 ‘모두의 AI’와 보안 특화 모델 사업도 추진한다. 배 부총리는 “AI가 빨라질수록 안전과 신뢰를 준비하는 우리의 속도도 더 빨라져야 한다”며 “AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되, 위험에는 제대로 작동하는 브레이크를 갖춰야 한다”고 말했다. 그는 “속도는 경쟁력이고 안전은 지속가능성”이라며 독파모의 다음 단계와 프론티어 AI 모델 개발 방향을 조만간 공개하겠다고 예고했다. 정부 구상이 성과로 이어지려면 GPU와 데이터 확보 규모, 독자 모델의 실제 활용처, 안전성 평가 기준을 구체적으로 제시해야 한다.2026-09-16 15:14:10
-
티오리, 보안 AI, 답변 넘어 취약점 직접 검증…'실전훈련' 맡는다 [경제일보] 인공지능(AI)이 보안 지식을 설명하는 수준을 넘어 실제 시스템의 취약점을 찾아 재현하고 검증하도록 훈련하는 국가 프로젝트에 티오리가 참여한다. 티오리는 자율형 AI 보안 솔루션 ‘진트(Xint)’ 개발 경험을 활용해 보안 AI와 분석 도구를 연결하는 실행 환경을 구축한다. AI 기반 오펜시브 보안 기업 티오리는 과학기술정보통신부가 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업의 네이버클라우드 컨소시엄에 참여한다고 9일 밝혔다. 오펜시브 보안은 공격자의 관점에서 시스템을 시험해 취약점을 선제적으로 찾는 분야다. 이번 컨소시엄에는 네이버클라우드를 중심으로 LG CNS·LG AI연구원·LG유플러스와 티오리·S2W·샌즈랩·이스트시큐리티 등 AI·보안기업, 대학·연구기관 및 수요기관을 포함해 총 33개 기관이 참여한다. 한국항공우주산업(KAI), 한국수력원자력, 한전KDN 등 국가 기반시설 관련 기관도 실증에 나선다. 컨소시엄은 네이버의 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 기반으로 700B급(7000억개 매개변수) 전문가혼합(MoE) 보안 모델 2종을 병렬 개발한다. MoE는 작업에 필요한 일부 전문 모델만 선택적으로 가동하는 구조여서 매번 7000억개 매개변수 전체를 사용하는 방식과는 다르다. 하이퍼클로바X 기반 모델은 방어, 엑사원 기반 모델은 공격·검증 역량을 강화하는 방향으로 개발된다. 약 830테라바이트(TB)의 보안 데이터를 활용해 전력·금융·통신·반도체·방산·항공우주 등 7개 분야에서 실증할 계획이다. 티오리가 맡은 핵심 분야는 ‘하네스(Harness)’다. AI 모델을 취약점 스캐너와 디버거, 시험용 서버 등 실제 보안 도구·환경과 연결하고 명령 실행부터 결과 수집, 재현 여부 판정까지 관리하는 체계다. AI가 그럴듯한 분석 문장을 만드는 데 그치지 않고 취약점이 실제로 존재하는지 통제된 환경에서 입증하도록 설계한다. 학습 과정에는 전문가의 모범 사례를 활용하는 지도미세조정(SFT)과 검증 가능한 결과를 보상으로 삼는 강화학습(RLVR)이 적용된다. 예컨대 AI가 제시한 공격 경로가 시험 환경에서 재현되고 정해진 검증 절차를 통과했을 때만 보상을 주는 방식이다. 보안 AI의 고질적인 문제로 꼽히는 오탐과 재현 불가능한 답변을 줄이는 데 초점이 맞춰져 있다. 정부는 컨소시엄에 엔비디아 B200 그래픽처리장치(GPU) 256장을 지원한다. 전체 지원 기간은 10개월이지만, 우선 5개월간 제공한 뒤 중간평가를 거쳐 나머지 지원 여부를 결정한다. 네이버클라우드는 별도로 B200 4000장을 사전학습에 투입했고 LG 측도 H200 256장을 추가할 계획이라고 밝혔다. 정부는 공모 당시 국내 보안 산업에서 공동 활용할 수 있는 독자 모델 확보를 사업 목표로 제시했다. 박세준 티오리 대표는 “사이버보안 AI에서는 보안 지식을 얼마나 많이 아는지뿐 아니라 실제 환경에서 취약점을 찾아 검증할 수 있는지가 중요하다”며 “진트를 개발하며 확보한 에이전트와 취약점 검증 기술을 적용하겠다”고 말했다. 한편 공격 기능을 갖춘 모델은 방어 역량을 높이는 동시에 악용 가능성도 품고 있다. 컨소시엄이 개발 모델의 오픈소스 공개를 예고한 만큼 모델 가중치와 공격 기능의 공개 범위, 사용자 권한 관리, 실행 기록 보존, 격리된 시험환경 운영 기준이 함께 제시돼야 한다. 개발 규모보다 실제 취약점 탐지율과 오탐률, 재현 성공률, 검증 소요시간을 객관적으로 입증하는 작업이 국가 보안 AI의 신뢰도를 가르게 된다.2026-09-10 08:53:23
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 반도체 호황에 취한 정부, 민생은 무너진다](https://image.ajunews.com/content/image/2026/10/15/20261015173614583906_518_323.jpg)