검색결과 총 6건
-
티오리, 앤트로픽·오픈AI 보안 프로그램 합류…AI 방어 기술 고도화
[경제일보] 인공지능(AI)을 활용한 사이버 공격 위협이 커지는 가운데 국내 보안 기업 티오리가 앤트로픽과 오픈AI의 보안 프로그램에 잇달아 참여하며 AI 기반 방어 기술 고도화에 나선다. 고도화된 AI 모델을 활용해 취약점을 탐지하고 실제 공격 가능성을 검증하는 역량을 강화하려는 것이다. AI가 공격자의 취약점 탐색과 공격 준비를 돕는 도구로도 활용될 수 있는 만큼, 방어 기업이 최신 AI 기술을 확보하고 이를 실제 보안 서비스에 적용하는 능력이 중요해지고 있다. 16일 티오리는 앤트로픽의 '사이버 검증 프로그램(CVP)' 참여 기업으로 합류했다고 밝혔다. CVP는 일정한 자격 검증을 거친 보안 기업과 전문가에게 고도화된 사이버 보안 AI 기능에 대한 접근 권한을 제공하는 프로그램이다. 악성코드 분석과 취약점 탐지, 공격 경로 검증 등 일반적인 AI 서비스에서는 안전장치로 인해 제한될 수 있는 보안 연구 작업을 지원하는 것이 특징이다. 앤트로픽은 지난 6일 CVP를 확대 개편하면서 보안 기업의 업무와 전문성에 따라 접근 권한을 구분하는 3단계 체계를 도입했다. 각 단계에서는 보안 연구에 필요한 고도화된 AI 모델을 활용할 수 있도록 하되, 접근 권한에 따라 검증 요건과 사용 범위를 달리한다. 취약점 탐지와 방어 활동을 지원하면서도 AI 기능이 악의적인 공격에 전용될 가능성을 통제하려는 취지로 풀이된다. 티오리는 이번 합류를 계기로 자사의 AI 기반 자율형 모의해킹 플랫폼 '진트'의 취약점 탐지와 공격 경로 검증 기능을 고도화할 계획이다. 소스코드와 바이너리를 분석하고 실제 서비스 환경에서 침투 테스트를 수행하는 과정에 AI 에이전트의 추론 역량을 활용한다는 구상이다. 취약점 후보를 찾는 데 그치지 않고 해당 취약점이 실제 환경에서 악용될 수 있는지 확인하는 과정을 개선해 보안 점검의 정확도와 효율성을 높이겠다는 것으로 분석된다. 모의해킹은 시스템이나 애플리케이션에 대한 공격을 허가된 범위에서 시도해 보안 취약점을 확인하는 작업이다. 취약점이 발견되더라도 실제 공격으로 이어질 수 있는지, 어떤 시스템과 데이터까지 영향을 미칠 수 있는지에 따라 위험도와 대응 우선순위가 달라진다. AI 에이전트가 코드 분석과 취약점 후보 탐색, 공격 경로 검증을 지원하면 보안 담당자가 반복적인 분석에 들이는 시간을 줄이고 위험도가 높은 문제를 우선적으로 점검하는 데 도움이 되는 것으로 평가된다. 이번 합류로 티오리는 오픈AI와 앤트로픽의 보안 프로그램에 모두 참여하게 됐다. 앞서 오픈AI의 사이버 방어 프로그램 '데이브레이크'에도 참여 승인을 받았다. 오픈AI는 데이브레이크를 통해 검증된 기업과 보안 전문가가 허가된 방어 작업에 자사 AI 모델을 활용할 수 있도록 지원한다. 취약점 탐색과 검증, 보안 패치, 위협 분석 등 방어 업무에 AI를 적용하되 사용자의 자격과 작업 범위에 맞춰 접근을 통제하는 방식이다. AI 기업들이 보안 기능에 별도의 접근 통제를 두는 배경에는 기술의 이중용도 문제가 있다. AI는 방대한 소스코드를 빠르게 분석하고 알려지지 않은 취약점의 단서를 찾는 데 활용될 수 있지만, 같은 능력이 공격자의 취약점 탐색과 악용 방법 연구를 지원할 가능성도 있는 것으로 꼽힌다. 일반 사용자에게 동일한 수준의 기능을 제한 없이 제공하기 어려운 이유다. 보안 연구자의 정당한 작업은 지원하면서 악의적인 사용은 억제할 수 있도록 자격 검증과 사용 통제를 함께 설계해야 한다. 이러한 움직임은 AI 보안 경쟁의 초점이 단순한 모델 성능을 넘어 실제 방어 업무에 얼마나 안전하고 효과적으로 활용할 수 있는지로 옮겨가고 있음을 보여준다. AI 모델을 확보하는 것만으로는 충분하지 않다. 기업의 개발 환경과 보안 도구에 연동하고, AI가 제시한 결과를 검증하며, 확인된 취약점 수정까지 이어지도록 하는 작업 흐름이 갖춰져야 한다. 보안 기업에는 AI 활용 기술뿐 아니라 검증된 연구 역량과 고객 시스템을 다루는 운영 체계도 요구된다. 티오리는 국제 해킹 대회와 AI 보안 연구에서 쌓은 경험을 바탕으로 관련 기술을 발전시켜 왔다. 회사에 따르면 티오리는 세계적인 해킹 대회인 데프콘 CTF에서 9차례 우승한 연구진이 설립했으며, 미국 국방고등연구계획국(DARPA)이 주최한 AI 사이버 챌린지에서 최종 3위를 차지했다. 이러한 연구 경험을 AI 모델 활용과 결합해 취약점 탐지 및 검증 기술을 발전시키겠다는 구상이다. 박세준 티오리 대표는 "AI가 사이버 공격에 필요한 시간과 비용을 빠르게 낮추고 있는 만큼, 방어자 역시 가장 앞선 AI 기술을 적극적으로 활용할 수 있어야 한다"며 "이번 승인은 세계적인 AI 기술을 보다 폭넓은 보안 연구에 활용할 수 있는 중요한 기회다. 티오리는 이를 바탕으로 실제 악용 가능한 취약점을 더 빠르고 정확하게 찾아내고 검증하는 기술을 발전시켜, 고객들이 공격자보다 먼저 위협에 대응할 수 있도록 돕겠다"고 말했다.
2026-10-16 13:55:54
-
티오리, 보안 AI, 답변 넘어 취약점 직접 검증…'실전훈련' 맡는다
[경제일보] 인공지능(AI)이 보안 지식을 설명하는 수준을 넘어 실제 시스템의 취약점을 찾아 재현하고 검증하도록 훈련하는 국가 프로젝트에 티오리가 참여한다. 티오리는 자율형 AI 보안 솔루션 ‘진트(Xint)’ 개발 경험을 활용해 보안 AI와 분석 도구를 연결하는 실행 환경을 구축한다. AI 기반 오펜시브 보안 기업 티오리는 과학기술정보통신부가 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업의 네이버클라우드 컨소시엄에 참여한다고 9일 밝혔다. 오펜시브 보안은 공격자의 관점에서 시스템을 시험해 취약점을 선제적으로 찾는 분야다. 이번 컨소시엄에는 네이버클라우드를 중심으로 LG CNS·LG AI연구원·LG유플러스와 티오리·S2W·샌즈랩·이스트시큐리티 등 AI·보안기업, 대학·연구기관 및 수요기관을 포함해 총 33개 기관이 참여한다. 한국항공우주산업(KAI), 한국수력원자력, 한전KDN 등 국가 기반시설 관련 기관도 실증에 나선다. 컨소시엄은 네이버의 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 기반으로 700B급(7000억개 매개변수) 전문가혼합(MoE) 보안 모델 2종을 병렬 개발한다. MoE는 작업에 필요한 일부 전문 모델만 선택적으로 가동하는 구조여서 매번 7000억개 매개변수 전체를 사용하는 방식과는 다르다. 하이퍼클로바X 기반 모델은 방어, 엑사원 기반 모델은 공격·검증 역량을 강화하는 방향으로 개발된다. 약 830테라바이트(TB)의 보안 데이터를 활용해 전력·금융·통신·반도체·방산·항공우주 등 7개 분야에서 실증할 계획이다. 티오리가 맡은 핵심 분야는 ‘하네스(Harness)’다. AI 모델을 취약점 스캐너와 디버거, 시험용 서버 등 실제 보안 도구·환경과 연결하고 명령 실행부터 결과 수집, 재현 여부 판정까지 관리하는 체계다. AI가 그럴듯한 분석 문장을 만드는 데 그치지 않고 취약점이 실제로 존재하는지 통제된 환경에서 입증하도록 설계한다. 학습 과정에는 전문가의 모범 사례를 활용하는 지도미세조정(SFT)과 검증 가능한 결과를 보상으로 삼는 강화학습(RLVR)이 적용된다. 예컨대 AI가 제시한 공격 경로가 시험 환경에서 재현되고 정해진 검증 절차를 통과했을 때만 보상을 주는 방식이다. 보안 AI의 고질적인 문제로 꼽히는 오탐과 재현 불가능한 답변을 줄이는 데 초점이 맞춰져 있다. 정부는 컨소시엄에 엔비디아 B200 그래픽처리장치(GPU) 256장을 지원한다. 전체 지원 기간은 10개월이지만, 우선 5개월간 제공한 뒤 중간평가를 거쳐 나머지 지원 여부를 결정한다. 네이버클라우드는 별도로 B200 4000장을 사전학습에 투입했고 LG 측도 H200 256장을 추가할 계획이라고 밝혔다. 정부는 공모 당시 국내 보안 산업에서 공동 활용할 수 있는 독자 모델 확보를 사업 목표로 제시했다. 박세준 티오리 대표는 “사이버보안 AI에서는 보안 지식을 얼마나 많이 아는지뿐 아니라 실제 환경에서 취약점을 찾아 검증할 수 있는지가 중요하다”며 “진트를 개발하며 확보한 에이전트와 취약점 검증 기술을 적용하겠다”고 말했다. 한편 공격 기능을 갖춘 모델은 방어 역량을 높이는 동시에 악용 가능성도 품고 있다. 컨소시엄이 개발 모델의 오픈소스 공개를 예고한 만큼 모델 가중치와 공격 기능의 공개 범위, 사용자 권한 관리, 실행 기록 보존, 격리된 시험환경 운영 기준이 함께 제시돼야 한다. 개발 규모보다 실제 취약점 탐지율과 오탐률, 재현 성공률, 검증 소요시간을 객관적으로 입증하는 작업이 국가 보안 AI의 신뢰도를 가르게 된다.
2026-09-10 08:53:23
-
데프콘 CTF 34서 한국팀 2·3위…AI 무제한 허용 첫 본선서 상위권
[경제일보] 국내 화이트해커들이 세계 최대 해킹대회 데프콘 CTF 34에서 2위와 3위를 차지했다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 차세대 보안리더 양성 프로그램(BoB) 멘토와 수료생이 참여한 국내 6개 팀이 이달 6~9일 미국 라스베이거스 본선에 올라 이 같은 성적을 냈다고 10일 밝혔다. 이종호 BoB 멘토와 윤인수 KAIST 교수가 이끈 '0x4b52'가 2위에 올랐다. 이 팀에는 토스와 헥사랩스, 엔키화이트햇 연구진이 함께했다. 김지섭 멘토가 이끈 '슈퍼다이스코드러버스'는 3위를 기록했다. 0x4b52의 성적은 한국인만으로 구성된 팀 기준으로 2022년 3위 이후 가장 높다. 본선에는 콜드퓨전, 진따비스, 더서울사우나쇼구네이트, 독도를 포함해 국내 팀 6개가 진출했다. 지난 5월 23~25일 온라인으로 치러진 예선에는 686개 팀이 참가했고 상위 12개 팀만 라스베이거스행 티켓을 받았다. 예선에서는 슈퍼다이스코드러버스가 1위, 0x4b52가 5위였는데 본선에서 순위가 뒤집혔다. 참여 기업·기관도 엔키화이트햇과 라온시큐어, SK쉴더스 EQST, 네이버클라우드, 삼성리서치, 빗썸, 고려대 등으로 넓어졌다. 올해 대회는 판이 바뀐 무대였다. 2022년부터 지난해까지 4년 연속 우승한 메이플 맬러드 매지스트레이트(MMM)는 한국인 해커들이 주축이었지만, 팀을 이끌던 박세준 티오리 대표가 지난 5월 예선 종료 직후 CTF 은퇴를 선언했다. MMM 구성원 일부는 올해 출제 연구진으로 돌아섰고, 일부는 'ABCD'라는 이름으로 소규모 출전했다. 4년간 정상을 지킨 팀이 빠진 자리를 두고 나머지 팀들이 붙은 대회였던 셈이다. 생성형 AI를 둘러싼 규칙도 처음 적용됐다. 예선에서는 AI만으로 문제를 푸는 방식을 인정하지 않고 평가상 불이익을 줬지만, 본선에서는 AI 사용을 제한하지 않았다. 박 대표는 은퇴 이유로 프론티어 모델이 어려운 문제까지 풀어내면서 문제 해결의 성취감이 예전 같지 않다는 점을 들었다. 올해 데프콘에서는 사람 없이 AI 에이전트끼리 겨루는 별도 대회도 처음 열렸다. 콘퍼런스 발표에도 국내 인재들이 이름을 올렸다. 권현준 화이트햇스쿨(WHS) 멘토와 이지예·이종윤 WHS 3기 수료생은 실제 침해사고를 토대로 한 오픈소스 아마존웹서비스(AWS) 공격 시나리오 연구를 공개했다. BoB 10기 수료생 김희찬씨는 윈도 운영체제의 권한 상승 취약점 연구 결과를 발표했다. 데프콘은 1993년 해커 제프 모스가 만든 보안 콘퍼런스로, 부속 대회인 CTF는 예선을 거친 12개 팀이 서로의 시스템을 공격하고 자기 시스템을 방어하며 겨루는 방식이다. BoB는 과기정통부와 KISA가 9개월 과정으로 운영하는 화이트해커 양성 프로그램이다. 최우혁 과기정통부 정보보호네트워크정책실장은 "대한민국 정보보호 인재들이 세계 최고 권위 국제해킹대회에서 다시 한번 뛰어난 실력과 경쟁력을 입증했다"며 "AI 시대에 고도화되는 사이버위협에 선제적으로 대응할 수 있는 최고 수준의 정보보호 인재를 지속적으로 양성하겠다"고 말했다. 이상중 KISA 원장은 "0x4b52의 성과는 국내 보안 인재들이 세계 정상급 실력을 갖추고 있음을 증명한 사례"라며 "BoB를 통해 앞으로도 세계 무대에서 통할 인재들을 키워나가겠다"고 밝혔다.
2026-08-10 13:11:29
-
'글래스윙' 닮은 한국형 AI 보안망…플라즈마 '캐노피' 출범
[경제일보] 사단법인 프로젝트 플라즈마가 인공지능(AI) 기반 취약점 방어를 사회 전반으로 확산하기 위한 공익 이니셔티브 ‘프로젝트 캐노피’를 공식 출범했다. 고성능 AI가 소프트웨어 취약점을 찾는 속도를 끌어올리면서, 공격자보다 먼저 공익 인프라의 약점을 찾아 막겠다는 취지다. 프로젝트 플라즈마는 17일 프로젝트 캐노피 출범을 알리고 오픈소스 생태계와 병원, 학교, 공공 유틸리티 등 민생 인프라를 대상으로 AI 기반 취약점 탐지와 패치 지원을 확대한다고 밝혔다. 캐노피는 보안 역량이 부족한 조직도 고성능 AI 보안 기술의 혜택을 받을 수 있도록 하는 공익형 보안망을 표방한다. 이번 이니셔티브는 해외에서 주목받은 앤트로픽의 ‘프로젝트 글래스윙’과 문제의식이 맞닿아 있다. 글래스윙이 고성능 AI 모델을 제한된 파트너에게 제공해 주요 소프트웨어 취약점을 찾는 방어 실험이었다면, 캐노피는 국내 공공·민생 인프라와 오픈소스 생태계에 초점을 맞춘 한국형 공익 보안 모델에 가깝다. 캐노피는 출범 전 시범 활동을 통해 전자정부표준프레임워크, 학교 내부 시스템, 리눅스 및 주요 데이터베이스 소프트웨어 등 공공성이 높은 대상을 점검했다고 설명했다. 그 결과 심각도 높은 취약점 수백건 이상을 발견해 해당 기관과 개발 주체에 제보했으며, 현재 패치가 진행 중이라고 밝혔다. 출범 시점 기준 27개 기업·기관이 런칭 파트너로 참여했다. △두나무 △LG유플러스 △포스코DX △티오리한국 △한화손해보험 등 5개 기업이 핵심 운영 주체인 스튜어드(Stewards) 그룹에 이름을 올렸다. 광운대, 금융결제원, 롯데카드, 롯데이노베이트, 모두싸인, 무신사, 삼성화재보험, SK AX, LG전자, NHN, 우아한형제들, 정보통신기획평가원, 코웨이, 하나카드, 한국투자증권, 현대자동차그룹, 현대카드 등도 파트너(Defending Partners)로 참여한다. 재원도 마련했다. 캐노피는 약 30억원, 미화 200만달러 상당의 AI 보안 분석 크레딧을 확보해 전액 기부금 형태로 운용한다. 해당 재원은 비용 부담 때문에 고성능 AI 보안 기술을 쓰기 어려웠던 오픈소스 메인테이너와 민생 인프라 운영 주체에게 제공된다. 기금 집행 내역은 투명하게 공개 보고한다는 방침이다. 지원 프로그램은 세 가지다. 오픈소스 프로그램은 핵심 인프라와 국내외 오픈소스 프로젝트에 AI 기반 취약점 점검 크레딧을 제공한다. 민생 인프라 방어 프로그램은 공공기관, 병원, 학교, 공공 유틸리티, NGO 등 생활과 밀접하지만 보안 여력이 부족한 조직을 대상으로 한다. 협력 공개 및 패치 보상 프로그램은 취약점 검증, 패치 제작, 공시 과정에 참여한 메인테이너와 화이트햇 해커에게 보상을 지급하는 구조다. 박세준 프로젝트 캐노피 위원장은 “AI가 취약점을 찾는 속도는 공격자와 방어자 모두에게 똑같이 주어지지만, 이를 방어하고 패치할 수 있는 여력은 조직마다 불평등하다”며 “캐노피는 그 격차를 메우기 위해 기술과 자본, 사람이 공익적으로 결합한 방파제”라고 말했다. 캐노피는 이달 중순부터 취약점 점검 대상을 선별하고 제보·패치 공유를 위한 1차 거버넌스 프로세스에 들어간다. 7월 초에는 글로벌 기업과 기관을 대상으로 공개 가입 페이지도 열 계획이다. 성패는 취약점을 얼마나 많이 찾느냐보다 얼마나 책임 있게 고치느냐에 달려 있다. AI가 보안 취약점을 대량으로 찾아내는 시대가 열렸지만, 실제 방어력은 검증과 우선순위 분류, 패치, 공시, 운영 반영까지 이어질 때 높아진다. 캐노피가 공익 인프라의 보안 격차를 줄이는 모델이 되려면 투명한 거버넌스와 책임 있는 공개 원칙, 지속 가능한 보상 체계를 함께 증명해야 한다.
2026-06-17 09:26:59
-
-