검색결과 총 8건
-
-
KT, ITU에 'AI 보안 모델' 표준 제안…개발부터 평가·개선까지 기준화
[경제일보] 인공지능(AI)이 사이버공격 탐지와 위협 분석·대응에 활용되는 가운데 AI 모델 자체의 보안성과 신뢰성을 확보하기 위한 국제표준 논의가 본격화되고 있다. KT가 국제전기통신연합(ITU) 회의에서 사이버보안에 특화된 AI 모델을 개발·평가하는 기준을 제안하며 국제표준화에 나섰다. AI 모델에 어떤 보안 데이터를 활용할지부터 개발 과정에서 어떻게 성능과 신뢰성을 검증하고 지속적으로 개선할지까지 기준을 마련하겠다는 취지로 풀이된다. 21일 KT는 지난 7일부터 11일까지 중국 충칭에서 열린 ITU 전기통신표준화부문(ITU-T) SG17 국제표준회의에 참석해 AI 사이버보안과 디지털 신뢰 분야의 표준화 논의를 진행했다고 밝혔다. ITU-T SG17은 사이버보안과 보안 아키텍처, 개인정보보호, AI 보안 등을 다루는 정보보호 분야 연구반이다. 각국 정부와 기업, 연구기관의 전문가들이 참여해 ICT 환경에서 활용할 보안 기술과 요구사항에 대한 국제표준을 개발한다. 이번 회의에서 KT는 범용 파운데이션 모델을 활용한 사이버보안 특화 AI 모델 개발 가이드라인을 제안했다. 생성형 AI와 파운데이션 모델이 다양한 산업으로 확산되는 상황에서 이를 사이버보안 영역에 적용하기 위한 별도의 개발 기준이 필요하다는 판단으로 분석된다. 보안 AI는 일반적인 생성형 AI와 달리 악성코드, 취약점, 공격 패턴, 침해사고 등 전문적인 사이버보안 지식을 다뤄야 하는 것으로 꼽힌다. 모델이 최신 보안 위협을 정확하게 분석하지 못하거나 잘못된 판단을 내릴 경우 실제 보안 사고 대응에 영향을 줄 수 있는 만큼 학습 데이터와 모델 성능을 지속적으로 관리하는 것이 중요하다. KT가 제출한 기고서에는 AI 모델 개발에 활용할 사이버보안 지식 소스와 데이터 세트를 비롯해 보안 특화 모델 개발 과정에서 고려해야 할 기술적 요소가 담겼다. 또한 모델 개발 생애주기 전반에 대한 평가와 지속적인 모델 개선을 위한 권고사항도 포함됐다. 해당 기고서는 보안 AI를 한 번 개발한 뒤 사용하는 것이 아니라 데이터 확보부터 모델 개발·평가·운영·개선까지 전 과정을 관리하는 기준을 만들겠다는 의미로 풀이된다. 국제표준이 마련되면 기업이나 기관이 서로 다른 방식으로 보안 AI를 개발하는 과정에서 참고할 수 있는 공통 기준으로 활용될 전망이다. 특히 사이버보안 분야에서는 AI 모델의 지속적인 업데이트가 중요하다. 공격 방식과 악성코드가 계속 변화하는 만큼 과거 데이터를 기반으로 학습한 모델만으로 새로운 위협에 대응하기 어렵기 때문이다. 이에 모델의 성능을 주기적으로 평가하고 새로운 보안 지식과 데이터를 반영하는 체계 역시 표준화 과정에서 중요한 요소가 될 것으로 분석된다. KT는 AI 보안과 함께 디지털 신뢰 분야의 국제표준화도 추진하고 있다. AI가 개인정보를 처리하고 다양한 서비스의 의사결정 과정에 활용되면서 보안뿐 아니라 서비스가 얼마나 신뢰할 수 있는지를 판단할 수 있는 기준도 필요해지고 있다는 판단이다. 염흥열 KT 개인정보보호자문위원회 위원장은 "AI 기술이 산업 전반으로 빠르게 확산되는 상황에서 사이버보안에 특화된 AI 모델의 개발 기준과 ICT 서비스의 신뢰 프레임워크를 국제사회가 함께 마련하는 것이 중요하다"며 "KT와 지속적으로 협력해 우리나라의 기술과 경험이 차세대 정보보호 및 개인정보보호 국제표준에 적극 반영될 수 있도록 노력하겠다"고 말했다. ITU-T SG17에서는 통신·ICT 환경에서 '신뢰'와 '신뢰성'을 정의하고 이를 실제 시스템과 서비스에 적용하기 위한 신뢰 프레임워크의 구성요소와 요구사항을 체계화하는 기술보고서를 개발하고 있다. KT는 해당 기술보고서에 주요 용어 정의를 보완하고 신뢰 프레임워크의 구성요소와 요구사항을 추가하는 수정안을 제안했다. 영국과 인도 측의 지지를 바탕으로 해당 기술보고서 발행도 완료했다. 디지털 신뢰 표준화는 AI 서비스에서 개인정보보호와 보안, 신뢰성을 하나의 체계 안에서 관리하는 기반이 될 수 있다. AI 서비스가 개인정보를 활용하거나 이용자를 대신해 판단하는 영역이 늘어날수록 단순히 AI 모델의 성능만 검증하는 것으로는 충분하지 않기 때문이다. KT는 향후 사이버보안 참조 아키텍처와 디지털 신뢰 프레임워크의 연계성을 높이고 AI 사이버보안·개인정보보호·디지털 신뢰 분야의 국제표준화 활동을 확대할 계획이다. 통신·ICT 분야에서 축적한 보안 경험을 국제표준에 반영하고 이를 기반으로 글로벌 AI 보안 기술과 서비스의 신뢰성을 높이겠다는 전략이다. KT의 국제표준화 활동은 AI 보안 사업과도 연결될 수 있다. AI 기반 위협 탐지와 분석, 대응 기술이 보안 영역에서 확대되면서 모델의 정확도뿐 아니라 어떤 데이터를 학습했는지, 어떻게 평가했는지, 새로운 위협에 맞춰 어떻게 업데이트하는지 등을 설명하고 검증할 필요성이 커지고 있어서다. 다만 이번 제안이 실제 국제표준으로 확정되기까지는 추가 논의와 검토가 필요하다. 향후 각국과 기업, 연구기관의 의견을 반영해 세부 요구사항을 조정하고 표준화 절차를 거쳐야 한다. 따라서 현재 단계에서는 국제표준 제안을 실제 제품이나 서비스에 적용할 수 있는 기준이 확정된 것으로 보기는 어렵다. 김창오 KT 정보보안실 개인정보보호그룹장 상무는 "AI 시대에는 사이버보안과 개인정보보호, 신뢰가 개별적으로 다뤄지는 것이 아니라 AI와 데이터, 서비스 전반에 함께 내재화돼야 한다"며 "KT가 축적해 온 통신·ICT 및 정보보호와 개인정보보호 경험과 국제표준 역량을 바탕으로 AI 보안, 프라이버시, 신뢰 분야의 글로벌 표준화에 지속적으로 기여하겠다"고 말했다.
2026-09-21 10:20:09
-
티오리, 보안 AI, 답변 넘어 취약점 직접 검증…'실전훈련' 맡는다
[경제일보] 인공지능(AI)이 보안 지식을 설명하는 수준을 넘어 실제 시스템의 취약점을 찾아 재현하고 검증하도록 훈련하는 국가 프로젝트에 티오리가 참여한다. 티오리는 자율형 AI 보안 솔루션 ‘진트(Xint)’ 개발 경험을 활용해 보안 AI와 분석 도구를 연결하는 실행 환경을 구축한다. AI 기반 오펜시브 보안 기업 티오리는 과학기술정보통신부가 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업의 네이버클라우드 컨소시엄에 참여한다고 9일 밝혔다. 오펜시브 보안은 공격자의 관점에서 시스템을 시험해 취약점을 선제적으로 찾는 분야다. 이번 컨소시엄에는 네이버클라우드를 중심으로 LG CNS·LG AI연구원·LG유플러스와 티오리·S2W·샌즈랩·이스트시큐리티 등 AI·보안기업, 대학·연구기관 및 수요기관을 포함해 총 33개 기관이 참여한다. 한국항공우주산업(KAI), 한국수력원자력, 한전KDN 등 국가 기반시설 관련 기관도 실증에 나선다. 컨소시엄은 네이버의 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 기반으로 700B급(7000억개 매개변수) 전문가혼합(MoE) 보안 모델 2종을 병렬 개발한다. MoE는 작업에 필요한 일부 전문 모델만 선택적으로 가동하는 구조여서 매번 7000억개 매개변수 전체를 사용하는 방식과는 다르다. 하이퍼클로바X 기반 모델은 방어, 엑사원 기반 모델은 공격·검증 역량을 강화하는 방향으로 개발된다. 약 830테라바이트(TB)의 보안 데이터를 활용해 전력·금융·통신·반도체·방산·항공우주 등 7개 분야에서 실증할 계획이다. 티오리가 맡은 핵심 분야는 ‘하네스(Harness)’다. AI 모델을 취약점 스캐너와 디버거, 시험용 서버 등 실제 보안 도구·환경과 연결하고 명령 실행부터 결과 수집, 재현 여부 판정까지 관리하는 체계다. AI가 그럴듯한 분석 문장을 만드는 데 그치지 않고 취약점이 실제로 존재하는지 통제된 환경에서 입증하도록 설계한다. 학습 과정에는 전문가의 모범 사례를 활용하는 지도미세조정(SFT)과 검증 가능한 결과를 보상으로 삼는 강화학습(RLVR)이 적용된다. 예컨대 AI가 제시한 공격 경로가 시험 환경에서 재현되고 정해진 검증 절차를 통과했을 때만 보상을 주는 방식이다. 보안 AI의 고질적인 문제로 꼽히는 오탐과 재현 불가능한 답변을 줄이는 데 초점이 맞춰져 있다. 정부는 컨소시엄에 엔비디아 B200 그래픽처리장치(GPU) 256장을 지원한다. 전체 지원 기간은 10개월이지만, 우선 5개월간 제공한 뒤 중간평가를 거쳐 나머지 지원 여부를 결정한다. 네이버클라우드는 별도로 B200 4000장을 사전학습에 투입했고 LG 측도 H200 256장을 추가할 계획이라고 밝혔다. 정부는 공모 당시 국내 보안 산업에서 공동 활용할 수 있는 독자 모델 확보를 사업 목표로 제시했다. 박세준 티오리 대표는 “사이버보안 AI에서는 보안 지식을 얼마나 많이 아는지뿐 아니라 실제 환경에서 취약점을 찾아 검증할 수 있는지가 중요하다”며 “진트를 개발하며 확보한 에이전트와 취약점 검증 기술을 적용하겠다”고 말했다. 한편 공격 기능을 갖춘 모델은 방어 역량을 높이는 동시에 악용 가능성도 품고 있다. 컨소시엄이 개발 모델의 오픈소스 공개를 예고한 만큼 모델 가중치와 공격 기능의 공개 범위, 사용자 권한 관리, 실행 기록 보존, 격리된 시험환경 운영 기준이 함께 제시돼야 한다. 개발 규모보다 실제 취약점 탐지율과 오탐률, 재현 성공률, 검증 소요시간을 객관적으로 입증하는 작업이 국가 보안 AI의 신뢰도를 가르게 된다.
2026-09-10 08:53:23
-
-
SKT, 독자 AI 'A.X K2' 앞세워 제조·국방 현장 공략
[경제일보] SK텔레콤이 독자 AI 파운데이션 모델 'A.X K2'를 앞세워 제조와 국방, 바이오 등 산업 현장 공략에 나선다. 지난달 29일 모델을 공개한 데 이어 4일 회사 뉴스룸 인터뷰를 통해 세부 전략을 밝혔다. 단순 질의응답을 넘어 스스로 계획을 세우고 도구를 활용해 업무를 수행하는 '에이전틱 AI'를 구현해 한국형 소버린 AI 생태계를 만들겠다는 구상이다. 김태윤 SK텔레콤 파운데이션모델담당은 "A.X K2의 가장 큰 변화는 '답하는 AI'에서 '스스로 계획하고 실행하는 AI'로 진화한 것"이라며 "에이전틱 시대에 맞춰 추론 능력을 크게 강화했고 특히 수학과 한국어 영역에서 의미 있는 성과를 냈다"고 말했다. ◆ 매개변수 6880억개, 추론엔 330억개만 활성화 A.X K2는 매개변수 6880억개 규모의 초거대언어모델(LLM)이다. 직전 모델인 519B 규모 A.X K1보다 커졌지만 추론 과정에서는 330억개(33B)만 활성화하는 MoE 구조를 적용해 추론 비용은 기존 수준으로 유지했다. 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2%포인트, 장문 이해와 AI 에이전트 평가에서는 83.9%포인트 개선됐다. 초고난도 수학 벤치마크 'Apex' 점수는 1.0에서 45.8로 뛰었고 AIME26에서는 97.1점을 기록했다. 한국어 지식 평가(KMMLU-Pro) 80.5점, 한국 문화 이해(CLIcK) 91.6점을 냈고 통신 분야 에이전트 도구 활용을 재는 τ²-Bench Telecom에서는 오픈웨이트 모델 가운데 최고 성능을 기록했다고 회사는 설명했다. 핵심 기술은 SK텔레콤이 자체 개발한 SGA(Sparse Gated Attention)다. 여러 차례 대화와 도구 호출, 긴 문서 참조를 반복하는 AI 에이전트 특성상 긴 문맥 처리 효율이 중요한데 SGA는 입력이 길어질수록 처리 속도와 안정성이 오르도록 설계됐다. 120K 토큰 입력 기준 토큰 처리량은 A.X K1 대비 67.7% 개선됐다. 텍스트 모델 외에 제조 도면과 문서를 이해하는 비전언어모델 'A.X K2 VL', 상담·회의 음성을 분석하는 'A.X K2 ALM', 크래프톤과 공동 개발한 음성 모델 'A.X K2 라온스피치'도 함께 공개해 멀티모달 구성을 갖췄다. 산업 현장 적용도 본격화하고 있다. KG스틸, 자동차 부품업체 코넥과는 생산 라인의 과거 불량 사례를 학습해 원인을 분석하고 조치를 제안하는 제조 특화 AI 에이전트를 실증 중이다. SK하이닉스에는 사내 AI 서비스 'LLM Chat'에 경량 모델을 적용해 반도체 지식 검색과 정보 정리를 지원한다. 국방부에는 A.X K1을 FP8·FP4·INT4로 양자화해 공급했고 A.X K2도 온프레미스 기반 폐쇄망 환경에 제공할 계획이다. 민감한 데이터는 외부 학습에 쓰지 않고 기관 내부에서만 학습하도록 했다. 김 담당은 "국내 업무 환경에서는 언어뿐 아니라 제도와 문화적 맥락을 이해하는 것이 중요하다"며 "국내 기업과 공공기관이 안심하고 활용할 수 있는 소버린 AI를 구현하는 것이 목표"라고 설명했다. ◆ 허깅페이스 공개하며 조단위 후속모델 준비 SK텔레콤은 A.X K2를 허깅페이스에 Apache 2.0 라이선스로 공개하고 API도 제공할 예정이다. 스타트업 액셀러레이팅 프로그램 '스케치 with AI', '모두의 챌린지 AX-LLM'을 통해 개발자와 스타트업의 상업적 활용 생태계도 넓힌다. 앞서 A.X K1은 정부 지원 없이 상시 1000개 이상의 자체 GPU로 개발됐다. 이번에 예고한 조(兆) 단위 매개변수 후속 모델은 정부 GPU 인프라와 자체 투자를 함께 활용해 규모를 키우고 에이전틱 강화학습과 사이버보안 역량도 고도화한다는 계획이다. 서울대, KAIST, 크래프톤과 차세대 아키텍처 연구도 병행하고 독자 AI 파운데이션 모델(독파모) 컨소시엄 참여사인 리벨리온과는 국산 NPU 기반 모델 서빙 최적화와 상용 서비스 실증을 강화한다. 리벨리온은 앞서 자체 NPU '리벨카드' 단일 서버로 A.X K1 구동에 성공한 바 있다. 한편 회사가 제시한 벤치마크 수치는 자체 측정 결과이며 독립 기관의 검증을 거친 값은 아니다. 오픈소스로 공개돼 외부 개발자들이 성능을 검증할 여지는 있지만 남은 과제는 이 수치가 실제 제조·국방·바이오 현장에서 상업적 계약과 매출로 이어지느냐다. 김 담당은 "A.X K2는 한국이 설계부터 학습까지 자체 기술로 개발한 AI 모델이 글로벌 최고 수준에 도달할 수 있다는 가능성을 보여준 사례"라며 "개방과 협력을 통해 국내 AI 생태계의 기반을 만들고 산업 현장과 국민이 체감할 수 있는 AI 서비스를 확대해 나가겠다"고 말했다.
2026-08-04 10:10:29
-
KT, AI 스타트업 발굴 확대…'K-PATH 2026'으로 AX 생태계 키운다
[경제일보] KT가 인공지능(AI) 스타트업 발굴 프로그램을 확대 개편하며 기업 고객 대상 AX(인공지능 전환) 사업 생태계 강화에 나선다. 자체 AI 역량만으로는 빠르게 변화하는 시장 수요를 모두 대응하기 어려운 만큼 유망 스타트업과 협력을 확대해 AX 사업 경쟁력을 높이려는 전략으로 풀이된다. 22일 KT는 AI 스타트업 오픈 이노베이션 프로그램 'K-PATH 2026' 참가 기업 모집을 시작했다고 밝혔다. 'K-PATH'는 AI 기술력을 보유한 스타트업을 발굴해 KT의 AX 사업 파트너로 육성하고 공동 프로젝트와 사업화를 지원하는 프로그램이다. 단순 투자나 육성에 그치지 않고 실제 고객 프로젝트 수행과 사업 협력을 통해 상용화 기회를 확대하는 것이 특징이다. 이번 프로그램은 지난 2024년 시작한 'KPAS(코리아 유망 AI 스타트업)'를 개편한 것이다. KT는 유망 AI 기업과 함께 성장 경로를 만들어간다는 의미를 담아 프로그램 명칭을 K-PATH로 변경하고 지원 범위도 확대했다. 최근 기업 시장에서는 생성형 AI를 비롯한 다양한 AI 기술 도입 수요가 빠르게 증가하고 있다. 금융과 제조, 교육, 공공 등 산업 전반에서 업무 자동화와 생산성 향상을 위한 AX 프로젝트가 확대되면서 관련 기술을 보유한 스타트업에 대한 관심도 높아지고 있는 것으로 알려졌다. 다만 개별 스타트업이 대기업이나 공공기관 고객을 확보하고 실제 사업으로 연결하기에는 한계가 있다는 지적이 꾸준히 제기돼 왔다. 기술력은 갖추고 있어도 레퍼런스 확보와 영업 네트워크, 사업화 역량 부족으로 성장에 어려움을 겪는 경우가 적지 않기 때문이다. 이에 KT는 스타트업과 고객을 연결하는 개방형 협력 체계를 확대하고 있다. 앞서 KT는 KPAS 프로그램을 통해 올거나이즈와 인핸스, 랭코드, 셀렉트스타 등 AI 기업들을 발굴하며 협력 관계를 구축해 온 바 있다. 이번 K-PATH 2026에서는 AI 에이전트 플랫폼·엔터프라이즈 AI, 데이터·데이터 for AI, 피지컬 AI·로보틱스, AI 인프라·파운데이션 모델 등 핵심 기술 분야 기업을 모집한다. 또한 금융과 제조, 교육, 공공 분야에서 AI 혁신을 추진하는 기업도 선발 대상에 포함된다. 선정 기업은 KT의 AX 사업 파트너 플랫폼에 참여해 다양한 사업 조직과 협업하며 공동 사업 기회를 모색할 전망이다. 실제 고객 프로젝트 수행을 비롯해 기술 검증(PoC), 연구개발(R&D) 연계, 시장 진출(GTM) 지원, 투자 연계, 네트워킹 프로그램, 국내외 전시회 및 컨퍼런스 참가 지원 등도 제공받는다. KT는 최대 20개 기업을 선발할 예정이다. 접수는 다음 달 12일까지 진행되며 서류 심사와 발표 평가를 거쳐 오는 8월 초 최종 선정 기업을 발표한다. 생성형 AI와 AI 에이전트 시장이 빠르게 성장하면서 기술 개발 속도와 사업화 역량을 동시에 확보하기 위한 개방형 혁신 전략이 확산되고 있고, 이에 KT는 AICT 기업 전환 전략 아래 AI와 클라우드, 데이터 사업 확대에 집중하고 있다. 이번 프로그램을 통해 KT는 외부 혁신 기업과의 협력을 통해 AX 사업 포트폴리오를 확대하고 산업별 AI 시장 공략을 강화할 것으로 분석된다. 박상원 KT AX사업부문장 전무는 "K-PATH는 단순히 스타트업 지원 프로그램을 넘어 KT의 미래 AX 사업을 함께 만들어갈 핵심 파트너를 발굴하는 플랫폼"이라며 "혁신적인 AI 스타트업과의 견고한 협력을 통해 고객의 AX 혁신을 가속화하고 새로운 비즈니스 기회를 창출해 나가겠다"고 말했다.
2026-06-22 16:52:23
-
-