2026.09.22 화요일
검색
'레드티밍' 검색결과
기간검색
-
~
검색영역
검색어
-
SKT '모두의 AI' 20개사 출범…정부24 서류·병원 예약 한곳서 [경제일보] SK텔레콤이 금융·교육·헬스케어 등 8개 분야 기업·기관과 ‘모두의 AI’ 컨소시엄을 출범시켰다. 정보를 찾아주는 챗봇에서 나아가 본인 확인과 행정 신청, 결제, 병원 예약까지 처리하는 실행형 인공지능(AI) 서비스를 개발한다. SK텔레콤은 지난 9일 서울 중구 T타워에서 컨소시엄 출범식을 열고 참여사별 역할과 서비스 개발 방향을 공유했다고 10일 밝혔다. 컨소시엄에는 SK텔레콤을 포함해 20개 기업·기관이 참여한다. 별도로 11개 기업·기관과 업무협약을 맺어 협력 대상은 모두 31곳이다. 컨소시엄은 △금융·결제 △소상공인 △공공·헬스케어 △돌봄·복지 △투자·벤처 △교육·미래세대 △AI 기술·보안 △생활서비스 등 8개 분야로 구성됐다. 금융·결제 분야에는 신한카드·하나카드·해빗팩토리가 참여해 대화형 결제와 마이데이터 기반 자산관리 서비스를 개발한다. 라이너와 엘리스그룹은 취업 준비와 AI 교육을 지원한다. 채널코퍼레이션·알프레드·한국세무사회전산법인은 소상공인의 고객 상담과 세무·경리 업무를 맡는다. 공공·헬스케어 분야에서는 페르소나에이아이가 행정 서비스를, 굿닥이 병원 검색과 예약을 담당한다. 사운더블헬스코리아는 의료진의 검증을 거친 건강정보를 제공하고 기침·배뇨 소리 등을 분석하는 기술의 연계 가능성을 검토한다. 독거노인종합지원센터는 전국 680여개 수행기관과 어르신 안부 확인 및 생활 안전 점검에 참여한다. SK텔레콤은 컨소시엄의 모델과 서비스를 조율하는 ‘AI 오케스트레이터’를 맡는다. 이용자의 요청을 분석해 자체 개발한 ‘A.X K2’를 비롯한 국산 AI 모델 가운데 적합한 모델을 고르고 해당 분야 참여사의 서비스를 연결하는 역할이다. 공공서비스는 정부24와 PASS를 연계해 주민등록표등본 등 증명서 83종을 발급받도록 하는 방안을 추진한다. 이용자가 이사를 앞두고 필요한 절차를 물으면 전입신고와 주거지원, 자녀 학교 배정 정보를 안내한 뒤 본인 동의와 인증을 거쳐 신청으로 연결하는 방식이다. 금융정보와 건강기록을 다루는 기능에는 이용자의 확인과 승인 절차를 적용하고 개인정보 사용을 최소화한다는 게 SK텔레콤의 설명이다. 에임인텔리전스는 공격 상황을 가정해 취약점을 찾는 ‘AI 레드티밍’을 담당하고 셀렉트스타는 모델과 에이전트의 평가용 데이터 구축 및 품질 검증을 맡는다. 유경상 SK텔레콤 AI CIC장은 “이번 모두의 AI 사업 선정은 SK텔레콤 한 회사가 아닌 참여 기업·기관 전체의 역량으로 이룬 결과”라며 “각 기업의 역량이 하나의 서비스로 구현되도록 역할을 다하겠다”고 말했다. 김지훈 SK텔레콤 AI사업본부장은 “이용자의 상황에 맞춘 답변과 후속 조치까지 수행하는 엔드 투 엔드 실행형 에이전트를 목표로 한다”며 “단순 챗봇을 넘어 국민의 일상을 돕는 서비스를 선보이겠다”고 밝혔다. 한편 모두의 AI 사업에는 SK텔레콤과 카카오, KT가 이끄는 3개 컨소시엄이 참여한다. 정부는 올해 엔비디아 B200 그래픽처리장치(GPU) 512장을 지원한다. SK텔레콤 컨소시엄은 10월 베타 서비스를 거쳐 연내 정식 서비스를 출시할 계획이다.2026-09-10 16:43:57
-
SKT 'A.X K2' 3단계행…셀렉트스타, AI 데이터 품질 검증 고도화 나선다 [경제일보] 정부의 '독자 AI 파운데이션 모델' 프로젝트 2차 평가에서 SK텔레콤 컨소시엄이 3단계에 진출한 가운데 컨소시엄의 데이터 부문을 맡은 셀렉트스타의 역할도 확대되고 있다. 인공지능(AI) 모델의 성능 경쟁이 고도화하면서 학습 데이터의 품질과 안전성을 관리하는 역량이 독자 AI 모델 경쟁력의 주요 요소로 부상하고 있는 것으로 분석된다. 18일 셀렉트스타가 참여한 SK텔레콤 컨소시엄은 과학기술정보통신부가 추진하는 '독자 AI 파운데이션 모델' 프로젝트 2차 평가를 통과해 3개 정예팀 가운데 하나로 선정됐다. 이번 평가에서는 SK텔레콤의 'A.X K2'를 비롯해 업스테이지 '솔라 오픈 2', LG AI연구원 'K-엑사원 2.0'이 3단계 개발을 이어가게 됐다. 이번 프로젝트는 글로벌 AI 모델과 경쟁할 수 있는 국내 독자 AI 파운데이션 모델을 확보하기 위해 정부가 추진하는 국가 사업이다. 2차 평가는 벤치마크와 전문가 평가, 사용자 평가 등을 종합해 후속 개발팀을 가리는 방식으로 진행됐다. SK텔레콤 컨소시엄은 SK텔레콤을 중심으로 셀렉트스타, 크래프톤, 포티투닷, 리벨리온, 라이너, SK AX, 테크노매트릭스 등 기업과 서울대, KAIST 등 학계가 참여하고 있다. SK텔레콤 컨소시엄에서 셀렉트스타는 모델 개발에 필요한 학습 데이터의 품질 관리와 검수를 담당했다. 단순히 데이터를 구축해 공급하는 역할에서 나아가 여러 참여 기관에서 생성·구축한 데이터를 동일한 기준으로 검증하고 관리하는 역할을 맡았다. 셀렉트스타는 1차 단계에서 대규모 학습 데이터를 구축하고 품질을 검증해 SK텔레콤의 'A.X K1' 성능과 신뢰성 향상을 지원한 것에 이어 2차 단계에서는 컨소시엄 내 여러 기관이 생산한 데이터를 통합 관리하는 데 초점을 맞춰 품질을 검수했다. 최근 AI 모델의 성능이 학습 데이터의 양뿐 아니라 데이터의 정확성과 일관성에 영향을 받는 만큼 데이터 품질 관리의 중요성도 커지고 있다. 특히 여러 기관이 하나의 컨소시엄을 구성해 모델을 개발할 경우 기관마다 데이터 생성 방식이나 검수 기준이 달라질 수 있어 이를 통합하는 관리 체계가 필요한 것으로 꼽힌다. 셀렉트스타는 2차 단계에서 모델 개발 과정에 필요한 데이터 품질 기준을 별도로 수립하고 세부 항목을 검증했다. 질문과 답변이 적절하게 구성됐는지를 확인하는 '질의·응답 적정성', 이미지와 질문·답변의 내용이 일치하는지를 살펴보는 'VQA(시각 질의응답) 적정성', 문장의 형식과 구조 등을 확인하는 '구문 정확성' 등이 검수 대상에 포함됐다. 특히 2차 단계에서는 1차보다 강화된 데이터 품질 기준이 적용되면서 여러 참여 기관이 구축한 데이터를 일관된 기준으로 검증하는 작업의 중요성이 커졌다. 이에 셀렉트스타는 데이터 품질 관리 프로세스를 고도화해 기관별 데이터의 품질 편차를 줄이고 사후 학습에 활용되는 데이터의 완성도를 높이는 데 주력했다. AI 안전성 확보를 위한 데이터 검수도 진행했다. 모델이 실제 서비스에 활용되는 과정에서 유해하거나 편향된 결과를 내놓는 것을 줄이기 위해 레드티밍 학습용 데이터셋의 품질을 점검했다. 레드티밍은 AI 모델에 의도적으로 취약점을 공격하거나 문제가 발생할 수 있는 질문을 제시해 모델의 위험 요소를 확인하는 방식이다. 셀렉트스타는 자체 AI 신뢰성 평가 플랫폼인 '다투모 플랫폼'과 산업·공공 분야에서 축적한 레드티밍 경험 등을 활용해 데이터 품질과 안전성 검증을 진행했다고 설명했다. AI 모델의 파라미터 규모나 벤치마크 성능뿐 아니라 어떤 데이터를 어떤 기준으로 학습시킨 것인지를 검증해 실제 서비스 경쟁력을 향상시킨 것으로 평가된다. 특히 3단계에 진입한 모델들이 향후 산업과 실생활에서 활용될 수 있는 수준으로 고도화될 경우 데이터 품질 관리와 안전성 검증에 대한 요구도 더욱 커질 전망이다. 연구·개발 단계에서 확보한 모델 성능을 실제 서비스로 연결하기 위해서는 데이터의 정확성과 안정성, 개인정보 및 편향 문제 등을 지속적으로 관리해야 하기 때문이다. 김세엽 셀렉트스타 대표는 "이번 2차 평가 통과는 SKT 컨소시엄 참여기관들이 각자의 영역에서 역량을 모아온 결과"라며 "셀렉트스타도 데이터 총괄 파트너로서 축적해 온 데이터 구축·품질 관리 역량을 바탕으로 모델 고도화를 안정적으로 지원해 나가겠다"고 말했다. 이어 "이번 프로젝트의 기술과 데이터 성과가 특정 기업에 머무르지 않고 국내 AI 생태계가 폭넓게 활용할 수 있는 결과물로 이어질 수 있도록 데이터와 신뢰성 평가 기술을 지속적으로 고도화하겠다"고 강조했다.2026-08-18 14:08:11
-
"AI도 해킹 표적 된다"…S2W, AI 취약점 진단 시장 공략 [경제일보] 기업들의 생성형 인공지능(AI) 도입이 본격화되며 AI가 직접 업무를 수행하는 '에이전틱 AI' 시대가 열리면서 AI 자체를 겨냥한 새로운 보안 위협이 빠르게 증가하고 있다. 프롬프트 인젝션과 데이터 탈취, 권한 오남용 등 기존 보안 체계만으로 대응하기 어려운 공격 기법이 등장하는 가운데, AI 서비스를 공격자의 관점에서 점검하는 'AI 레드티밍'과 취약점 진단 시장도 확대되고 있다. 30일 빅데이터 분석 AI 기업 S2W는 기업의 안전한 AI 도입과 활용을 지원하기 위해 AI 서비스 취약점 진단 사업을 본격 확대한다고 밝혔다. S2W는 이번 사업이 대규모 언어모델(LLM)과 AI 에이전트를 활용한 서비스가 빠르게 확산되는 상황에서 기업들이 AI 서비스에 대한 보안성을 사전에 검증하고 잠재적 위험을 최소화할 수 있도록 지원하기 위해 마련됐다고 설명했다. 최근 금융과 제조, 공공 분야를 중심으로 생성형 AI 도입이 확대되면서 AI가 기업의 핵심 업무 시스템과 연계되는 사례가 늘어나고 있지만, AI 특성을 고려한 보안 점검 체계는 아직 초기 단계에 머물러 있다는 것이다. 특히 AI 서비스는 기존 정보기술(IT) 시스템과 달리 프롬프트 조작을 통한 정보 유출과 권한 탈취, 악성 데이터 입력을 통한 오작동 유발 등 새로운 유형의 보안 위협에 노출돼 있다. AI 에이전트가 외부 서비스와 연동해 자율적으로 업무를 수행하는 사례가 늘어나면서 AI 보안의 중요성 역시 더욱 커지고 있다. 실제로 최근 정부도 AI 보안 체계 마련에 속도를 내고 있다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 최근 'AI 보안 레드티밍 가이드'를 발간하고 공격자 관점에서 AI 서비스의 보안성을 점검하기 위한 절차와 방법론을 제시했다. AI 도입이 기업 경쟁력과 직결되는 시대가 도래하면서 사전 보안 검증의 필요성이 커지고 있다는 분석이다. S2W는 해당 흐름에 맞춰 공격자의 시각에서 AI 서비스의 잠재적 취약점을 진단하는 AI 서비스 취약점 진단 사업을 확대한다. 다크웹과 텔레그램, 해킹 포럼 등에서 수집한 실제 LLM 공격 기법을 점검 과정에 즉시 적용할 수 있는 오펜시브 보안 역량을 기반으로 AI 서비스 전반의 보안성을 검증한다는 계획이다. 특히 S2W는 국제 비영리 보안 단체인 OWASP가 제정한 'OWASP Top 10 for LLM'을 기본 기준으로 활용하고, 산업별 특수성을 고려한 추가 점검 항목을 적용해 도메인 적합성을 높였다고 설명했다. 이를 통해 모델과 프롬프트, 데이터, AI 에이전트 등 AI 서비스를 구성하는 다양한 요소에 내재된 취약점을 정밀 진단하고 공격자의 악용 가능성을 다면적으로 검증할 예정이다. 기업들이 AI를 핵심 업무 시스템과 연계하는 사례가 늘어나면서 AI 서비스에 대한 보안 요구 수준도 높아지고 있다. 생성형 AI가 단순 질의응답을 넘어 업무 자동화와 의사결정 지원 역할까지 수행하게 되면서 서비스 도입 이전 단계부터 취약점을 점검하려는 수요 역시 증가하는 추세다. AI 보안 시장이 기존 정보보안의 하위 영역이 아닌 독립적인 시장으로 성장하고 있다는 평가가 나오는 이유다. S2W는 AI 서비스 취약점 진단 사업 개시와 동시에 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업도 수주했다. 금융권의 엄격한 보안 기준과 규제 환경을 고려한 취약점 진단을 수행 중이며, 향후 제조와 공공 등 다양한 산업 분야로 사업 영역을 확대할 계획이다. 또한 각 산업별 AI 활용 방식과 서비스 구조, 보안 요구사항 등을 종합적으로 반영한 맞춤형 취약점 진단 서비스를 제공하고, 자체 개발한 AI 기반 점검 도구와 오펜시브 보안 전문가들의 노하우를 결합해 AI 서비스의 안전한 도입을 지원한다는 방침이다. 양종헌 S2W 통합분석실장은 "AI 서비스의 잠재적 위험을 사전에 찾아내기 위해서는 AI를 활용한 정교한 점검과 공격자 관점의 전문적인 검증이 함께 이뤄져야 한다"며 "S2W는 자체 개발한 AI 기반 도구에 오펜시브 보안 전문가의 노하우를 결합해 기업이 AI 서비스를 보다 안전하게 도입하고 운영할 수 있도록 실효성 높은 진단 서비스를 제공하고 있다"고 말했다.2026-07-30 14:51:19
-
팀네이버, AI 취약점 찾는 기술로 ICML 상위 2.2%…'서울 월드모델'도 공개 [경제일보] 네이버가 인공지능(AI) 모델을 공격자의 시각에서 검증하는 레드티밍 기술로 세계 3대 AI 학회에서 상위권 평가를 받았다. 여러 AI의 협업 순서를 자동 설계하는 기술부터 서울을 가상공간에 재현한 월드모델까지 공개하며 검색을 넘어 피지컬 AI로 연구 범위를 넓혔다. 팀네이버는 지난 6일부터 11일까지 서울 코엑스에서 열린 국제머신러닝학회 ‘ICML 2026’에 참가해 논문 6편과 실서비스 적용 사례를 발표했다고 13일 밝혔다. ICML은 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR)와 함께 세계 3대 AI·머신러닝 학회로 꼽힌다. 올해 처음 한국에서 개최됐다. ◆ AI가 위험한 답을 하도록 공격…배포 전 취약점 찾는다 가장 높은 평가를 받은 연구는 ‘스테이블 지플로우넷’이다. 대형언어모델(LLM)이 유해하거나 위험한 답변을 내놓도록 유도하는 공격 문장을 자동으로 생성해 취약점을 찾는 레드티밍 기술이다. 네이버에 따르면 해당 논문은 전체 채택 논문 중 상위 약 2.2%에 해당하는 ‘스포트라이트’에 선정됐다. 기존 생성흐름네트워크(GFlowNet) 기반 레드티밍은 학습이 불안정하거나 비슷한 공격 패턴만 반복하는 ‘모드 붕괴’ 문제가 있었다. 연구팀은 공격 문장끼리의 비교 학습과 불안정한 평가값을 걸러내는 방식을 적용해 공격 성공률과 다양성을 함께 높였다. 이 기술은 AI 서비스 출시 전 정상적인 성능만 시험하는 대신 악의적인 이용자가 안전장치를 우회하는 상황까지 점검하는 데 활용할 수 있다. 다만 실험에서 높은 공격 성능을 보였다는 사실이 모든 실제 서비스의 취약점을 찾아낼 수 있다는 의미는 아니다. 모델과 운영 환경에 따른 추가 검증이 필요하다. AI 모델의 개발·운영 비용을 줄이기 위한 연구도 발표됐다. ‘시머지’는 서로 다른 업무에 특화된 모델을 하나로 합칠 때 전체 구조를 다시 학습하지 않고 단일 레이어만 조정하는 병합 기술이다. 연구진은 비전과 자연어처리 벤치마크에서 기존 모델 병합 방식보다 경쟁력 있는 성능을 확인했다고 설명했다. ‘플로우봇’은 여러 AI 에이전트가 문제를 해결할 때 필요한 작업 순서를 자동으로 탐색한다. 사람이 도구 호출 순서와 업무 흐름을 일일이 설계하는 부담을 줄여 에이전트 개발 속도와 운영 효율을 높이는 기술이다. 수백∼수천개 데이터셋을 특성별로 나눠 학습한 뒤 한 차례 병합하는 연구도 공개됐다. 성격이 다른 데이터를 한꺼번에 학습할 때 발생하는 성능 충돌을 줄이면서 LLM 후공정 비용을 낮추는 데 초점을 맞췄다. ◆ 서울을 로봇 훈련장으로…피지컬 AI 연결 현실 공간을 이해하는 연구도 주요 축이었다. 네이버는 흔들리거나 초점이 흐린 단일 카메라 영상에서 물체의 이동 궤적과 형태를 분리해 움직이는 3차원 장면을 복원하는 기술을 발표했다. 자율주행과 로봇이 동적인 환경을 파악하는 데 활용할 수 있다. 네이버·네이버랩스와 KAIST, 서울대가 공동 개발한 ‘서울 월드모델’도 소개했다. 서울 전역의 공간 데이터를 가상 환경으로 구현해 로봇이 실제 도시에 투입되기 전 이동 경로와 행동을 반복 학습하도록 하는 플랫폼이다. 팀네이버가 이번 학회에서 강조한 것은 개별 논문 수보다 연구의 연결 구조다. AI 모델을 개발한 뒤 안전성을 검증하고 여러 모델과 에이전트를 효율적으로 운영한 다음 로봇이 움직이는 현실 공간까지 적용하겠다는 것이다. 향후 연구 성과가 검색과 지도, 쇼핑, 로봇 등 실제 서비스의 성능과 비용 개선으로 이어지는지가 ‘AI 풀스택’ 전략을 평가할 기준이 될 전망이다.2026-07-13 11:51:59
-
제15회 정보보호의 날 개최…AI가 커질수록 보안도 국가경쟁력 [경제일보] 정부가 인공지능(AI) 시대 정보보호 경쟁력 강화를 국가 과제로 내세웠다. AI가 행정과 금융, 산업 현장으로 빠르게 확산되는 만큼 보안 역량이 디지털 경제의 안전판이자 산업 경쟁력이라는 판단이다. 과학기술정보통신부는 국가정보원, 행정안전부 등 관계부처와 함께 8일 서울 신라호텔에서 ‘제15회 정보보호의 날’ 기념식을 개최했다. 올해 행사는 ‘안전한 AI 시대, 대한민국이 앞서갑니다’를 주제로 열렸다. AI 시대 정보보호의 중요성을 되새기고 안전한 AI 사회 구현을 위한 정책 방향을 공유하는 자리다. 이재명 대통령은 대독축사를 통해 “인공지능이 우리 사회 전반으로 빠르게 확산되면서 정보보호의 중요성이 그 어느 때보다 커지고 있다”고 밝혔다. 이어 “범부처 협력체계를 확대해 새로운 위협에 신속히 대응하고 AI 기반 보안 기술과 산업 생태계를 적극 육성하겠다”고 강조했다. 이번 메시지는 AI 확산에 따른 보안 위협의 성격이 달라지고 있다는 인식을 반영한다. 기업과 공공기관은 생성형 AI를 문서 작성, 상담, 코드 개발, 데이터 분석에 활용하고 있다. 동시에 프롬프트 인젝션, 데이터 유출, 모델 오용, 공급망 공격 등 기존 보안 체계로 대응하기 어려운 위험도 커지고 있다. 정부는 정보보호를 규제나 사고 대응 차원이 아니라 산업 육성의 축으로 보고 있다. AI 기반 보안 기술, 위협 탐지, 레드팀, 취약점 점검, 보안 인재 양성이 함께 커져야 안전한 AI 활용 환경이 만들어진다는 판단이다. 앞서 과기정통부와 한국인터넷진흥원은 AI 보안 위협 대응 매뉴얼과 AI 보안 레드티밍 가이드를 발간하며 현장 대응 기준도 제시했다. 이날 기념식에서는 정보보호 발전에 기여한 유공자 35명에 대한 정부 포상도 진행됐다. 이동범 지니언스 대표이사는 국산 보안 기술을 통해 국가 주요 시설 보안 강화와 산업 발전에 기여한 공로로 국민훈장 석류장을 받았다. 김용대 한국과학기술원 교수는 이동통신·사이버물리 보안 연구와 표준·정책 개선 공로로 국민포장을 수상했다. 하재철 호서대학교 교수는 암호용 하드웨어 연구개발과 핵심 원천기술 확보에 기여한 공로로 근정포장을 받았다. 이철호 엔플러스랩 대표이사, 임채식 세종특별자치시 사무관, 황정현 아이닉스 대표이사는 대통령 표창을 받았다. 국무총리 표창 5점도 정보보호 분야 유공자에게 수여됐다. 정부는 7월 한 달을 ‘정보보호의 달’로 지정하고 산·학·연이 참여하는 행사를 이어간다. 정보보호의 날 기념식을 시작으로 AI 보안 레드팀 및 보안취약점 신고·조치·공개 제도 심포지엄, 국제 사이버보안 협력 네트워크(CAMP) 연례회의, 2026 핵테온 세종, 주요정보통신기반시설 보호 워크숍, 정보보호 루키 밋업데이, 코드게이트 해킹방어대회 등이 순차적으로 열린다.2026-07-08 14:20:57
-
AI도 해킹당한다…정부, 프롬프트 공격 막는 보안 매뉴얼 냈다 [경제일보] 정부가 인공지능(AI) 서비스 보안 위협에 대응하기 위한 실무 매뉴얼을 내놨다. AI가 금융, 의료, 공공, 제조, 통신 등 주요 산업으로 빠르게 확산되면서 프롬프트 인젝션과 권한 오남용, 데이터 유출 같은 새로운 공격에 대응할 기준이 필요해졌기 때문이다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’를 발간했다고 8일 밝혔다. 두 자료는 AI 환경에서 발생할 수 있는 주요 보안 위협을 분류하고 산업 현장에서 활용할 수 있는 점검·대응 절차를 제시하는 데 초점을 맞췄다. AI 보안 위협은 기존 정보보호 체계만으로 충분히 막기 어렵다. 공격자가 AI 모델에 악성 명령을 숨겨 원하는 답변을 유도하는 프롬프트 인젝션, 에이전트 권한을 악용한 데이터 접근, 학습 데이터 유출, 외부 모델과 플러그인 공급망 공격 등이 대표적이다. AI가 스스로 도구를 호출하고 업무를 수행하는 에이전트 형태로 발전할수록 공격 표면도 넓어진다. ‘AI 보안 위협 대응 매뉴얼’은 AI 보안 위험을 데이터, 모델, 에이전트, 공급망, 고성능 모델 등 5개 영역으로 나눴다. 각 영역별 진단 지표를 제시하고 금융, 의료, 공공·행정, 교육, 제조·에너지, 통신, 법률, IT 등 8개 분야별 위협 시나리오와 대응 방안도 담았다. 경영진과 실무자의 활용 방식도 구분했다. 최고경영자 등 C레벨에는 AI 보안 위협의 종류와 실제 사례를 쉽게 설명하고, 보안 담당자와 IT 운영자에게는 위협을 어떻게 진단하고 어떤 기준으로 대응할지 안내한다. AI 도입이 기술 부서만의 일이 아니라 경영 리스크 관리로 옮겨가고 있다는 점을 반영한 구성이다. 함께 발간된 ‘AI 보안 레드티밍 가이드’는 기업 내부에서 AI 보안 점검을 직접 수행해야 하는 실무진을 위한 안내서다. 레드팀은 공격자 관점에서 시스템을 시험해 취약점을 찾아내는 조직이다. 이번 가이드는 AI 레드팀을 기획하고 구성하는 단계부터 준비, 실행, 결과 보고까지 전 과정을 다룬다. 현장 활용성을 높이기 위한 부록도 포함됐다. 레드티밍 체크리스트, 점검 도구, 인력별 직무기술서가 담겼다. 정부 차원에서 여러 산업 분야에 적용 가능한 AI 보안 레드팀 운영 기준을 제시했다는 점에서 의미가 있다. 이번 가이드는 기업의 AI 도입 속도가 빨라지는 상황에서 나왔다. 생성형 AI를 고객 상담, 문서 작성, 코드 개발, 데이터 분석에 활용하는 기업이 늘고 있지만 보안 검증 체계는 아직 초기 단계인 경우가 많다. 특히 외부 AI 모델과 사내 데이터가 연결될 경우 정보 유출과 권한 관리 문제가 함께 발생할 수 있다. 임정규 과기정통부 정보보호네트워크정책관은 “AI 기술의 확산과 함께 보안 위협도 빠르게 진화하고 있다”며 “이번 가이드가 AI 서비스의 보안 수준을 높이고 현장에서 활용할 수 있는 실질적인 기준이 되기를 기대한다”고 말했다.2026-07-08 14:09:43
-
AI 성능 넘어 '안전' 경쟁...KT 클라우드·카카오 AI 세이프티 맞손 [경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 AI 성능뿐 아니라 안전성과 신뢰성을 확보하기 위한 경쟁도 본격화되고 있다. 유해 콘텐츠 생성과 개인정보 유출, 프롬프트 공격 등 새로운 보안 위협이 부상하면서 AI를 실제 서비스에 적용하기 위해서는 'AI 세이프티'가 핵심 경쟁력으로 떠오른 것으로 분석된다. 26일 KT 클라우드와 카카오는 안전한 생성형 AI 서비스 구현을 위한 AI 세이프티 협력 체계를 구축했다고 밝혔다. 양사는 KT 클라우드의 AI 인프라 플랫폼과 카카오의 AI 세이프티 기술을 결합해 공공과 민간 분야에서 신뢰할 수 있는 AI 활용 환경을 구축한다는 계획이다. 최근 생성형 AI 도입이 빠르게 늘면서 AI 서비스의 안전성 확보가 기업들의 새로운 과제로 떠오르고 있다. AI가 허위 정보를 생성하는 '환각' 현상은 물론 '프롬프트 인젝션'을 통한 악성 명령 실행, 개인정보 유출, 유해 콘텐츠 생성 등의 위험성이 실제 서비스 운영 과정에서 잇따라 제기되고 있기 때문이다. 특히 공공기관과 금융권, 대기업을 중심으로 AI 도입이 확대되면서 모델 성능만큼 보안성과 신뢰성, 규제 대응 능력을 함께 검증하려는 움직임도 강화되고 있다. AI를 업무 시스템과 연계하는 기업이 늘어날수록 안전성을 확보할 수 있는 운영 체계가 필수 요소로 자리 잡고 있는 것이다. 이에 양사는 AI 서비스 개발부터 운영까지 전 과정에서 활용할 수 있는 AI 세이프티 기술 고도화에 나선다. 협력의 첫 단계로 KT 클라우드는 지난 4월 공개한 공공기관 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 적용할 예정이다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경을 반영해 개발된 AI 세이프티 모델이다. 생성형 AI가 부적절하거나 유해한 답변을 생성하는 것을 방지하고 프롬프트 공격이나 정책 위반 가능성을 탐지하는 역할을 수행한다. 현재 카카오의 주요 AI 서비스에도 적용되고 있다. 양사는 가드레일 기술 적용을 시작으로 AI 모델 안전성 평가 시스템과 다양한 공격 시나리오를 기반으로 취약점을 점검하는 '레드티밍' 시스템도 단계적으로 제공할 계획이다. AI 모델이 실제 서비스 환경에서 예상하지 못한 공격이나 악용 시도에 얼마나 안정적으로 대응하는지를 검증하는 체계까지 함께 구축한다는 구상이다. 향후에는 AI 세이프티 도구를 통합 관리하는 운영 플랫폼 구축으로 협력을 확대한다. KT 클라우드 환경에서 축적되는 운영 데이터와 고객 피드백을 기반으로 AI 안전성 관리 기능을 고도화하고, 생성형 AI 서비스의 개발과 배포, 운영, 모니터링까지 아우르는 통합 운영 체계를 마련할 계획이다. IT 업계에서는 AI 시장 경쟁이 모델 성능 중심에서 안전성과 신뢰성을 확보하는 방향으로 빠르게 이동하고 있는 것으로 전망한다. 생성형 AI 기술이 기업 핵심 업무에 적용될수록 모델의 정확도뿐 아니라 보안과 컴플라이언스, 운영 안정성 확보 여부가 AI 도입을 결정하는 핵심 요소로 자리 잡고 있기 때문이다. 이에 AI 가드레일과 레드티밍, 모델 평가 체계 등 AI 세이프티 기술도 AI 인프라의 필수 요소로 부상하고 있는 것으로 평가된다. KT 클라우드와 카카오는 이번 협력을 계기로 공공기관과 금융권을 비롯한 다양한 산업 분야에서 신뢰할 수 있는 생성형 AI 서비스 구축을 지원하는 한편, 국내 AI 생태계 전반의 안전성 확보에도 기여한다는 방침이다. 김봉균 KT 클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다. 김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT 클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.2026-06-26 10:15:27
-
네이버 첫 '시큐리티 세미나' 개최… AI 시대 보안 기술 및 노하우 공유 [경제일보] 인공지능(AI)이 일상과 산업의 문법을 재편하는 시대에 기술의 화려함 뒤에는 언제나 그림자가 존재한다. 더 정교해진 피싱과 대규모 언어모델(LLM)을 겨냥한 새로운 공격 기법은 이제 기업에 선택이 아닌 생존의 문제를 던진다. 네이버(대표 최수연)가 30일 경기도 성남시 그린팩토리에서 개최한 ‘네이버 시큐리티 세미나’는 이러한 시대적 요구에 응답하며 자사가 축적한 보안 지능을 외부와 공유하는 지식의 장으로 꾸며졌다. 이번 세미나는 팀네이버의 보안 기술력을 단순히 자랑하는 자리가 아니라 진화하는 보안 위협에 맞서 생태계 전체의 면역력을 높이려는 시도라는 점에서 의미가 깊다. 특히 거대언어모델을 안전하게 구축하기 위한 ‘AI 레드티밍(Red-teaming)’ 전략이 핵심 의제로 다뤄졌다. 레드티밍은 서비스의 취약점을 발견하기 위해 의도적으로 공격을 시도하는 활동으로 AI가 내놓는 답변의 신뢰성과 안전성을 담보하는 필수 과정이다. 이외에도 오프라인 결제 환경과 클라우드 인프라 운영 노하우 등 6개 세션이 이어지며 보안 실무자들에게 실전적 통찰을 제공했다. 눈에 띄는 대목은 2015년부터 이어온 ‘버그바운티(보안 취약점 신고 포상제)’ 프로그램의 성과다. 올해 처음 오프라인으로 진행된 ‘2025 네이버 버그바운티 어워드’에서는 1년간 보안 향상에 기여한 전문가들에 대한 시상이 이뤄졌다. 통계에 따르면 2025년 한 해 동안 국내외 보안 전문가 126명이 참여해 총 255건의 버그를 제보했다. 흥미로운 지점은 제보 건수가 전년 대비 13.8% 감소한 반면 제보 후 평균 조치 기간은 25일로 28.5%나 단축됐다는 사실이다. 이는 네이버 내부의 보안 품질이 상향 평준화되는 동시에 대응 조직의 기민함이 한 단계 진화했음을 시사한다. 누적 보상액 역시 3만3900달러에 달하며 보안 커뮤니티와의 건강한 공생 관계를 입증했다. 이진규 네이버 개인정보 보호책임자(CPO/DPO/CISO)는 보안이 혁신을 뒷받침하는 핵심 경쟁력이라는 점을 분명히 했다. 그는 "AI 시대에 공격 위협이 빠르게 진화하는 환경에서 팀네이버가 축적한 인사이트를 공유하고자 한다"며 글로벌 수준의 보안 경쟁력을 강화해 나가겠다는 의지를 보였다.2026-04-30 18:31:50
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 청문보고서 통과 이틀 만에 사퇴…인사검증은 어디서 멈췄나](https://image.ajunews.com/content/image/2026/09/21/20260921093552830077_518_323.png)