2026.10.09 금요일
검색
'책임 있는 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
SK쉴더스, 'AI도 직원처럼 관리한다'…제로트러스트 보안 강화 [경제일보] SK쉴더스가 인공지능(AI)을 새로운 보안 관리 대상으로 규정하고 제로트러스트 기반 AI 보안 사업을 강화한다. AI가 단순히 업무를 보조하는 수준을 넘어 기업 시스템과 데이터에 직접 접근해 업무를 수행하는 ‘비인간 주체(NHI)’로 진화하면서 기존 사람 중심의 보안 체계만으로는 새로운 위협에 대응하기 어렵다는 판단이다. SK쉴더스는 19일 자체 제로트러스트 방법론인 ‘SKZT(SK shieldus Zero Trust)’를 기반으로 AI 거버넌스와 보안 컨설팅을 제공한다고 밝혔다. 최근 기업들은 생성형 AI를 넘어 AI 에이전트를 업무에 도입하고 있다. AI가 사람의 지시에 따라 정보를 검색하는 수준을 넘어 사내 시스템에 접속하고 데이터를 분석하거나 업무를 대신 처리하는 사례가 늘면서 AI에 별도의 계정과 접근권한이 부여되는 구조가 확산되고 있다. 문제는 AI가 접근할 수 있는 권한이 커질수록 보안 사고의 파급력도 커진다는 점이다. AI 에이전트에 과도한 권한이 부여되거나 인증·권한 관리가 제대로 이뤄지지 않을 경우 중요 정보 유출이나 시스템 오남용으로 이어질 수 있다. AI가 악의적인 명령이나 조작된 데이터를 받아 정상적인 권한을 악용할 가능성도 새로운 보안 과제로 떠오르고 있다. 이에 따라 사람뿐 아니라 AI와 애플리케이션, 서비스 계정 등 비인간 주체까지 하나의 보안 관리 영역으로 포함해야 한다는 요구가 커지고 있다. SK쉴더스가 주목하는 방식은 제로트러스트다. 제로트러스트는 사용자나 기기, 시스템을 기본적으로 신뢰하지 않고 모든 접근 요청에 대해 신원과 권한을 지속적으로 확인하는 보안 모델이다. AI 역시 기업의 시스템과 데이터에 접근하는 하나의 주체인 만큼 동일한 원칙을 적용해야 한다는 것이다. SKZT는 사용자와 디바이스, 네트워크, 시스템, 애플리케이션, 데이터 등 주요 보호 대상을 식별하고 보안 수준을 진단한 뒤 중장기적인 보안 로드맵을 수립하는 SK쉴더스의 제로트러스트 컨설팅 체계다. SK쉴더스는 기존 방법론을 AI 환경까지 확대해 기업의 AI 활용 과정에서 발생할 수 있는 보안 위험을 점검한다. 구체적으로 AI가 어떤 시스템과 데이터에 접근할 수 있는지, 부여된 권한이 업무에 필요한 최소 수준인지, AI 활용 과정에서 중요 정보가 외부로 유출될 가능성은 없는지 등을 점검한다. 이를 바탕으로 AI 거버넌스와 접근권한 관리, 보안 통제 체계를 구축하고 운영 과정에서 발생할 수 있는 위험에 대한 대응 체계도 마련한다. 글로벌 보안·AI 관련 기준도 컨설팅에 반영한다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크(AI RMF), 미국 국방부의 책임 있는 AI 가이드라인(RAI), 국제표준화기구(ISO)의 AI 경영시스템 국제표준인 ISO/IEC 42001 등을 기반으로 기업이 AI 관련 위험을 체계적으로 관리하고 컴플라이언스 요구에 대응할 수 있도록 지원한다. 기술 파트너십도 확대한다. SK쉴더스는 글로벌 기술 기업들과 협력해 AI 환경에서 발생할 수 있는 위협을 탐지하고 AI의 접근권한과 데이터를 안전하게 관리할 수 있는 기술을 확보한다는 계획이다. 사업의 방향은 단순한 AI 보안 솔루션 공급에 그치지 않는다. AI 도입 전 단계에서 거버넌스를 수립하고 보안 위험을 진단한 뒤 실제 운영 과정에서 권한과 데이터를 지속적으로 관리하는 전주기 보안 체계를 제공한다는 전략이다. 이는 AI 에이전트가 기업의 업무 프로세스에 깊숙이 들어갈수록 보안 시장의 초점도 달라질 수 있다는 판단과 맞닿아 있다. 기존에는 ‘누가 시스템에 접속했는가’가 핵심이었다면 앞으로는 ‘어떤 AI가 어떤 권한으로 어떤 데이터에 접근했는가’까지 추적하고 통제해야 하기 때문이다. SK쉴더스 관계자는 “AI가 단순한 업무 지원 도구를 넘어 실제 업무를 수행하는 주체로 자리 잡으면서 보안 관리 대상도 사람 중심에서 AI까지 확대되고 있다”며 “거버넌스 수립부터 보안 체계 구축과 운영까지 전 과정을 지원해 기업이 AI를 안전하게 활용할 수 있도록 하겠다”고 말했다. 한편 SK쉴더스는 향후 금융·제조·공공 등 AI 활용이 확대되는 산업을 중심으로 제로트러스트 기반 AI 보안 사업을 확대할 예정이다.2026-08-19 17:32:49
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위 [경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.2026-08-18 11:09:21
-
KB국민은행, 신임 사외이사 후보에 정윤경 성균관대 교수 추천 [경제일보] KB국민은행이 사외이사후보추천위원회를 열고 정윤경 성균관대학교 소프트웨어융합대학 교수를 신임 사외이사 후보로 추천했다고 22일 밝혔다. 이번 추천은 문수복 전 사외이사의 사임에 따른 후속 절차다. 사외이사후보추천위원회는 총 5차례 회의와 후보군 선별 및 자격 검증을 거쳐 정 교수를 최종 후보로 선정했다. 정 후보는 미국 노스캐롤라이나주립대학교에서 컴퓨터과학 박사 학위를 취득했으며 삼성종합기술원과 덴마크 코펜하겐 IT대학을 거쳐 현재 성균관대학교 소프트웨어학과 교수로 재직 중이다. 한국정보과학회 인공지능 소사이어티 이사도 맡고 있다. 정 교수는 자연어처리와 데이터 분석, 생성형 인공지능(AI), 책임 있는 AI, 사이버보안 등 분야를 연구해 왔으며 국가 연구과제와 산업체 협력 연구를 수행하고 있다. 정 후보는 오는 23일 임시 주주총회 의결을 거쳐 사외이사로 선임될 예정이다. 임기는 오는 2028년 3월 정기 주주총회까지다. 국민은행 관계자는 "AI 기반 서비스와 데이터 분석 역량이 은행의 핵심 경쟁력으로 부상한 만큼 관련 전문성을 갖춘 정윤경 교수를 사외이사 후보로 추천했다"며 "이사회의 다양성과 전문성 강화에도 기여할 것으로 기대한다"고 말했다.2026-07-22 17:24:19
-
![[데일리 뱅킹 브리프] 케이뱅크, 개인사업자 대출 누적 공급 5조원 돌파 外](https://image.ajunews.com//content/image/2026/07/09/20260709093600958008.jpg)
케이뱅크, 개인사업자 대출 누적 공급 5조원 돌파 外 [경제일보] 케이뱅크, 개인사업자 대출 누적 공급 5조원 돌파 케이뱅크가 지난달 말 기준 개인사업자 대출 누적 공급액이 5조1900억원을 기록했다고 9일 밝혔다. 케이뱅크는 지난 2022년 개인사업자 대출 상품을 출시한 이후 누적 공급액 5조원을 넘어섰다. 올해 상반기에만 1조5200억원이 공급됐다. 이는 지난해 연간 공급액의 약 82% 수준이다. 부동산담보대출과 보증서대출 취급이 늘면서 개인사업자 여신 잔액 기준 보증·담보대출 비중은 지난달 말 45%까지 확대됐다. 케이뱅크의 전체 원화대출금 잔액 중 기업대출 비중도 지난해 말 7%에서 지난달 말 17%로 늘었다. 케이뱅크는 오는 14일부터 보증서대출 건당 한도를 기존 1억원에서 최대 2억원으로 상향한다. 3분기 중에는 부동산담보대출 담보 대상을 아파트에서 △연립·다세대주택 △오피스텔 △상가까지 확대하고 대출 용도도 운전자금에서 시설자금까지 넓힐 계획이다. 케이뱅크 관계자는 "보증서대출 한도 상향과 담보대출 지원 범위 확대를 통해 개인사업자의 다양한 자금 수요에 대응하고 중소법인 여신까지 사업 영역을 넓히겠다"고 말했다. 우리은행, 홈플러스 협력사 경영안정 특별지원 우리은행이 홈플러스 회생절차 폐지 결정으로 경영 애로를 겪는 중소기업과 소상공인을 위해 '경영안정 특별지원'을 실시했다고 9일 밝혔다. 이번 지원은 홈플러스 사태로 피해가 확인된 협력업체의 경영 안정을 돕기 위해 마련됐다. 우리은행은 피해 기업에 업체당 최대 5억원 한도의 신규 대출을 지원하고 기존 대출은 원금 상환 없이 만기를 연장한다. 피해 규모와 자금 사정을 고려해 대출금리와 수수료 우대 혜택도 제공한다. 수출기업에는 수출환어음 부도처리 유예기간을 기존 60일에서 최대 90일까지 확대 적용한다. 우리은행 관계자는 "어려움을 겪는 협력 중소기업과 소상공인에게 실질적인 도움이 되고자 특별지원을 마련했다"며 "피해 기업의 경영 정상화를 위해 금융지원을 이어가겠다"고 말했다. 카카오뱅크, UN 'AI for Good'서 금융 AI 사례 발표 카카오뱅크가 UN 국제전기통신연합이 주관하는 'AI for Good Global Summit 2026'에 초청받아 금융 인공지능(AI) 연구 사례를 발표했다고 9일 밝혔다. 행사는 지난 7일부터 10일까지 스위스 제네바에서 열렸으며 지속가능한 AI와 책임 있는 AI 활용 방안이 논의됐다. 카카오뱅크는 'Innovate for Impact' 세션에서 우수 사례로 선정돼 금융 AI 운영 효율성과 지속가능성을 높이는 연구 성과를 소개했다. 발표에서는 여러 개의 대형 AI 모델을 각각 운영하는 대신 하나의 금융 특화 AI 모델로 △정보 검색 △문서 분석 △이상 콘텐츠 탐지 등을 통합 수행하는 방법론을 제시했다. 이를 통해 그래픽 처리 장치(GPU) 메모리 사용량과 전력 소비, 인프라 운영 부담을 줄이면서 금융 문서 이해와 분석 성능을 높였다고 설명했다. 카카오뱅크의 'AI 스미싱 문자 확인' 서비스와 LLM 프롬프트 공격 방어 기술도 행사 공식 결과 리포트에 등재됐다. 카카오뱅크 관계자는 "글로벌 무대에서 금융 AI 연구 성과를 우수 사례로 소개하게 돼 뜻깊다"며 "금융 환경에 최적화된 AI 기술을 지속적으로 고도화하겠다"고 말했다.2026-07-09 09:37:16
-
AI 성능 넘어 '안전' 경쟁...KT 클라우드·카카오 AI 세이프티 맞손 [경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 AI 성능뿐 아니라 안전성과 신뢰성을 확보하기 위한 경쟁도 본격화되고 있다. 유해 콘텐츠 생성과 개인정보 유출, 프롬프트 공격 등 새로운 보안 위협이 부상하면서 AI를 실제 서비스에 적용하기 위해서는 'AI 세이프티'가 핵심 경쟁력으로 떠오른 것으로 분석된다. 26일 KT 클라우드와 카카오는 안전한 생성형 AI 서비스 구현을 위한 AI 세이프티 협력 체계를 구축했다고 밝혔다. 양사는 KT 클라우드의 AI 인프라 플랫폼과 카카오의 AI 세이프티 기술을 결합해 공공과 민간 분야에서 신뢰할 수 있는 AI 활용 환경을 구축한다는 계획이다. 최근 생성형 AI 도입이 빠르게 늘면서 AI 서비스의 안전성 확보가 기업들의 새로운 과제로 떠오르고 있다. AI가 허위 정보를 생성하는 '환각' 현상은 물론 '프롬프트 인젝션'을 통한 악성 명령 실행, 개인정보 유출, 유해 콘텐츠 생성 등의 위험성이 실제 서비스 운영 과정에서 잇따라 제기되고 있기 때문이다. 특히 공공기관과 금융권, 대기업을 중심으로 AI 도입이 확대되면서 모델 성능만큼 보안성과 신뢰성, 규제 대응 능력을 함께 검증하려는 움직임도 강화되고 있다. AI를 업무 시스템과 연계하는 기업이 늘어날수록 안전성을 확보할 수 있는 운영 체계가 필수 요소로 자리 잡고 있는 것이다. 이에 양사는 AI 서비스 개발부터 운영까지 전 과정에서 활용할 수 있는 AI 세이프티 기술 고도화에 나선다. 협력의 첫 단계로 KT 클라우드는 지난 4월 공개한 공공기관 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 적용할 예정이다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경을 반영해 개발된 AI 세이프티 모델이다. 생성형 AI가 부적절하거나 유해한 답변을 생성하는 것을 방지하고 프롬프트 공격이나 정책 위반 가능성을 탐지하는 역할을 수행한다. 현재 카카오의 주요 AI 서비스에도 적용되고 있다. 양사는 가드레일 기술 적용을 시작으로 AI 모델 안전성 평가 시스템과 다양한 공격 시나리오를 기반으로 취약점을 점검하는 '레드티밍' 시스템도 단계적으로 제공할 계획이다. AI 모델이 실제 서비스 환경에서 예상하지 못한 공격이나 악용 시도에 얼마나 안정적으로 대응하는지를 검증하는 체계까지 함께 구축한다는 구상이다. 향후에는 AI 세이프티 도구를 통합 관리하는 운영 플랫폼 구축으로 협력을 확대한다. KT 클라우드 환경에서 축적되는 운영 데이터와 고객 피드백을 기반으로 AI 안전성 관리 기능을 고도화하고, 생성형 AI 서비스의 개발과 배포, 운영, 모니터링까지 아우르는 통합 운영 체계를 마련할 계획이다. IT 업계에서는 AI 시장 경쟁이 모델 성능 중심에서 안전성과 신뢰성을 확보하는 방향으로 빠르게 이동하고 있는 것으로 전망한다. 생성형 AI 기술이 기업 핵심 업무에 적용될수록 모델의 정확도뿐 아니라 보안과 컴플라이언스, 운영 안정성 확보 여부가 AI 도입을 결정하는 핵심 요소로 자리 잡고 있기 때문이다. 이에 AI 가드레일과 레드티밍, 모델 평가 체계 등 AI 세이프티 기술도 AI 인프라의 필수 요소로 부상하고 있는 것으로 평가된다. KT 클라우드와 카카오는 이번 협력을 계기로 공공기관과 금융권을 비롯한 다양한 산업 분야에서 신뢰할 수 있는 생성형 AI 서비스 구축을 지원하는 한편, 국내 AI 생태계 전반의 안전성 확보에도 기여한다는 방침이다. 김봉균 KT 클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다. 김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT 클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.2026-06-26 10:15:27
-
KT 희망나눔재단, AI 활용 문화 정착 나선다…K-AI 콘텐츠 공모전 개최 [경제일보] KT그룹 희망나눔재단이 인공지능(AI) 윤리 확산과 사회문제 해결형 AI 아이디어 발굴에 나선다. 생성형 AI 활용이 빠르게 확산되는 가운데 책임 있는 AI 사용 문화를 정착시키고 미래 세대의 AI 활용 역량을 높이기 위한 취지로 풀이된다. 17일 KT그룹 희망나눔재단은 과학기술정보통신부의 '전국민 AI 경진대회'와 연계해 '2026 K-AI 콘텐츠 공모전'을 개최한다고 밝혔다. 이번 공모전은 '모두를 위한 AI, 함께 만드는 더 나은 내일'을 슬로건으로 진행된다. AI 기술의 올바른 활용 문화를 조성하고 사회문제 해결에 기여할 수 있는 창의적인 AI 활용 아이디어를 발굴하는 것이 목표다. 특히 KT는 올해 과학기술정보통신부가 주관하는 전국민 AI 경진대회와 연계해 추진되면서 AI 윤리와 리터러시 확산 효과를 높일 수 있을 것으로 기대된다고 설명했다. AI 기술이 교육과 산업, 일상 전반으로 확산되는 가운데 기술 활용 능력뿐 아니라 책임 있는 사용 문화 조성의 중요성이 커지고 있기 때문이다. 공모전은 콘텐츠 부문과 솔루션 부문으로 나뉘어 진행된다. 콘텐츠 부문은 '안전하고 올바른 AI 사용과 AI와 공존하는 미래 사회의 모습'을 주제로 열린다. 초등부는 직접 제작한 포스터를 제출하면 되며 중·고등부는 생성형 AI를 활용한 이미지, 대학·일반부는 생성형 AI 기반 영상을 제작해 응모할 수 있다. 올해 처음 신설된 솔루션 부문은 '일상의 문제 해결을 위한 AI 솔루션'을 주제로 진행된다. 중·고등부와 대학·일반부를 대상으로 하며 자연어 기반 AI 개발도구를 활용해 사회·환경·복지 등 다양한 분야의 문제를 해결할 수 있는 웹 또는 앱 서비스를 개발해 제출하면 된다. 단순히 AI 콘텐츠 제작 역량을 평가하는 데 그치지 않고 실제 사회 문제를 해결할 수 있는 AI 서비스 개발을 장려하는 구조다. KT그룹 희망나눔재단은 올해 공모전에서 AI 활용에 따른 사회적 책임을 강조하기 위해 AI 윤리 실천 서약도 도입했다. 참가자는 접수 과정에서 개인정보 보호와 저작권 존중, 허위정보 생성 방지, AI 활용 투명성 확보 등의 내용을 담은 윤리 서약에 동참해야 한다. AI 기술 발전과 함께 딥페이크, 허위정보, 저작권 침해 등 부작용에 대한 우려가 커지는 상황에서 책임 있는 AI 활용 문화를 확산하기 위한 조치로 풀이된다. 접수는 내달 1일부터 15일까지 공모전 홈페이지를 통해 진행된다. 초등학생부터 일반인까지 누구나 참여할 수 있다. 수상 결과는 오는 8월 초 발표될 예정이며 총 44개 작품을 선정해 5400만원 규모의 상금을 수여한다. 전 부문 통합 최고 수상자 1팀은 'K-AI 그랜드 마스터'로 선정돼 1000만원의 상금을 받는다. 수상작은 향후 온라인 전시와 오프라인 순회 전시를 통해 일반 대중에게 공개될 예정이다. 특히 솔루션 부문 수상작은 AI 전문가 멘토링과 기술 고도화 과정을 거친 뒤 유관기관 및 지역사회 적용 가능성도 검토될 계획이다. 임종택 KT그룹 희망나눔재단 이사장은 "AI 기술이 일상화되고 있는 시대에 기술 자체만큼 중요한 것은 이를 책임감 있게 활용하는 문화"라며 "이번 공모전을 통해 미래 세대가 AI 윤리 의식을 함양하고 사회문제 해소를 위한 아이디어를 마음껏 펼칠 수 있길 기대한다"고 말했다.2026-06-17 10:59:41
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개 [경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.2026-06-16 14:07:30
-
이재명 대통령, 구글 딥마인드 CEO와 회동…AI 협력 확대 논의 [경제일보] 이재명 대통령이 글로벌 인공지능(AI) 선도 기업 수장과의 연쇄 회동을 이어가며 'AI 3대 강국' 전략에 속도를 낸다. 청와대는 이 대통령이 오는 27일 집무실에서 데미스 허사비스 구글 딥마인드 최고경영자(CEO)를 만나 AI를 포함한 과학기술 발전 방향과 협력 방안을 논의할 예정이라고 24일 밝혔다. 이번 면담에서는 AI 기술의 비약적 발전 흐름을 공유하는 한편 혁신과 책임 있는 AI 활용 방안, 정책 협력 방향 등이 주요 의제로 다뤄질 전망이다. 이 대통령은 취임 이후 'AI 3대 강국' 도약을 핵심 국정 과제로 제시하고 글로벌 빅테크 기업과의 협력 확대에 집중해왔다. 앞서 샘 올트먼 오픈AI CEO, 젠슨 황 엔비디아 CEO, 손정의 소프트뱅크 그룹 회장, 래리 핑크 블랙록 CEO 등과 만나 투자 유치와 기술 협력 방안을 논의한 바 있다. 허사비스 CEO는 바둑 AI '알파고' 개발을 이끈 인물로 단백질 구조 예측 모델 '알파폴드' 개발 공로로 지난 2024년 노벨화학상을 수상했다. 청와대는 "이번 면담은 글로벌 AI 협력 행보의 연장선으로 세계 최고 수준 AI 기업과의 협력을 통해 관련 정책 추진을 가속하는 계기가 될 것"이라고 밝혔다.2026-04-24 17:21:12
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 전기차 시장 커지는데…K배터리, 북미 의존 벗어나야](https://image.ajunews.com/content/image/2026/10/08/20261008143801133369_518_323.jpg)