2026.06.27 토요일
검색
'프론티어 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개 [경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.2026-06-16 14:07:30
-
![[현장] AI 주권 시험대 오른다…독자 파운데이션 모델 중간 성과 공개](https://image.ajunews.com//content/image/2025/12/30/20251230173933113795.jpg)
'AI 주권' 시험대 오른다…독자 파운데이션 모델 중간 성과 공개 [이코노믹데일리] "우리나라를 한 단계 더 도약할 수 있는 기반이 독자 AI 파운데이션 모델 사업에 달려있다" 배경훈 과학기술정보통신부장관은 30일 서울 강남구 코엑스에서 과학기술정보통신부가 주최한 '독자 AI(인공지능) 파운데이션 모델 1차 설명회'에서 이렇게 말했다. 이번 행사에는 네이버클라우드, NC AI, 업스테이지, SK텔레콤, LG AI 연구원 등 5개 기업이 참여해 각 사의 독자 AI 모델 개발 현황과 기술 전략을 발표했다. 설명회는 비공개 위주로 진행돼 온 프로젝트의 중간 성과를 공개하는 첫 공식 행사였다. 네이버클라우드는 고난도 추론과 지식 이해 능력을 갖춘 모델 'HyperCLOVA X OMNI'를 발표했다. 자체 데이터센터와 클라우드 인프라를 기반으로 대규모 모델 학습과 안정적인 서비스 제공이 가능하다는 점을 강조하며, 기업과 공공 부문에서 활용 가능한 한국형 AI 모델 생태계 구축에 주력하고 있다고 밝혔다. 특히 다양한 산업 환경에 유연하게 적용할 수 있는 확장성을 강점으로 내세웠다. 성낙호 네이버클라우드 HYPERSCALE AI 기술총괄은 "네이버클라우드는 삶의 실질적 변화를 만드는 AI를 개발하고 있다"며 "AI 기술의 혜택을 모든 국민에게 확장하고 더 많은 비즈니스 계획을 창출할 수 있도록 열린 AI 생태계를 구축하는 것이 저희의 목표"라고 말했다. NC AI는 멀티스케일 멀티모달 생성형 파운데이션 모델 'VAETKI'를 선보였다. NC AI는 VAETKI가 14년에 걸쳐 축적한 게임 AI 기술력을 집약한 모델로 게임을 비롯해 제조, 국방, 엔터테인먼트 등 전 산업군에 적용 가능한 버티컬 AI 솔루션이라고 설명했다. 콘텐츠 생성과 시뮬레이션 등 복합적인 생성 역량을 갖춘 것이 특징이다. 이연수 NC AI 대표는 "궁극적으로 NC AI가 지향하려고 하는 모델은 최소한의 자원으로 산업 현장의 모든 감각을 통합 처리하는 전천후 멀티 모달 진행을 완성하는 방향"이라며 "K-산업의 미래 가치를 NC AI 컨소시엄의 'VAETKI'와 함께 실현해 나가려고 노력할 것"이라고 말했다. 업스테이지는 다국어 이해와 고난도 추론 역량에 특화된 AI 모델 'Solar Open'을 소개했다. 대규모 언어 데이터를 기반으로 학습했으며, 데이터 수집부터 학습, 평가, 배포에 이르는 전 과정을 자체 기술로 수행했다고 설명했다. 산업과 공공 분야에서 신뢰 가능한 AI 활용을 지원하며 개방형 기술 생태계 확장을 목표로 하고 있다는 점도 강조했다. 김성훈 업스테이지 대표는 "정말 도움이 되는 그런 AI를 만들어 보자는 한가지 목표로 지금 5년째 달리고 있다"며 "많은 컨소시엄들과 함께 해서 'Solar Open'으로 글로벌에서 우뚝 서서 우리 모두가 영원하는 AI 3강 함께 만들어 갈 것"이라고 말했다. SK텔레콤은 총 519B(5190억)개의 매개변수를 갖춘 대규모 언어모델 'A.X K1'을 공개했다. A.X K1은 초대형 파라미터 규모를 기반으로 한국어 이해와 생성 성능을 강화한 모델로, 향후 통신 서비스와 엔터프라이즈 AI 영역 전반에 적용될 예정이다. SK텔레콤은 AI 인프라부터 AI 모델, AI 서비스로 이어지는 이른바 'AI 가치 사슬' 전반을 자체적으로 구축해 기술 경쟁력을 확보하겠다는 전략도 함께 제시했다. 정석근 SK텔레콤 AI CIC장은 "A.X K1을 시작으로 더 정교하고 강력한 모델로 진화해 나갈 것"이라며 "대한민국의 모든 기업과 스타트업이 글로벌 무대에서 당당히 경쟁할 수 있는 든든한 기반이 될 것"이라고 말했다. LG AI 연구원은 글로벌 경쟁력을 목표로 한 프론티어 AI 모델 'K-EXAONE'을 공개했다. 산업과 제조 분야에 특화된 AI 활용 가능성을 중심으로 발표를 진행했으며, 초거대 AI 모델을 실제 산업 현장에 적용하기 위한 신뢰성과 안전성 확보에 주력하고 있다고 밝혔다. 향후 기업용 AI 솔루션으로의 확장을 염두에 둔 전략도 함께 제시했다. 최정규 LG AI연구원 그룹장은 "K-EXAONE은 세계 최고 AI 기술 역량을 바탕으로 산업 전반의 AI 생태계를 자립시킬 것"이라며 "글로벌 확장을 통해 AI 대한민국 실현에 이바지하도록 최선을 다할 것"이라고 말했다.2025-12-30 17:54:25
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 휴머노이드 전쟁, 대한민국의 미래를 결정할 골든타임이다](https://image.ajunews.com/content/image/2026/06/26/20260626103810596850_518_323.jpg)