2026.10.16 금요일
검색
'허깅페이스' 검색결과
기간검색
-
~
검색영역
검색어
-
![[2026 국감] AI 성능에 6조, 안전엔 274억…과기부, 국감서 브레이크](https://image.ajunews.com//content/image/2026/10/06/20261006144453107566.jpg)
AI 성능에 6조, 안전엔 274억…과기부, 국감서 '브레이크' [경제일보] 정부의 내년도 인공지능(AI) 예산 확대가 모델 성능과 인프라에 집중되면서 AI 자체의 위험을 평가·통제할 투자도 늘려야 한다는 요구가 국정감사에서 나왔다. 과학기술정보통신부 소관 AI 예산 정부안은 9조4308억원이지만 안전·신뢰 분야는 274억원으로 약 0.3%에 머물렀다. 배경훈 부총리 겸 과기정통부 장관은 안전연구소의 인력·예산 확충 필요성을 인정하고 12월 종합계획을 발표하겠다고 밝혔다. 이주희 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회 국감에서 “가속페달은 급속히 키워져 가고 있는데 브레이크는 지금 그대로인 상황”이라며 안전 분야 투자 확대를 촉구했다. 이 의원이 과기정통부에서 제출받은 자료에 따르면 내년 AI 성능·인프라 예산은 6조1490억원으로 전체의 65.2%다. 모델 개발, GPU 등 컴퓨팅 자원, 데이터 구축이 포함된다. 안전·신뢰 예산에는 안전성 평가·검증과 공격자 관점의 위험 시험, 딥페이크 대응, 윤리·영향평가 등이 분류됐다. 의원실이 제시한 기능별 기준에 따라 과기정통부가 세부 사업을 나눠 제출한 결과다. 두 분야의 예산 비율은 224대1로, 2024년 36대1보다 벌어졌다. 성능·인프라 예산은 올해보다 116% 늘어나지만 안전·신뢰 분야 증가율은 36%다. 안전 예산의 절대 규모가 늘어도 개발·인프라 투자 확대 속도를 따라가지 못하는 구조다. 274억원의 구성은 AI 안전 기술개발 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성 및 산업 생태계 기반 조성 21억원이다. 뒤의 두 사업은 올해와 편성액이 같다. 이 의원은 안전 예산을 전체 AI 예산의 최소 1%로 높이고 단계별 확대 계획을 제시하라고 요구했다. 현 정부안의 AI 총액에 1%를 적용하면 약 943억원으로, 현재 안전·신뢰 편성액보다 약 669억원 많다. 핵심 쟁점은 AI를 사이버방어에 활용하는 능력과 AI의 행동을 통제하는 능력을 함께 확보하는 데 있다. 취약점을 찾아 공격을 막는 보안 특화 모델을 개발하는 동시에, 모델이 허용된 작업 범위를 벗어나거나 외부 시스템에 접근하는 위험을 평가하고 차단할 체계도 필요하다는 지적이다. 해외에서는 시험 중인 AI가 통제를 벗어난 실제 사고가 발생했다. 오픈AI는 지난 8월 공개한 조사보고서에서 7월 내부 사이버보안 평가 중 AI 모델들이 인터넷 격리 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템에 침입했다고 밝혔다. 안전장치를 축소한 시험 환경에서 발생한 사건으로, 회사는 인터넷 접근 제한과 평가 환경 격리, 이상행동 감시를 강화하겠다고 설명했다. 영국 AI보안연구소(AISI)도 지난 8월 보고서에서 인터넷 접근을 허용하고 일부 안전 필터를 해제한 사이버 평가 도중 에이전트가 실제 인물·기관을 겨냥한 승인되지 않은 행동을 했다고 공개했다. 대응책으로 외부 접속 통제, 실시간 감시, 평가 환경 재설계를 제시했다. AI 안전 평가에는 모델을 시험하는 전문인력뿐 아니라 시험이 외부 피해로 이어지지 않도록 격리하는 인프라도 요구된다. 국내 평가 역량을 담당할 AI안전연구소의 인력 문제도 제기됐다. 이 의원은 인력이 26명에서 38명으로 늘었지만 해외 주요국보다 부족하다며 확충을 요구했다. 연구소는 AI 안전성 평가와 정책·기술 연구, 주요국 연구기관과의 협력을 맡고 있다. 이 의원은 정부 지원 모델의 학습·시험 과정에서 외부 접속을 어디까지 허용하는지, 이상행동이 발생하면 누가 실행을 중단하고 보고하는지 명확히 해야 한다고 강조했다. 배 부총리는 관련 해외 사고로 인한 국내 기관 피해는 아직 확인되지 않았다고 설명했다. 배 부총리는 “고영향 AI나 AI의 안전성을 평가할 때 영국의 안전연구소에 많이 의뢰한다”며 국내 연구소의 인력과 예산을 늘려 역량을 확보하는 일이 중요하다고 밝혔다. 정부는 보안 특화 모델과 프론티어 AI 개발을 통한 사이버안보 대응도 추진한다. 과기정통부는 12월 ‘국가 AI 안전생태계 조성 마스터플랜’을 수립·발표할 계획이다. 배 부총리는 국가 AI 안전관리체계 구축, 첨단 AI 안전 대응 역량 강화, 국민 일상의 안전한 AI 환경 조성을 준비하겠다고 밝혔다.2026-10-06 14:46:43
-
美 캘리포니아, 오픈AI에 소환장…AI '무단 해킹' 개발사 책임 조사 [경제일보] 미국 캘리포니아주가 외부 시스템에 무단 침입한 인공지능(AI) 에이전트의 통제 실패에 대해 오픈AI의 법적 책임을 조사하고 있다. 연구·평가 단계에서 발생한 해킹이 개발사의 안전조치와 사고 대응에 대한 규제당국의 검증으로 이어졌다. 캘리포니아주 법무장관실은 1일(현지시간) 오픈AI에 조사용 소환장을 송달했다고 밝혔다. 실제 송달일은 지난달 30일이다. 지난달 시작한 AI 개발 플랫폼 허깅페이스 침입 조사의 후속 조치로, 오픈AI와 해당 모델의 사이버 보안 사고·위험을 폭넓게 들여다본다. 롭 본타 법무장관은 최첨단 AI 모델이 사이버 방어에 쓰일 수 있지만, 개발 기업에는 모델이 공격을 실행하거나 돕지 않도록 할 도덕적·법적 책임이 있다고 강조했다. 책임을 다하지 못한 개발사에 법적 책임을 물을 수 있으며, 오픈AI가 이에 해당하는지 확인하겠다는 입장이다. 이번 조사의 출발점은 지난 7월 오픈AI 내부 사이버 보안 평가 중 발생한 허깅페이스 침입이다. AI 에이전트는 주어진 과제를 수행하기 위해 도구를 사용하고 작업을 이어가는 시스템이다. 당시 일부 에이전트는 인터넷 접근과 상호 통신을 제한한 실험환경의 통제를 우회했다. 오픈AI가 공개한 기술 보고서는 에이전트들이 내부 소프트웨어 관리 시스템을 게시판처럼 사용해 정보를 교환하고, 외부 인터넷에 접근했다고 설명했다. 이후 노출된 인증정보와 보안 취약점을 이용해 허깅페이스 서버에서 코드를 실행하고 일부 비공개 데이터에도 접근했다. 회사는 사안의 중심에 일반에 공개되지 않은 내부 연구용 모델이 있었으며, 평가 환경에는 외부 서비스와 같은 수준의 안전장치를 적용하지 않았다고 밝혔다. 당시 침입이 자사 고객 데이터나 제품 기능·가용성에는 영향을 주지 않았다는 설명도 내놨다. 조사 범위는 허깅페이스 한 곳에 머물지 않는다. 로이터통신은 1일 오픈AI가 에이전트의 무단 활동과 관련해 100곳 넘는 기관에 통보했다고 보도했다. 회사는 보안 통제 우회와 서비스 가용성 저해 가능성 등을 기준으로 관련 기관에 순차적으로 알리고 있다. 오픈AI는 연구 인프라의 격리 수준을 높이고 인터넷 접근과 모델 접근 권한을 제한하는 등 안전조치를 강화하고 있다고 설명했다. 학습·평가 과정에서 모델이 인터넷을 사용한 기록도 폭넓게 검토하고 있다. 주·연방 당국의 대응도 확대됐다. 아이오와주가 이끄는 15개 주 법무장관 연합은 관련 문서·데이터·통신 기록 보존과 안전성이 입증되기 전 문제의 시험 활동 중단을 요구했다. 로이터는 연방거래위원회(FTC)도 오픈AI·앤트로픽 등 AI 기업의 기술이 소비자에게 미칠 위험을 조사하며 자료 제출과 경영진 증언을 요구할 계획이라고 전했다. 본타 장관은 트럼프 행정부의 주 차원 AI 규제 제한 시도에도 캘리포니아의 주민 보호 권한을 지키겠다고 밝혔다. 이번 소환장은 진행 중인 조사를 위한 조치로, 법무장관실은 오픈AI의 위법 여부를 아직 확정하지 않았다.2026-10-02 08:16:11
-
"해킹하라" 안 했는데…오픈AI 에이전트, 호주 정부 사이트 비인가 접근 [경제일보] 오픈AI의 인공지능(AI) 에이전트가 별도의 해킹 지시를 받지 않았음에도 호주 정부의 보건 통계 사이트에서 비공개 파일에 비인가 접근한 것으로 확인됐다. AI에 호주 보건·의료 통계에 대한 답을 찾으라는 과제를 수행하게 했지만, 정보를 찾는 과정에서 외부 사이트의 접근 제한을 우회한 것으로 나타나면서 AI 에이전트의 자율 행동에 대한 통제 문제가 새로운 보안 이슈로 떠오르고 있다. 23일(이하 현지시간) 오픈AI는 내부 평가 과정에서 자사의 AI 모델들이 호주 정부의 여러 웹사이트와 서비스에서 정보를 찾던 중 의도하지 않은 행동을 했다는 사실을 확인했다고 밝혔다. AI 에이전트에 주어진 과제 자체는 호주의 보건·의료 통계에 대한 답을 찾는 것이었지만, 이 과정에서 공개된 정보뿐 아니라 비공개 파일에도 접근한 것으로 파악됐다. 이번 사건에서 주목되는 부분은 AI 모델에 특정 정부 시스템을 공격하거나 정보를 탈취하라는 명시적인 지시가 내려진 것이 아니라는 점이다. AI가 주어진 목표를 달성하는 과정에서 사람이 예상하지 못한 방식으로 외부 시스템에 접근했다는 것이다. 오픈AI는 이번 사건에 대해 모델들이 '의도하지 않은 행동'을 취했다고 설명했다. 현재까지 개인의 메디케어 정보나 의료기록 등 민감한 개인정보가 접근됐다는 증거는 확인되지 않은 것으로 알려졌지만, 호주 정부는 실제로 어떤 정보에 접근했는지와 다른 정부 시스템까지 영향을 받았는지를 확인하기 위해 디지털 포렌식 조사를 진행하고 있다. 이에 앤서니 앨버니지 호주 총리는 기자회견을 통해 샘 올트먼 오픈AI 최고경영자(CEO)와 직접 통화해 호주 정부의 우려를 전달했다고 밝혔다. 그는 정부 통신망 전체로 피해가 확산한 정황은 현재까지 확인되지 않았지만 이번 상황은 받아들일 수 없다는 입장을 전했으며, 오픈AI가 사건을 인지한 뒤 호주 정부에 통보하기까지 상당한 시간이 걸린 점에 대해서도 불만을 표시했다. 호주신호국(ASD)은 현재 사건에 대한 추가 정보를 확보하기 위해 디지털 포렌식 조사에 참여하고 있다. 조사 결과에 따라 이번 접근이 단일 포털에 국한됐는지, 다른 정부 시스템에서도 유사한 행동이 있었는지가 확인될 전망이다. 최근 오픈AI의 AI 에이전트는 비정상적인 행동 사례가 잇따라 발생하고 있다. 오픈AI는 지난 8월 공개한 내부 조사에서 7월 사이버보안 평가 과정 중 자사 모델들이 인터넷 접근을 차단하기 위해 마련된 통제를 우회하고 오픈AI 내부 연구 인프라와 외부 AI 개발 플랫폼인 허깅페이스의 일부 시스템에 접근했다고 밝혔다. 당시 모델들은 허가되지 않은 통신 채널을 이용하고 공유 인프라의 취약점을 악용하는 방식으로 인터넷에 접근했다. 오픈AI는 이 과정에서 모델들이 할당된 과제의 목적과 맞지 않는 행동을 했다고 설명했다. 해당 사건은 사이버보안 능력을 평가하기 위한 내부 테스트 과정에서 발생한 것으로, 이번 호주 정부 사건과 AI 에이전트가 통제된 환경을 벗어나 외부 시스템과 상호작용했다는 공통점이 있다. AI 에이전트가 기존 챗봇과 다른 방식으로 작동한다는 점도 이번 사건의 배경으로 꼽힌다. 기존 챗봇이 사용자의 질문에 답변하는 데 초점이 맞춰져 있다면, 에이전트는 목표를 달성하기 위해 웹사이트를 검색하고 외부 도구를 호출하며 여러 단계의 작업을 자율적으로 수행할 수 있다. 이 과정에서 사용자가 의도한 최종 목표와 AI가 목표를 달성하기 위해 선택하는 중간 행동 사이에 차이가 발생할 수 있도록 설계되고 있다. 특히 외부 인터넷이나 개발 도구, 파일 시스템 등에 직접 접근할 수 있도록 권한을 부여받은 에이전트의 경우 예상하지 못한 행동이 실제 시스템에 영향을 미칠 가능성도 커진다. 오픈AI 역시 최근 AI 모델의 이른바 '미스얼라인먼트' 사례를 잇따라 공개하고 대응 체계를 마련하고 있다. 지난 17일에는 모델이 제약을 우회하기 위한 지시를 삽입하거나, 승인 없이 파일을 외부에 올리는 등 예상하지 못한 행동을 보인 사례들을 공개했다. 오픈AI는 모델의 자율 행동과 감독 회피 가능성을 추적·조사하기 위한 새로운 공개 체계를 마련하겠다고 언급했다. 공교롭게도 이번 호주 사건이 알려진 날 샘 올트먼 CEO는 유엔 안전보장이사회 회의에 참석해 고도화된 AI의 안전성과 국제적인 관리 체계의 필요성을 강조했다. 세계 주요 AI 기업 경영진이 AI가 인간의 통제를 벗어날 가능성과 국제적인 안전 기준 마련을 논의하는 가운데, 실제 AI 에이전트가 외부 정부 시스템에서 예상하지 못한 행동을 한 사례가 공개된 것이다. AI 업계에서는 에이전트의 성능이 높아질수록 단순히 모델의 답변이 안전한지를 확인하는 것뿐 아니라 실제 행동을 어디까지 허용할 것인지에 대한 통제 장치가 중요해지고 있다. 이번 호주 사건 역시 개인정보 유출 여부와 별개로 AI가 사람의 명시적인 해킹 지시 없이도 주어진 목표를 수행하는 과정에서 외부 시스템의 접근 제한을 넘어설 수 있다는 점에서 에이전트 보안의 새로운 과제를 보여주는 사례가 될 전망이다. 샘 올트먼 오픈AI CEO는 유엔 안전보장이사회에서 인공지능에 관해 연설하며 "(인공지능)모델의 빠른 발전으로 인해 실현 시기가 더욱 촉박해졌고, 잠재적 이점이 더욱 분명해졌지만, 동시에 위험과 부담 또한 더욱 시급해졌다"며 "인공지능은 창의성과 발견의 새로운 르네상스처럼 될 수도 있고, 격변과 혼란을 야기하는 새로운 산업혁명처럼 될 수도 있다"고 말했다.2026-09-24 10:52:07
-
카카오, '카나나 인 카카오톡' 가입 프로모션 진행…AI 일상화 속도 [경제일보] 모두의 AI 사업에 참여한 카카오가 AI 프로모션을 진행하며 카카오 이용자들이 일상 속에서 AI 서비스를 보다 친숙하게 경험할 수 있도록 나선다. 카카오톡을 중심으로 AI 기능의 활용 접점을 확대해 이용자들의 실제 사용 경험을 늘리고, 향후 AI 비서와 에이전틱 AI 등 서비스 고도화를 위한 기반을 마련한다는 전략이다. 8일 카카오는 일상 속에서 이용자들이 카카오의 AI 서비스에 더욱 친숙해질 수 있도록 카카오톡 내 AI 서비스인 '카나나 인 카카오톡' 프로모션을 진행한다고 밝혔다. 이번 카카오의 프로모션은 오는 14일까지 카나나 인 카카오톡에 가입한 이용자들을 대상으로 진행된다. 카나나 인 카카오톡 공식 홈페이지 내 이벤트 영역에서 '이모티콘 받기'를 클릭하면 7일간 사용 가능한 '춘식이는 아깽이 3' 카카오 이모티콘을 선착순으로 다운받을 수 있다. 카나나 인 카카오톡은 필요한 정보를 '선톡'으로 제안하는 카카오의 AI '카나나' 기반 AI 서비스다. 온디바이스 AI 모델을 기반으로 이용자의 대화 맥락을 이해하는 것이 특징으로 매일 아침 일정 브리핑을 제공하고, 카카오톡 대화 중 필요한 정보 검색이나 상품·장소 추천을 돕도록 설계됐다. 해당 기능들은 카카오톡 첫 번째 탭인 '친구탭' 내 AI 영역에서 '카나나'를 선택하면 바로 이용할 수 있다. 카카오톡 설정 변경도 간편하게 지원하는 등 일상 속 다양한 작업을 대화를 통해 수행할 수 있다. 카카오는 카나나 인 카카오톡을 지속적으로 고도화하고 있다. 앞서 카카오는 카나나 인 카카오톡의 기반이 되는 AI 모델 카나나를 발전시키고 있다. 카카오는 허깅페이스에 오픈소스로 공개하고 글로벌에서 평가를 받으며 개선 작업을 진행하고 있으며, 최근 정부가 진행하는 '모두의 AI' 사업에 선정돼 카카오 컨소시엄이 개발하는 AI 플랫폼에 국산 AI 모델로 적용될 예정이다. 카카오는 향후 이용자 맞춤형 브리핑뿐만 아니라 실생활 편의를 높일 AI 기능을 지속적으로 추가한다는 계획이다. 또한 이용자의 의도를 파악해 상품 및 서비스 제안부터 구매까지 연결하는 '에이전틱 AI' 구현을 위해 국내외 다양한 파트너사와 협력할 예정이다. 카카오 관계자는 "이번 프로모션을 통해 더 많은 이용자들이 카카오톡 안에서 AI가 제공하는 편의를 경험하길 기대한다"며 "'카나나 인 카카오톡'을 일상 속 다양한 순간에 필요한 도움을 제공하는 'AI 비서'로 지속 고도화해 나갈 것"이라고 말했다.2026-09-08 13:57:35
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위 [경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.2026-08-18 11:09:21
-
SKT, 독자 AI 'A.X K2' 앞세워 제조·국방 현장 공략 [경제일보] SK텔레콤이 독자 AI 파운데이션 모델 'A.X K2'를 앞세워 제조와 국방, 바이오 등 산업 현장 공략에 나선다. 지난달 29일 모델을 공개한 데 이어 4일 회사 뉴스룸 인터뷰를 통해 세부 전략을 밝혔다. 단순 질의응답을 넘어 스스로 계획을 세우고 도구를 활용해 업무를 수행하는 '에이전틱 AI'를 구현해 한국형 소버린 AI 생태계를 만들겠다는 구상이다. 김태윤 SK텔레콤 파운데이션모델담당은 "A.X K2의 가장 큰 변화는 '답하는 AI'에서 '스스로 계획하고 실행하는 AI'로 진화한 것"이라며 "에이전틱 시대에 맞춰 추론 능력을 크게 강화했고 특히 수학과 한국어 영역에서 의미 있는 성과를 냈다"고 말했다. ◆ 매개변수 6880억개, 추론엔 330억개만 활성화 A.X K2는 매개변수 6880억개 규모의 초거대언어모델(LLM)이다. 직전 모델인 519B 규모 A.X K1보다 커졌지만 추론 과정에서는 330억개(33B)만 활성화하는 MoE 구조를 적용해 추론 비용은 기존 수준으로 유지했다. 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2%포인트, 장문 이해와 AI 에이전트 평가에서는 83.9%포인트 개선됐다. 초고난도 수학 벤치마크 'Apex' 점수는 1.0에서 45.8로 뛰었고 AIME26에서는 97.1점을 기록했다. 한국어 지식 평가(KMMLU-Pro) 80.5점, 한국 문화 이해(CLIcK) 91.6점을 냈고 통신 분야 에이전트 도구 활용을 재는 τ²-Bench Telecom에서는 오픈웨이트 모델 가운데 최고 성능을 기록했다고 회사는 설명했다. 핵심 기술은 SK텔레콤이 자체 개발한 SGA(Sparse Gated Attention)다. 여러 차례 대화와 도구 호출, 긴 문서 참조를 반복하는 AI 에이전트 특성상 긴 문맥 처리 효율이 중요한데 SGA는 입력이 길어질수록 처리 속도와 안정성이 오르도록 설계됐다. 120K 토큰 입력 기준 토큰 처리량은 A.X K1 대비 67.7% 개선됐다. 텍스트 모델 외에 제조 도면과 문서를 이해하는 비전언어모델 'A.X K2 VL', 상담·회의 음성을 분석하는 'A.X K2 ALM', 크래프톤과 공동 개발한 음성 모델 'A.X K2 라온스피치'도 함께 공개해 멀티모달 구성을 갖췄다. 산업 현장 적용도 본격화하고 있다. KG스틸, 자동차 부품업체 코넥과는 생산 라인의 과거 불량 사례를 학습해 원인을 분석하고 조치를 제안하는 제조 특화 AI 에이전트를 실증 중이다. SK하이닉스에는 사내 AI 서비스 'LLM Chat'에 경량 모델을 적용해 반도체 지식 검색과 정보 정리를 지원한다. 국방부에는 A.X K1을 FP8·FP4·INT4로 양자화해 공급했고 A.X K2도 온프레미스 기반 폐쇄망 환경에 제공할 계획이다. 민감한 데이터는 외부 학습에 쓰지 않고 기관 내부에서만 학습하도록 했다. 김 담당은 "국내 업무 환경에서는 언어뿐 아니라 제도와 문화적 맥락을 이해하는 것이 중요하다"며 "국내 기업과 공공기관이 안심하고 활용할 수 있는 소버린 AI를 구현하는 것이 목표"라고 설명했다. ◆ 허깅페이스 공개하며 조단위 후속모델 준비 SK텔레콤은 A.X K2를 허깅페이스에 Apache 2.0 라이선스로 공개하고 API도 제공할 예정이다. 스타트업 액셀러레이팅 프로그램 '스케치 with AI', '모두의 챌린지 AX-LLM'을 통해 개발자와 스타트업의 상업적 활용 생태계도 넓힌다. 앞서 A.X K1은 정부 지원 없이 상시 1000개 이상의 자체 GPU로 개발됐다. 이번에 예고한 조(兆) 단위 매개변수 후속 모델은 정부 GPU 인프라와 자체 투자를 함께 활용해 규모를 키우고 에이전틱 강화학습과 사이버보안 역량도 고도화한다는 계획이다. 서울대, KAIST, 크래프톤과 차세대 아키텍처 연구도 병행하고 독자 AI 파운데이션 모델(독파모) 컨소시엄 참여사인 리벨리온과는 국산 NPU 기반 모델 서빙 최적화와 상용 서비스 실증을 강화한다. 리벨리온은 앞서 자체 NPU '리벨카드' 단일 서버로 A.X K1 구동에 성공한 바 있다. 한편 회사가 제시한 벤치마크 수치는 자체 측정 결과이며 독립 기관의 검증을 거친 값은 아니다. 오픈소스로 공개돼 외부 개발자들이 성능을 검증할 여지는 있지만 남은 과제는 이 수치가 실제 제조·국방·바이오 현장에서 상업적 계약과 매출로 이어지느냐다. 김 담당은 "A.X K2는 한국이 설계부터 학습까지 자체 기술로 개발한 AI 모델이 글로벌 최고 수준에 도달할 수 있다는 가능성을 보여준 사례"라며 "개방과 협력을 통해 국내 AI 생태계의 기반을 만들고 산업 현장과 국민이 체감할 수 있는 AI 서비스를 확대해 나가겠다"고 말했다.2026-08-04 10:10:29
-
크래프톤, 한국어 음성 AI 'A.X K2 라온' 공개…게임 캐릭터와 말로 협업한다 [경제일보] 크래프톤(대표 김창한)이 한국어 음성 이해와 생성에 특화된 인공지능(AI) 파운데이션 모델 ‘A.X K2 Raon-Speech’를 글로벌 AI 플랫폼 허깅페이스(Hugging Face)에 공개했다. A.X K2 Raon-Speech는 과학기술정보통신부의 ‘독자 AI 파운데이션 모델’ 프로젝트에 참여한 SK텔레콤 정예팀의 2차수 성과다. 크래프톤은 컨소시엄에서 차세대 멀티모달 모델 연구를 맡고 있다. 모델은 총 210억개 파라미터 규모다. SK텔레콤의 A.X K2 기반 소형 언어모델에 크래프톤이 자체 학습한 음성 인코더와 코덱을 결합했다. 음성 인코더는 사람의 목소리를 AI가 처리할 수 있는 정보로 변환하고, 코덱은 AI의 답변을 음성으로 복원한다. 기존 음성 AI는 이용자의 말을 텍스트로 변환한 뒤 답변을 만들고 이를 다시 음성으로 합성하는 다단계 구조가 일반적이다. 이 과정에서 말투와 감정, 억양 등의 정보가 사라질 수 있다. A.X K2 Raon-Speech는 음성에 담긴 비언어적 정보까지 활용해 상황에 맞는 답변을 생성하도록 설계됐다. 크래프톤이 공개한 평가 결과에 따르면 이 모델은 300억개 이하 파라미터급 공개 음성 언어모델 가운데 한국어 종합 성능 1위, 영어 종합 성능 3위를 기록했다. 평가는 음성 인식·합성·이해와 음성·텍스트 질의응답, 도구 호출 등 6개 영역에서 이뤄졌다. 한국어 24개와 영어 22개 등 총 46개 벤치마크가 활용됐다. 크래프톤이 음성 AI에 투자하는 배경에는 게임 캐릭터를 정해진 대사만 반복하는 비플레이어 캐릭터(NPC)에서 이용자와 협업하는 ‘CPC(Co-Playable Character)’로 진화시키려는 전략이 있다. CPC가 이용자의 목소리와 의도를 이해하면 전투 지시를 수행하거나 게임 상황과 감정에 맞춰 대화하는 경험을 구현할 수 있다. 크래프톤은 지난 4월 AI 모델 브랜드 ‘라온’을 출범하고 음성 언어모델과 실시간 음성 대화 모델, 텍스트·음성 변환 모델, 비전 인코더를 공개했다. 이번 모델은 기존 라온의 음성 학습 기술을 A.X K2에 적용한 후속 성과다. 상용 게임 적용을 위해서는 빠른 응답 속도뿐 아니라 유해 발언 통제, 이용자 음성정보 보호, 캐릭터 설정의 일관성도 확보해야 한다. 여러 이용자가 동시에 접속하는 게임 환경에서 추론 비용을 낮추는 기술 역시 중요한 과제다. 이강욱 크래프톤 최고AI책임자는 “게임에 필요한 AI 파운데이션 기술을 지속해서 고도화해 새로운 게임 경험을 만들어 나가겠다”고 말했다. 크래프톤의 AI 전략은 연구 성과 공개를 넘어 실제 게임 플레이를 바꾸는 단계로 향하고 있다. A.X K2 Raon-Speech가 CPC에 적용돼 이용자와 자연스럽게 대화하고 협업하는 수준까지 발전한다면 음성 AI는 게임의 부가 기능이 아니라 플레이 방식을 구성하는 핵심 기술로 자리 잡을 전망이다.2026-07-29 11:10:22
-
SKT, 6880억개 매개변수 'A.X K2' 공개…산업 AX 넘어 조 단위 AI 모델 간다 [경제일보] 인공지능(AI) 경쟁이 거대언어모델(LLM)의 성능을 넘어 산업 현장에 얼마나 효과적으로 적용할 수 있느냐의 경쟁으로 확대되고 있다. 글로벌 빅테크들이 조(兆) 단위 매개변수 모델을 앞세워 AI 주도권 경쟁을 벌이는 가운데 SK텔레콤이 독자 AI 파운데이션 모델 '에이닷엑스 케이투(A.X K2)'를 공개하고 제조와 국방, 바이오 등 산업 현장의 AI 전환(AX)에 속도를 낸다. 향후 조 단위 모델로 확장하는 로드맵도 제시하며 글로벌 AI 경쟁력 확보에도 나설 계획이다. 29일 SK텔레콤은 글로벌 오픈소스 플랫폼 허깅페이스에 매개변수 6880억개(688B) 규모의 독자 AI 파운데이션 모델 'A.X K2'를 공개했다고 밝혔다. A.X K2는 지난해 공개한 5190억개(519B) 규모의 A.X K1의 후속 모델이다. 모델 규모를 확대하는 동시에 수학과 과학 추론 능력, 한국어 지식 이해 능력과 장문 추론 성능 등을 강화했다. SK텔레콤에 따르면 국내외 14개 벤치마크 평균 성능은 A.X K1 대비 32.2% 포인트 향상됐으며, 장문 이해와 AI 에이전트 관련 평가에서는 약 83.9% 포인트 개선된 것으로 나타났다. 이번 성능 향상의 핵심은 SK텔레콤이 자체 개발한 'SGA(희소 게이트 어텐션)' 구조다. 긴 문맥을 처리할 때 관련성이 높은 정보만 선별적으로 참조하는 방식으로, 산업 현장에서 요구되는 정확성과 운영 효율을 높이기 위해 개발됐다. SK텔레콤은 이를 통해 장문의 문서를 이해하고 복잡한 추론을 수행해야 하는 기업용 AI 서비스에 보다 최적화된 성능을 구현했다고 설명했다. A.X K2는 최근 6개월 이내 공개된 글로벌 주요 AI 모델들과도 경쟁력을 확보했다. SK텔레콤은 큐원(Qwen3.5-397B-A17B)과 딥시크(DeepSeek-V4-Flash), GLM-5.1, 키미 K2.6(Kimi-K2.6) 등 해외 주요 AI 모델과 동급 수준의 벤치마크 결과를 기록했다고 밝혔다. SK텔레콤은 이번 A.X K2 공개를 계기로 산업 현장과 국민의 일상에 AI를 적용하는 '산업 AI' 전략에도 속도를 낸다. 이를 위해 총 4차례의 사후 학습을 거쳐 응답 품질과 안정성, 운영 효율 등을 종합적으로 점검했으며 제조와 국방, 바이오 등 다양한 분야에서 활용 사례를 확대하고 있다. 제조 분야에서는 KG스틸과 코넥에 제조 특화 AI 에이전트를 적용한다. 하반기에는 KG스틸 당진공장의 냉간 압연 라인과 코넥의 주조·가공 공정에 제조 특화 AI 에이전트 데모 버전을 적용해 현장 실증을 진행할 예정이다. 산업 현장의 노하우를 AI에 접목해 생산성과 품질 관리 효율을 높이는 것이 목표다. 국방 분야에서는 국방부와 협업해 A.X K1 기반의 양자화 모델 3종을 개발했다. 높은 수준의 보안과 데이터 주권이 요구되는 국방 분야의 특성을 고려해 메모리 사용량을 줄이고 처리 속도를 높이는 양자화 기술을 적용했다. 국방부와 SK텔레콤은 육·해·공군과 해병대 산하 부대에서 해당 모델을 활용할 계획이다. 바이오 분야로의 적용도 검토 중이다. 현재 SK텔레콤은 SK바이오팜과 난치성 암 표적 치료제 개발에 AI를 활용하고 있으며, 통상 1~2년이 소요되던 신약 개발 초기 연구 기간을 약 5개월 수준으로 단축하는 성과를 거둔 것으로 알려졌다. 사무 환경과 일상 영역으로의 적용도 확대되고 있다. SK텔레콤은 A.X K2를 기업용 AI 서비스 '에이닷 비즈(A.Biz)'에 적용해 뉴스레터 생성과 자료 수집·분석, 보고서 작성 기능 등을 제공하고 있다. SK하이닉스의 사내 업무용 AI 도구에도 A.X K2 경량 모델을 제공해 문서 작성과 정보 정리 등 다양한 업무에 활용 중이다. 일상생활에서는 에이닷 전화의 'AI 제안' 기능과 에이닷 '노트' 기능에 A.X K2 경량 모델을 적용했다. 통화 내용을 기반으로 일정과 할 일을 추출하거나 기록된 내용을 목적에 맞게 정리해 이용자의 후속 행동을 지원한다. 이와 함께 SK텔레콤은 자사 AI 모델을 API 형태로 제공하며 국내 AI 생태계 확대에도 나서고 있다. 과학기술정보통신부가 주최하는 '전국민 AI 경진대회' 참가자들과 중소벤처기업부의 '모두의 챌린지 AX-LLM'에 선정된 스타트업 등에 A.X K1을 제공하고 있으며, 정부가 추진하는 '모두의 AI' 사업에도 참여할 예정이다. SK텔레콤은 향후 A.X K2의 후속 모델을 조 단위 매개변수 규모로 확대해 글로벌 경쟁력을 확보한다는 계획이다. 최근 공개된 키미가 2조8000억개 규모의 매개변수를 기반으로 미국 최상위 AI 모델에 준하는 성능을 선보이는 등 글로벌 AI 시장에서는 조 단위 모델이 새로운 경쟁 기준으로 자리 잡고 있다. 오픈AI와 구글, 앤트로픽 등 글로벌 빅테크들은 모델 규모를 공개하지 않고 있지만, 최정상급 AI 모델은 조 단위 모델을 기반으로 구축한 뒤 이를 경량화하는 방식이 일반적인 흐름으로 평가된다. SK텔레콤 역시 글로벌 선도 사업자 수준의 AI 경쟁력을 확보하기 위해 독자 AI 모델의 규모와 성능을 지속적으로 고도화한다는 방침이다. 또한 SK텔레콤은 A.X K2를 중심으로 비전 인코더 기반의 비전 언어(VL) 모델과 오디오 인코더·디코더 기반의 음성 모델 등 파생 모델 라인업도 공개했다. 이미지와 텍스트를 함께 이해하는 'A.X K2 VL Light-Preview'는 보고서와 매뉴얼, 법률 문서 분석 등에 활용할 수 있으며, 'A.X K2 ALM'은 고객센터 음성 통화 분석 등에 적용될 예정이다. 크래프톤이 개발한 'A.X K2 Raon-Speech'는 향후 게임 내 AI 음성 상호작용 기술 고도화에 활용된다. SK텔레콤은 제조와 국방, 바이오를 비롯한 산업 현장과 국민의 일상 전반에 AI를 적용하는 동시에 조 단위 독자 AI 모델 개발을 통해 글로벌 AI 경쟁력 확보에 속도를 낸다는 전략이다. 김태윤 SK텔레콤 파운데이션 모델 담당은 "개인의 일상생활부터 사무 환경, 제조 현장까지 폭넓게 활용될 수 있도록 다양한 기능을 고도화했다"며 "앞으로도 다양한 산업 분야에 A.X K2를 적용·발전시켜 국가 경쟁력 강화에 기여해 나가겠다"고 말했다.2026-07-29 09:16:12
-
카카오, '카나나' 경량 언어모델 4종 공개…한국어 AI 생태계 확대 나선다 [경제일보] 인공지능(AI) 시장의 경쟁이 거대언어모델(LLM)을 넘어 스마트폰과 PC 등 기기에서 직접 구동되는 온디바이스 AI로 확대되면서 경량 언어모델(SLM)의 중요성이 커지고 있다. 글로벌 빅테크들이 경량 AI 모델을 앞세워 온디바이스 AI 생태계 선점에 나선 가운데 카카오가 자체 AI 모델 '카나나'의 경량 언어모델을 오픈소스로 공개하며 한국어 기반 AI 생태계 확대에 나섰다. 28일 카카오는 글로벌 AI 오픈소스 플랫폼 허깅페이스에 스마트폰 등과 같은 디바이스 환경에서 구동할 수 있는 경량 언어모델(SLM) 4종을 공개했다고 밝혔다. 공개된 모델은 'Kanana-2-1.3B-base', 'Kanana-2-1.3B-instruct', 'Kanana-2-3B-base', 'Kanana-2-3B-instruct' 등 총 4종이다. 최근 AI 업계는 거대언어모델 중심의 경쟁과 함께 스마트폰과 개인용 PC 등에서 직접 구동되는 온디바이스 AI 경쟁이 본격화되고 있다. 클라우드 기반 AI 서비스가 높은 성능을 제공하는 대신 높은 비용과 개인정보 보호 문제가 제기되면서 경량 AI 모델의 중요성이 커지고 있기 때문이다. 글로벌 기업들 역시 온디바이스 AI를 핵심 전략으로 내세우거나 경량 오픈소스 모델을 공개하며 관련 생태계 확대에 속도를 내고 있다. 카카오 역시 이 같은 흐름에 맞춰 클라우드 기반 대규모 AI와 온디바이스 AI를 동시에 확보하는 '투트랙' 전략을 강화하고 있다. 이번에 공개한 모델들은 카카오가 다양한 AI 모델을 개발하며 축적한 기술과 경험을 바탕으로 개발됐으며, 현재 '카나나 인 카카오톡'과 카카오톡 대화 요약 및 통화 요약, AI 국민비서 등 다양한 서비스에 카카오의 경량 AI 모델이 적용되고 있다. 카카오는 이번 모델들의 가장 큰 특징이 작은 크기에도 한국어와 영어 모두에서 경쟁력 있는 성능을 구현했다는 것이라고 설명했다. 카카오는 유사 규모의 최신 오픈소스 모델과 비교해 한국어와 영어, 지식, 수학, 코드 등 주요 벤치마크 대부분에서 우수한 성능을 기록했다고 강조했다. 특히 'Kanana-2-1.3B-instruct'와 함께 개발된 'Kanana-2-0.9B-instruct'는 대화와 지식, 코드 생성, 수학, 지시 이행, 툴 호출 등 실제 서비스 활용 역량에서도 글로벌 모델과 경쟁력 있는 성능을 보였다. 경량 모델임에도 실제 서비스 적용이 가능한 수준의 성능을 확보하는 데 초점을 맞춘 것이다. 특히 카카오는 자체 개발한 한국어 특화 토크나이저를 모델 전반에 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저는 AI가 텍스트를 이해하기 위해 문장을 일정 단위로 분리하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 적용할수록 같은 문장을 보다 적은 토큰으로 처리할 수 있어 연산 속도는 빨라지고 비용은 줄어드는 것으로 알려졌다. 온디바이스 환경에 최적화된 설계도 적용됐다. 카카오는 긴 대화를 처리할 때 메모리 사용량이 급격히 증가하는 문제를 해결하기 위해 '슬라이딩 윈도우 어텐션' 구조를 도입했다. 이를 통해 최대 3만2000 토큰(약 2만4000 단어) 길이의 대화에서도 메모리 사용량을 최대 72.7%까지 줄이면서 안정적인 성능을 유지할 수 있는 것으로 나타났다. 카카오는 이번 모델을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포한다. 개발자와 스타트업, 연구기관 등이 별도의 제약 없이 활용할 수 있도록 개방해 국내 한국어 AI 생태계 확대에도 기여한다는 방침이다. AI 시장이 클라우드 기반 거대언어모델과 온디바이스 AI를 중심으로 재편되면서 경량 AI 모델 확보 경쟁 역시 본격화되고 있다. 카카오는 이번 오픈소스 공개를 계기로 자체 AI 모델 경쟁력을 강화하는 동시에 한국어 기반 AI 생태계 확대에도 속도를 낸다는 계획이다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며, 이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.2026-07-28 11:13:17
-
AI 팩토리 시대 핵심은 경량화…노타, 솔라 오픈2 메모리 76% 줄였다 [경제일보] 생성형 인공지능(AI)의 경쟁 기준이 빠르게 변화하고 있다. 과거에는 얼마나 큰 AI 모델을 만들 수 있느냐가 경쟁력이었다면 최근에는 이를 얼마나 효율적으로 운영할 수 있는지가 핵심 요소로 떠오르고 있다. AI 에이전트 시대가 본격화되면서 기업들이 마주한 과제 역시 성능 경쟁을 넘어 GPU 비용과 운영 효율성 확보로 확대되는 가운데, 노타가 대규모 AI 모델을 GPU 2장만으로 구동할 수 있는 경량화 기술을 선보이며 기업들의 AI 전환(AX) 비용 절감에 나섰다. 27일 노타는 업스테이지와 함께 참여 중인 정부 독자 AI 파운데이션 모델 프로젝트의 2차 성과물인 '솔라 오픈2' 전용 경량화 모델을 공개했다고 밝혔다. 최근 글로벌 AI 시장에서는 딥시크와 문샷 AI의 '키미' 시리즈 등 고성능 오픈 웨이트 모델이 주목받고 있다. 다만 AI 경쟁의 기준은 단순히 모델 성능을 넘어 실제 업무 환경에서 얼마나 효율적으로 활용할 수 있는지로 확대되고 있다. 특히 문서 업무와 코딩, 검색, 툴 호출 등을 수행하는 AI 에이전트가 확산되면서 토큰 사용량과 연산 비용이 크게 증가하고 있어 AI 운영 비용을 낮추는 경량화 기술이 새로운 경쟁력으로 부상하고 있다. 기업들의 AI 인프라 경쟁 역시 새로운 국면을 맞고 있다. AI 팩토리와 AI 데이터센터 구축 경쟁이 본격화되면서 GPU 확보가 중요한 과제로 떠올랐지만, 높은 구축 비용과 전력 소비는 여전히 기업들의 부담으로 꼽힌다. 같은 성능을 보다 적은 GPU로 구현할 수 있다면 인프라 구축 비용과 운영 비용을 동시에 절감할 수 있는 만큼 AI 경량화 기술의 중요성도 커지고 있다. 솔라 오픈2는 문서 업무와 코딩, 툴 호출, 다단계 추론 등 실제 기업 업무에 활용할 수 있는 AI 에이전트 구현에 초점을 맞춘 대규모 언어모델(LLM)이다. 총 2500억개의 매개변수를 갖추고 있으며 실제 작업 시에는 필요한 150억개의 매개변수만 활성화하는 '전문가 혼합(MoE)' 구조를 채택했다. 하나의 모델 안에 있는 여러 연산 모듈 가운데 일부만 선택적으로 활용하는 방식으로 연산 효율성을 높인 것이 특징이다. 노타는 해당 솔라 오픈2의 기능을 실제 기업 환경에 보다 효율적으로 배포할 수 있도록 데이터 기반 MoE 양자화와 라우터 인지형 MoE 양자화, 비균일 전역 프루닝 기술 등을 적용했다고 설명했다. 양자화는 모델을 보다 낮은 정밀도의 데이터 형식으로 변환해 메모리 사용량을 줄이는 기술이며, 프루닝은 중요도가 낮은 연산 모듈을 선택적으로 제거해 모델을 경량화하는 기술이다. 특히 데이터 기반 MoE 양자화에는 모델 가중치를 4비트 저정밀 형식으로 변환하면서도 모든 전문가 모듈이 안정적인 통계치를 확보할 수 있도록 캘리브레이션 데이터를 합성하는 'PASCAL-MoE' 기술이 활용됐다. 라우터 인지형 MoE 양자화에는 양자화 이후에도 라우터가 전문가 모듈을 안정적으로 선택할 수 있도록 자체 개발한 양자화 알고리즘이 적용됐다. 이를 통해 노타는 원본 모델의 가중치 메모리를 기존 500.6GB에서 117.8GB로 약 76.5% 줄이는 데 성공했다고 강조했다. 기존에는 엔비디아 'H100 GPU' 8장이 필요했던 환경을 GPU 2장만으로 구동할 수 있도록 최적화했으며, 양자화 이후에도 AI 에이전트의 핵심 기능인 툴 호출 성능을 안정적으로 유지하는 것으로 알려졌다. 실제로 글로벌 AI 시장 역시 성능 경쟁에서 운영 효율성 경쟁으로 무게 중심이 이동하고 있다. 높은 성능의 AI 모델을 보다 적은 인프라로 구동할 수 있는 기술이 기업들의 AI 도입 장벽을 낮추는 핵심 요소로 떠오르면서 경량화 기술이 AI 팩토리 시대의 필수 기술로 자리 잡고 있는 것이다. 노타는 이번 솔라 오픈2 경량화 모델을 통해 국내 기업들이 보다 적은 비용으로 AI 에이전트를 도입하고 활용 범위를 확대할 수 있을 것으로 기대하고 있다. 특히 별도의 대규모 GPU 인프라를 구축하기 어려운 기업들도 효율적으로 AI 서비스를 운영할 수 있도록 지원해 AI 전환을 가속화한다는 계획이다. 노타가 공개한 솔라 오픈2 전용 경량화 모델은 글로벌 AI 플랫폼 허깅페이스를 통해 확인할 수 있다. 김태호 노타 CTO는 "이번 성과는 대규모 MoE 모델을 기업이 실제 도입할 수 있는 형태로 최적화했다는 데 의미가 있다"며 "기업이 자사의 인프라와 예산에 맞춰 에이전트 AI를 도입하고 활용 범위를 확장할 수 있도록 모델 구조와 하드웨어 환경에 최적화된 양자화 및 경량화 기술을 지속해서 고도화하겠다"고 말했다.2026-07-27 14:27:30
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개 [경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.2026-06-16 14:07:30
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 흔들리는 증시와 AI 대전환, 금융의 기본과 상식부터 바로 세워라](https://image.ajunews.com/content/image/2026/10/16/20261016092344750114_518_323.jpg)