검색결과 총 7건
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위
[경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.
2026-08-18 11:09:21
-
-
-
정부·LG·KT, '로봇 두뇌' 국산화 시동…피지컬 AI 주도권 잡는다
[경제일보] 정부와 LG전자, KT 등 산학연 연합군이 한국형 피지컬 인공지능(AI) 개발에 본격 착수했다. 챗GPT가 언어를 이해하고 답하는 AI의 대중화를 열었다면 이번 프로젝트는 로봇이 현실 세계를 이해하고 움직이도록 하는 ‘로봇의 두뇌’를 독자 기술로 만들겠다는 시도다. 과학기술정보통신부와 정보통신기획평가원(IITP)은 9일 서울 강서구 LG사이언스파크에서 ‘피지컬 AI 선도기술개발 사업’ 착수보고회를 열었다. 이번 사업에는 올해부터 2년간 정부출연금 340억원이 투입된다. LG전자가 주관하고 KT, 마음AI, 로보티즈, 홀리데이로보틱스, 크라우드웍스, 알체라, KAIST, 서울대, 한국정보통신기술협회(TTA) 등 10개 산학연 기관이 참여한다. 피지컬 AI는 생성형 AI 경쟁의 다음 단계로 꼽힌다. 지금까지 AI가 주로 텍스트와 이미지 코드를 만들어내는 데 집중했다면 앞으로는 로봇과 공장 설비, 자율주행 장비가 실제 공간에서 판단하고 행동하는 능력이 중요해진다. 물체의 무게와 충돌, 이동 경로, 힘의 작용 같은 물리 법칙을 AI가 이해해야 제조·물류·서비스 현장에서 사람을 보조하거나 대체할 수 있다. 이번 사업의 핵심은 월드모델과 로봇 파운데이션 모델이다. 월드모델은 AI가 가상 공간에서 현실의 물리 법칙과 상황 변화를 학습하는 기술이다. 로봇 파운데이션 모델은 이 학습 결과를 실제 로봇의 행동과 제어로 연결하는 기반 모델이다. 쉽게 말해 월드모델이 로봇이 세상을 이해하는 방식이라면 로봇 파운데이션 모델은 그 이해를 움직임으로 바꾸는 실행 체계다. 한국이 이 분야에서 승부를 걸 수 있는 배경은 제조 현장 데이터다. 반도체, 전자, 자동차, 배터리, 조선 등 한국 주력 산업은 복잡한 공정과 설비 운영 경험을 갖고 있다. 공장 안에서 축적된 작업 데이터와 장비 운용 노하우는 외부 빅테크가 쉽게 확보하기 어려운 자산이다. 정부와 기업은 이 데이터를 기반으로 연구실용 로봇이 아니라 산업 현장에서 작동하는 피지컬 AI를 만들겠다는 구상이다. LG전자는 자체 초거대 AI 모델 ‘엑사원(EXAONE)’과 제조 현장 데이터를 활용해 월드모델 개발을 주도한다. KT는 생성형 AI ‘믿:음’과 플랫폼 운영 경험을 바탕으로 월드모델을 로봇 행동모델로 연결하는 역할을 맡는다. 로보티즈는 로봇 하드웨어와 제어 기술을 담당하고 홀리데이로보틱스는 물리 법칙을 정밀하게 구현하는 국산 다중물리 시뮬레이터 엔진 개발을 맡는다. 이번 프로젝트가 주목받는 이유는 국산화에 있다. 글로벌 피지컬 AI 경쟁은 엔비디아, 구글 딥마인드 등 빅테크가 주도하고 있다. 로봇 학습에 필요한 시뮬레이터와 GPU 인프라, 월드모델 기술을 해외 플랫폼에 의존하면 한국 제조업의 데이터와 현장 경쟁력이 외부 생태계에 종속될 수 있다. 정부가 월드모델과 시뮬레이터, 로봇 행동모델의 독자 개발을 강조하는 이유다. 사업 목표도 비교적 분명하다. 정부는 월드모델 학습, 로봇 파운데이션 모델 연계, 실증과 성능평가, 사례 분석과 재학습으로 이어지는 실증 파이프라인을 구축한다. 핵심 성과지표는 월드모델을 적용하지 않았을 때보다 실제 로봇의 최종 동작 성공률을 20%포인트 이상 높이는 것이다. 연구 성과를 논문이나 시연에 그치지 않고 실제 제조·물류 현장 검증으로 연결하겠다는 의미다. 성과 확산을 위해 개발 결과물을 오픈소스로 공개하는 방안도 추진된다. 대규모 데이터와 인프라가 없는 중소기업도 소량의 현장 데이터만으로 자동화 혁신을 시도할 수 있도록 지원하겠다는 취지다. 피지컬 AI가 대기업 전용 기술에 머물지 않고 산업 생태계 전반으로 확산되려면 이런 개방형 접근이 필요하다. 앞으로의 관건은 인프라와 실증 속도다. 피지컬 AI는 텍스트 중심 대규모언어모델보다 훨씬 많은 영상, 3D, 센서, 시뮬레이션 데이터를 처리해야 한다. 초고속 스토리지와 GPU, 로봇 검증 공간이 결합된 국가 차원의 학습·검증 인프라가 뒷받침돼야 한다. 실제 공장과 물류 현장에서 반복 실험을 수행할 수 있는 테스트베드도 필요하다. 이번 사업은 한국이 피지컬 AI 경쟁에서 독자 생태계를 만들 수 있을지를 가르는 첫 시험대다. 한국의 강점은 거대한 모델 이름이 아니라 반도체와 제조 현장, 로봇을 실제로 움직일 수 있는 산업 기반에 있다. 월드모델과 로봇 파운데이션 모델이 연구실의 성과를 넘어 공장과 물류 현장의 생산성, 안전성, 효율로 증명될 때 비로소 한국형 피지컬 AI도 글로벌 경쟁의 한 축으로 설 수 있다. 기술의 승부는 선언에서 나지 않는다. 현장에서 움직이는 로봇 한 대, 실패를 줄이는 공정 하나, 사람이 더 안전하게 일하는 작업장 하나가 쌓일 때 국가 AI 전략의 무게도 비로소 증명될 것이다.
2026-06-09 17:34:27
-
-
-