2026.09.29 화요일
검색
'안전성 평가' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오, AI 안전성 평가 외부 검증 확대…모델 넘어 에이전트로 [경제일보] 카카오가 인공지능안전연구소와 AI 모델·에이전트의 안전성을 함께 평가하고 검증 도구를 개발한다. 자체 평가 체계에 외부 연구기관의 검토를 더해, AI가 실제 서비스에서 일으킬 수 있는 위험을 출시 전후로 확인하겠다는 계획이다. 카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 업무협약(MOU)을 맺었다고 29일 밝혔다. 카카오는 평가 대상 모델과 에이전트, 평가에 필요한 인프라를 제공하고 연구소는 평가 수행과 방법론 고도화를 맡는다. 결과는 양측이 공동 검토하고 공개 범위를 협의하기로 했다. 협력은 언어모델 평가에서 시작해 멀티모달 모델과 AI 에이전트로 확대하는 3단계로 추진된다. 마지막 단계에서는 모델과 에이전트의 안전성을 검증하는 평가 도구도 공동 개발한다. 다만 협약 발표 자료에는 단계별 완료 시점과 결과 공개 기준이 담기지 않았다. 카카오는 지난해에도 인공지능안전연구소 등과 자체 언어모델 ‘카나나 에센스 1.5 9.8B’를 평가했다. 과학기술정보통신부가 발표한 국내 첫 AI 모델 안전성 평가로, 한국정보통신기술협회(TTA) 등이 참여해 유사 규모의 해외 모델과 비교했다. 카카오는 평가 결과를 공개하며 비교 모델 가운데 높은 점수를 기록했다고 밝혔다. 다만 지난해 평가가 AI의 모든 위험을 다룬 것은 아니다. 카카오가 공개한 평가 설명을 보면 모델의 부정확한 응답과 유해 콘텐츠 생성, 공격 프롬프트 대응 등을 살폈지만, 모델의 장기적인 통제 가능성이나 이용자의 사용 방식에 따라 달라지는 위험은 평가에서 제외했다. 카카오도 정보가 부족한 상황에서 구체적인 답을 시도하는 경향과 복합적인 공격에 대한 보완 필요성을 제시했다. 이번 협약에서 평가 대상을 에이전트까지 넓히는 것은 이 같은 검증 범위를 실제 서비스에 가까운 환경으로 확장하는 작업이다. 에이전트는 답변 생성에 그치지 않고 외부 도구나 서비스와 연동해 작업을 수행할 수 있어, 모델의 응답 안전성뿐 아니라 권한 설정과 실행 과정도 평가 대상이 될 수 있다. 구체적으로 어떤 시나리오와 기준을 적용할지는 양사가 정할 예정이다. 한편 인공지능안전연구소는 한국전자통신연구원(ETRI) 산하 조직으로 AI 안전 평가와 기술·정책 연구, 국제 협력을 맡고 있다. 카카오는 이번 협약으로 자체 평가 체계와 외부 전문기관의 평가를 병행하게 된다. 협력이 실효성을 얻으려면 평가 결과뿐 아니라 적용한 기준과 제외한 위험, 개선 조치도 함께 공개할 수 있어야 한다. 카카오와 연구소는 결과 공개 범위를 협의하기로 한 만큼, 향후 공개 수준이 평가의 신뢰도를 가를 요소다.2026-09-29 11:00:23
-
FDA, 신약 안전성 규정서 '동물' 삭제…오가노이드·장기칩 시대 열리나 [경제일보] 미국 식품의약국(FDA)이 신약 개발 과정에서 동물실험 의존도를 낮추기 위한 규제 정비에 나섰다. 의약품 안전성 시험 규정에서 ‘동물 시험’이라는 표현을 삭제하고 사람 유래 세포와 장기칩, 컴퓨터 모델링 등 비동물 시험법을 포함할 수 있도록 규정상 근거를 명확히 했다. 23일 관련 업계에 따르면 FDA는 지난 21일(현지시간) 사람 대상 의약품·생물의약품의 임상시험 전 안전성 평가에 비동물법을 활용할 수 있도록 하는 직접최종규칙(direct final rule)을 발표했다. 해당 규칙은 연방관보에 게재됐다. 이번 개정의 핵심은 규정상 용어를 바꾸는 것이다. FDA는 기존 ‘동물 시험(animal tests)’과 ‘동물 연구(animal studies)’를 각각 ‘비임상 시험(nonclinical tests)’과 ‘비임상 연구(nonclinical studies)’로 변경한다. ‘전임상(preclinical)’과 ‘시험관 내(in vitro)’ 등 관련 표현도 ‘비임상’ 중심으로 정비한다. FDA는 동물실험을 전면 폐지하는 조치는 아니라고 선을 그었다. 이번 규칙은 동물시험만이 신약의 안전성을 판단하는 유일한 방법으로 읽힐 수 있는 규정 문구를 없애고 과학적으로 검증된 새로운 시험법을 비임상 평가에 활용할 수 있도록 하는 데 초점이 맞춰졌다. 기존 안전성 평가 기준이나 FDA의 증거 요구 수준을 낮추는 내용도 아니다. FDA가 규제 문구까지 손질한 것은 동물대체시험법 활용을 확대하려는 정책의 연장선이다. FDA는 신약 개발에서 동물시험을 줄이거나 대체하기 위한 신접근방법론(NAMs)을 확대하고 있다. NAMs에는 인간 세포 기반 시험과 오가노이드, 장기칩, 컴퓨터 모델링 등이 포함된다. 올해 들어서도 관련 움직임이 이어졌다. FDA는 지난 5월 일부 항암제의 비임상 안전성 평가에서 불필요한 동물시험을 줄일 수 있는 가이드라인 초안을 발표했다. 특정 조건에서는 동물시험을 줄이거나 한 종만 활용하고 과학적 근거가 확보된 대체 방법으로 일부 시험을 대신할 수 있도록 하는 내용이다. 이번 규정 개정으로 오가노이드와 장기칩, 인공지능(AI)·컴퓨터 모델링 등 NAMs 관련 산업에도 변화가 예상된다. 신약 개발사 입장에서는 비임상 단계에서 활용할 수 있는 시험법의 선택지가 넓어지고 새로운 시험법을 규제기관에 제시할 수 있는 제도적 불확실성도 일부 줄어들 수 있다. 다만 이번 조치가 곧바로 동물시험을 비동물시험으로 대체한다는 의미는 아니다. FDA 역시 과학적으로 검증된 대체시험법과 동물시험을 모두 비임상 평가 수단으로 인정하고 있다. 실제 활용 범위는 각 시험법의 검증 수준과 신약의 특성, FDA와 개발사의 협의 등에 따라 결정될 전망이다. FDA의 직접최종규칙은 내년 2월 4일부터 시행될 예정이다. FDA는 오는 12월 7일까지 의견을 받는다. 중대한 반대 의견이 제기될 경우 직접최종규칙을 철회하고 함께 공개한 별도의 제안규칙 절차를 통해 개정을 이어갈 수 있다.2026-09-23 14:58:28
-
배경훈, AI 감속론에…"우리는 지금 AI의 속도를 늦출 여유가 없다" [경제일보] 글로벌 인공지능(AI) 업계가 개발 속도와 안전을 놓고 갈라진 가운데 정부는 독자 모델 고도화와 프론티어 AI 개발을 계속 추진하겠다는 입장을 밝혔다. 선도국을 따라잡아야 하는 한국에는 개발 속도를 낮추는 것보다 연산 인프라와 안전장치를 함께 갖추는 일이 우선이라는 판단이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 16일 사회관계망서비스(SNS)를 통해 “우리는 지금 AI의 속도를 늦출 여유가 없다”고 밝혔다. 최근 미국에서는 다리오 아모데이 앤트로픽 최고경영자(CEO)가 고도화된 AI의 통제 위험을 이유로 개발 속도를 낮추자고 주장하면서 논쟁이 커졌다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO가 이에 호응한 반면 젠슨 황 엔비디아 CEO와 마크 저커버그 메타 CEO는 산업 전체가 속도를 늦추는 방식에 반대했다. 배 부총리는 “이미 앞서 있는 나라가 속도를 조절하는 것과, 추격하면서 시장을 새로 만들어야 하는 나라가 속도를 낮추는 것은 완전히 다른 문제”라고 강조했다. 한국은 독자 거대언어모델(LLM)을 고도화하는 동시에 시각언어모델(VLM)과 시각언어행동모델(VLA) 등 산업 현장에서 활용할 기술로 영역을 넓혀야 한다는 설명이다. 프론티어 AI 확보도 국가 경쟁력과 연결했다. 그는 “프론티어 AI 역량을 확보한 국가와 그렇지 못한 국가 사이의 격차는 단순한 기술 격차에 그치지 않을 것”이라며 산업과 경제, 안보, 국가의 미래 경쟁력에 영향을 줄 수 있다고 말했다. 정부가 추진하는 독자 AI 파운데이션 모델 프로젝트는 지난 8월 2단계 평가를 거쳐 LG AI연구원, SK텔레콤, 업스테이지 등 3개 팀으로 압축됐다. 정부는 3차 평가를 통해 최종 2개 팀을 선정할 예정이다. 대규모 연산 자원 확보는 풀어야 할 과제다. 배 부총리는 지난 7월 업무보고에서 프론티어급 모델 개발에는 약 1만장의 그래픽처리장치(GPU)가 필요하다고 밝혔다. 당시 독파모 참여 기업에 대한 지원 규모는 엔비디아 B200 기준 팀당 735장 수준이었다. 개발 속도를 높이는 과정에서 안전 체계도 함께 마련한다. 정부는 올해 1월 시행된 AI기본법을 토대로 딥페이크와 사이버보안, 개인정보 보호, 고영향 AI 등에 대응할 제도적 기반을 정비하고 있다. 독파모를 활용한 ‘모두의 AI’와 보안 특화 모델 사업도 추진한다. 배 부총리는 “AI가 빨라질수록 안전과 신뢰를 준비하는 우리의 속도도 더 빨라져야 한다”며 “AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되, 위험에는 제대로 작동하는 브레이크를 갖춰야 한다”고 말했다. 그는 “속도는 경쟁력이고 안전은 지속가능성”이라며 독파모의 다음 단계와 프론티어 AI 모델 개발 방향을 조만간 공개하겠다고 예고했다. 정부 구상이 성과로 이어지려면 GPU와 데이터 확보 규모, 독자 모델의 실제 활용처, 안전성 평가 기준을 구체적으로 제시해야 한다.2026-09-16 15:14:10
-
SKT·업스테이지, 보안 AI로 의기투합…'국산 AI' 실전 투입 나선다 [경제일보] SK텔레콤이 독자 인공지능(AI) 파운데이션 모델 경쟁을 넘어 사이버 보안 분야에서 AI 상용화에 나선다. 독자 AI 파운데이션 모델 2차 평가에서 경쟁했던 SK텔레콤과 업스테이지가 보안 AI 개발을 위해 손잡고, 국내 주요 보안 기업 9곳까지 합류한 '보안 AI 올스타팀'을 꾸렸다. 대규모 언어 모델(LLM)을 실제 보안 현장에 적용해 위협 탐지부터 대응까지 자동화하는 것을 목표로 이번 협업을 진행한다. 27일 SK텔레콤은 업스테이지와 국내 주요 보안 기업, 대학, 한국정보보호산업협회(KISIA) 등과 컨소시엄을 구성하고 과학기술정보통신부가 추진하는 '사이버 보안 특화 AI 파운데이션 모델' 개발 사업에 참여 신청서를 제출했다고 밝혔다. 이번 컨소시엄은 최근 독자 AI 파운데이션 모델 사업 2차 평가에서 살아남은 3개 팀 가운데 SK텔레콤과 업스테이지가 한 팀으로 뭉친 것이 특징이다. 두 회사는 각각 독자 AI 모델인 'A.X K'와 'Solar Open' 계열을 개발해 온 경험을 바탕으로 보안에 특화된 AI 모델 개발을 맡는다. 독자 AI 파운데이션 모델 사업이 국내 자체 AI 모델의 경쟁력을 확보하는 데 초점을 맞혔으며, 이번 사업을 통해 확보한 AI 기술을 특정 산업 현장에 적용한다는 구상이다. 특히 사이버 보안은 실시간으로 대량의 데이터를 분석하고 위협에 대응해야 하는 만큼 AI 활용 가능성이 큰 분야로 꼽힌다. 최근 보안 관제 센터(SOC)에는 하루에도 수많은 보안 경보가 발생하는 것으로 알려졌다. 이에 사람이 모든 경보를 일일이 분석하기에는 한계가 있는 만큼 AI를 활용해 위협 여부를 판단하고 대응 과정까지 자동화하려는 움직임이 커지고 있다. 이번 컨소시엄은 AI 모델 개발에 그치지 않고 실제 보안 현장에서 모델을 검증하는 구조를 갖췄다. SK텔레콤과 업스테이지가 모델 개발을 맡고, 보안 기업들이 실제 운영 과정에서 축적한 데이터를 학습에 활용한다. 이후 개발된 모델을 각 기업의 상용 제품과 보안관제 환경에 적용해 성능을 검증하고 개선하는 방식이다. SK텔레콤은 AI 모델과 'AI 에이전트'를 결합해 위협 탐지부터 분석, 대응까지 자동화한다는 구상이다. 단순히 '공격이 발생했다'고 알려주는 수준을 넘어 AI가 공격 유형과 위험도를 판단하고 적절한 대응 조치까지 수행하도록 하는 것을 목표로 구현하고 있다. 이를 위해 SK쉴더스, 시큐아이, 안랩, 이글루코퍼레이션, 라온시큐어, 스마트엠투엠, 에임인텔리전스, 지니언스, 파이오링크 등 9개 보안 기업이 컨소시엄에 참여한다. 보안관제와 위협 분석부터 네트워크, 단말, 인증, 취약점 점검, AI 모델 안전성 평가 등 각 분야의 전문성을 결합한다. SK텔레콤 역시 통신 인프라를 24시간 관제하며 축적한 보안 운영 경험을 활용한다. CEO 직속 정보보호최고책임자(CISO) 조직 아래 통합보안센터를 운영하고 있으며 129명의 전담 인력이 24시간 탐지·대응 업무를 수행하고 있다. 개인정보보호책임자(CPO) 조직까지 포함하면 관련 인력은 149명 규모다. 보안 AI의 경쟁력은 결국 얼마나 양질의 보안 데이터를 확보하고 실제 현장에서 검증하느냐에 달려 있다. 이번 컨소시엄에는 보안 기업뿐 아니라 고려대학교와 숭실대학교 산학협력단, KISIA도 참여해 모델 성능과 안전성 검증, 전문인력 양성 및 산업계 확산을 맡는다. 특히 국내 보안 환경에 맞는 AI 모델을 확보한다는 점도 이번 사업의 특징이다. 해외에서 개발된 AI 모델을 그대로 활용하기보다 국내에서 발생하는 사이버 위협과 한국어 보안 데이터, 국내 규제 환경 등을 반영한 모델을 개발해 국내 보안 산업의 AI 전환을 지원한다는 것이다. 다만 보안 AI가 실제 현장에 안착하기 위해서는 데이터 확보와 개인정보·기업 기밀 보호, AI의 오탐과 오판을 줄이는 문제 등이 과제로 꼽힌다. AI가 보안 판단을 잘못 내릴 경우 정상적인 서비스를 공격으로 판단하거나 실제 위협을 놓칠 가능성도 있기 때문이다. 이에 모델 성능뿐 아니라 안전성을 독립적으로 검증하는 체계가 중요해질 전망이다. 조동연 SK텔레콤 AI 컨버전스 담당은 "국내 보안 현장의 데이터와 노하우를 국산 AI 모델에 담아 실전형 보안 AI 체계를 만들겠다"며 "국내 산학연이 함께 만든 역량으로 글로벌 시장에서도 경쟁할 수 있도록 보안 AI 생태계를 넓혀가겠다"고 말했다.2026-08-27 09:31:13
-
HLB테라퓨틱스 RGN-259, 美 3상 마지막 환자 방문 완료…'11월 성적표 공개' [경제일보] HLB테라퓨틱스가 신약 후보물질 ‘RGN-259’의 미국 임상 3상 마지막 관문을 넘었다. 환자 대상 임상 절차를 모두 마치면서 오는 11월 임상 결과 공개만을 남겨두게 됐다. 다만 앞서 유럽 임상 3상에서 통계적 유의성을 확보하지 못했던 만큼 이번 미국 임상 결과가 RGN-259의 상업화 가능성을 가를 핵심 분기점이 될 전망이다. 26일 HLB테라퓨틱스에 따르면 미국 자회사 리젠트리(ReGenTree)를 통해 진행한 신경영양성각막염(NK) 치료제 RGN-259의 글로벌 임상 3상(SEER-2)에서 마지막 환자 방문(LPLV)을 완료했다고 밝혔다. 회사는 데이터 정리와 통계 분석을 거쳐 11월 중 톱라인 결과를 도출한다는 계획이다. LPLV는 마지막 환자의 최종 투약과 이상반응·안전성 평가 등 환자를 대상으로 한 임상 절차가 끝나는 시점이다. 이후 데이터 클리닝과 데이터베이스 잠금, 통계 분석 등을 거쳐 임상 결과가 확정된다. SEER-2는 RGN-259의 각막 상처 치유 효과와 안전성을 평가하는 무작위배정·이중눈가림·위약대조 방식의 글로벌 3상이다. 당초 약 70명의 신경영양성각막염 환자를 대상으로 설계됐으며 1차 평가지표는 투약 후 각막 상처가 완전히 치유된 환자의 비율이다. 이번 임상은 미국 41개 병원과 이탈리아·스페인·폴란드 등 유럽 3개국 9개 병원을 포함한 50개 의료기관에서 진행됐다. 지난 7월 환자 모집을 종료한 뒤 투약과 추적관찰을 이어왔으며 이번 LPLV 완료로 환자 대상 절차까지 마무리했다. 회사는 데이터 정리 및 분석을 거쳐 11월 톱라인 결과를 내놓을 예정이다. RGN-259는 티모신 베타4(Tβ4)를 주성분으로 하는 점안제다. Tβ4는 세포 이동과 상처 치유, 세포 보호 및 항염 작용 등에 관여하는 것으로 알려져 있다. RGN-259는 이 같은 기전을 바탕으로 손상된 각막의 회복을 촉진하는 치료제로 개발되고 있다. 신경영양성각막염은 삼차신경 손상 등으로 각막의 감각이 떨어지고 자연적인 치유 능력이 저하되는 희귀 안과질환이다. 각막 상피 손상이 지속되면 궤양과 각막 천공, 시력 저하로 이어질 수 있다. 현재 미국에서 승인된 대표적인 치료제는 재조합 인간 신경성장인자(NGF) 계열인 옥서베이트(Oxervate)로 치료 과정에서 하루 여러 차례 점안해야 하는 부담 등이 있다. RGN-259는 이미 한 차례 3상에서 가능성을 확인했다. 초기 3상인 SEER-1에는 18명이 참여했으며 RGN-259 투약군 10명 가운데 6명, 위약군 8명 가운데 1명이 4주 후 각막 완전 치유를 보였다. 다만 1차 평가지표의 통계적 유의성은 Fisher 정확검정에서 p=0.0656으로 기준치인 0.05를 넘었다. 회사는 다른 통계방법인 카이제곱 검정에서는 p=0.0400을 기록했다고 설명했다. 이에 회사는 미국과 유럽에서 각각 후속 3상인 SEER-2와 SEER-3를 진행하며 효능을 재확인하는 전략을 택했다. 하지만 지난해 발표된 유럽 3상 SEER-3에서는 RGN-259 투약군과 위약군의 4주 후 완치율 차이가 1차 평가변수에서 통계적 유의성을 확보하지 못했다. 회사는 당시 위약군에서 예상보다 높은 플라시보 효과가 나타났다고 설명하고 추가 분석에 들어갔다. 결국 RGN-259의 향후 개발 방향은 SEER-2 결과에 달려 있다. SEER-3에서 발생한 변수에도 불구하고 미국 임상에서 1차 평가변수에 대한 유효성과 통계적 유의성을 확보한다면 신약 허가와 글로벌 사업화 논의에 중요한 근거가 될 수 있다. 반대로 미국 임상에서도 유의미한 결과를 확보하지 못할 경우 개발 전략을 다시 검토해야 할 가능성이 커진다. HLB테라퓨틱스 관계자는 “이번 LPLV 완료로 SEER-2의 환자 대상 임상 절차를 모두 마치고 결과 도출을 위한 최종 단계에 진입했다”며 “남은 데이터 정리와 분석을 차질 없이 진행해 신속하게 톱라인 결과를 확인할 수 있도록 최선을 다하겠다”고 말했다.2026-08-26 14:05:46
-
10월 할랄 의무화 앞둔 인도네시아…대웅제약, 선제 대응 나선다 [경제일보] 인도네시아가 할랄 인증 의무화 제도를 단계적으로 확대하면서 국내 제약·바이오기업들의 현지 대응도 빨라지고 있다. 대웅제약은 정부와 손잡고 현지 규제 대응력을 높이는 한편 생산시설까지 구축해 인도네시아를 아세안 시장 공략의 거점으로 삼는다는 전략이다. 대웅제약은 오는 10월 시행되는 인도네시아 할랄 인증 의무화 제도에 선제적으로 대응하기 위해 우리 정부의 ‘인도네시아 진출 민·관 합동 지원단’ 활동에 합류했다고 25일 밝혔다. 대웅제약은 지난달 인도네시아 자카르타에서 식품의약품안전처 주최로 열린 ‘인도네시아 진출 기업 간담회’에도 참석했다. 이번 간담회는 국내 제약·바이오 및 화장품 기업의 현지 진출 과정에서 발생하는 규제·통관 관련 애로사항을 해소하고 수출을 지원하기 위해 마련됐다. 인도네시아는 약 2억8000만명의 인구를 보유한 세계 4위 인구 대국이자 아세안 최대 시장이다. 특히 할랄 인구 비중이 높은 국가인 만큼 향후 할랄 인증이 K-제약·바이오 기업의 현지 사업 확대에 중요한 변수로 작용할 전망이다. 대웅제약은 간담회에서 인도네시아 식품의약청(BPOM)과 할랄제품보장청(BPJPH) 관계자들과 만나 수입 통관 요건과 성분 안전성 평가, 할랄 라벨링, 인증 의무화 일정 등을 논의했다. 인도네시아 당국은 할랄 제품과 비할랄 제품에 대한 표시·관리 요건 등 향후 제도 운영 방향을 공유했다. 국내 기업들은 현지 규제 변화에 따른 대응 방안을 확인하고 정부와 인도네시아 당국 간 협력 필요성을 논의했다. 특히 식약처는 한국의 상호인정협정(MRA) 체결 기관이 발급한 할랄 인증서가 현지 등록을 거치면 인도네시아에서도 동일한 효력을 인정받을 수 있다는 점을 재확인했다. 이미 인증을 받은 공장에 대한 현장실사 부담을 낮추고 기존 유통 제품의 유예기간을 연장하는 방안도 인도네시아 측에 건의했다. 대웅제약은 정부 차원의 규제 대응과 함께 현지 생산 인프라 구축에도 속도를 내고 있다. 화장품과 건강기능식품부터 의약품까지 제품군별로 단계적인 할랄 대응에 나서고 있다. 특히 전문의약품(ETC) 할랄 인증 의무화 시점인 2034년 10월보다 앞선 2027년 7월 GMP 승인을 목표로 인도네시아 ‘치카랑 고형제 스마트팩토리’를 건립하고 있다. 치카랑 공장은 설계 단계부터 할랄 인증을 고려해 구축하고 있다는 게 회사 측 설명이다. 대웅제약은 이 공장을 향후 인도네시아 내 생산 거점으로 활용하는 동시에 아세안 시장을 겨냥한 생산 허브로 육성한다는 계획이다. 대웅제약은 현지 규제 대응과 생산시설 구축을 병행하면서 인도네시아를 중심으로 아세안 시장에서 사업 기반을 확대할 방침이다. 단순히 제품을 수출하는 데 그치지 않고 현지 인증과 생산 역량까지 확보해 규제 변화에 대응한다는 전략이다. 이소윤 대웅제약 허가특허센터장은 “정부의 적극적인 수출 지원 기조에 발맞춰 독보적인 제조 및 수입 인프라와 할랄 관리 역량을 바탕으로 아세안 시장에서 K-제약·바이오의 위상을 높여갈 것”이라고 말했다.2026-08-25 09:24:34
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위 [경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.2026-08-18 11:09:21
-
KAIST, MS 'AI 레드팀' 합류…국내 대학 중 유일 [경제일보] 한국과학기술원(KAIST)이 국내 대학 가운데 유일하게 마이크로소프트(MS)의 글로벌 인공지능(AI) 안전성 연구 네트워크에 합류했다. 생성형 AI와 AI 에이전트의 활용이 확산하는 가운데 글로벌 기업과 대학이 협력해 실제 서비스에서 발생할 수 있는 보안 위협을 선제적으로 검증한다. KAIST는 전산학부 손수엘 교수 연구팀이 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램 ‘엑스트라(EXTRA·External Red Team Alliance)’ 연구팀으로 선정됐다고 28일 밝혔다. 엑스트라는 MS가 올해 시작한 외부 AI 레드팀 연구 지원 프로그램이다. 기업 내부 조직에 머물던 AI 안전성 평가를 세계 대학과 연구기관으로 확대해 다양한 관점에서 생성형 AI의 취약점과 위험성을 검증하는 것이 목적이다. 프로그램에는 6개 대륙의 10여개 대학과 연구기관이 참여한다. 국내 대학 가운데 선정된 곳은 KAIST가 유일하다. 손 교수 연구팀은 2만5000달러, 약 3700만원의 연구비를 지원받아 글로벌 연구진과 함께 AI 보안과 신뢰성 연구를 수행한다. 손 교수 연구팀은 생성형 AI와 대규모언어모델(LLM)을 대상으로 해킹을 통한 모델 탈취와 개인정보 유출, 악성 명령을 주입해 의도하지 않은 행동을 유도하는 프롬프트 주입 공격 등을 분석하고 있다. 연구 범위는 단순한 챗봇을 넘어 외부 시스템과 연결돼 스스로 업무를 수행하는 AI 에이전트까지 확대된다. AI 에이전트는 문서 작성과 정보 검색뿐 아니라 외부 도구 호출, 데이터 처리, 시스템 제어 등을 연속적으로 수행한다. 권한과 접근 범위를 적절히 통제하지 못하면 개인정보나 기업 내부 정보가 노출될 수 있어 서비스 구축 단계부터 공격 가능성을 점검해야 한다. 연구팀은 실제 서비스 환경에서 발생할 수 있는 공격 경로를 찾아내고, AI가 악성 명령이나 조작된 정보를 구분하도록 하는 방어 기술을 개발할 계획이다. 공격자의 관점에서 취약점을 검증하는 레드팀 연구와 이를 차단하는 보안 기술을 함께 고도화한다. 최근 글로벌 AI 기업들은 모델 성능 경쟁과 함께 안전성 검증을 핵심 과제로 삼고 있다. AI가 금융과 의료, 공공, 제조 등 민감한 데이터를 다루는 산업으로 확산하면서 모델 자체뿐 아니라 데이터와 외부 도구, 네트워크를 연결하는 전체 서비스 구조의 보안이 중요해졌기 때문이다. 이번 프로그램 참여는 KAIST가 MS의 AI 보안 연구진 및 세계 대학들과 연구 성과를 교류하고, 국제적인 AI 안전성 평가 체계 마련에 참여할 기회가 될 전망이다. 국내 연구진의 공격·방어 기술이 글로벌 AI 서비스의 보안 기준과 평가 방법에 반영될 가능성도 커졌다. 손수엘 교수는 “AI는 성능뿐 아니라 안전성과 신뢰성이 중요해지고 있다”며 “실제 서비스에서 발생할 수 있는 보안 위협을 분석하고 누구나 안심하고 사용할 수 있는 AI 기술 개발에 기여하겠다”고 말했다. MS AI 레드팀을 이끄는 램 샹카르 시바 쿠마르는 “AI 안전성 연구에서 대학은 핵심적인 역할을 하고 있다”며 “점점 강력해지는 AI 시스템을 평가하고 보호하며 책임감 있게 관리할 수 있도록 관련 연구를 지원하겠다”고 밝혔다.2026-07-28 15:00:10
-
HLB생명과학R&D, 비임상 역량 앞세워 신약 파이프라인 강화 [경제일보] HLB생명과학R&D가 올해 상반기에만 다섯 차례 국책과제에 선정되며 연구개발 역량을 확대하고 있다. 회사는 산업용 헴프(대마) 규제자유특구 사업에 참여해 미량 칸나비노이드 기반 신약개발에 나선다. 6일 HLB생명과학R&D는 중소벤처기업부와 국무조정실이 지정한 ‘경북 산업용 헴프 규제자유특구’ 사업의 공동 참여기관으로 선정됐다고 밝혔다. 이번 사업은 기존 칸나비디올(CBD) 중심에서 나아가 칸나비게롤(CBG), 칸나비크로멘(CBC), 칸나비놀(CBN) 등 미량 칸나비노이드까지 연구 범위를 확장하는 것이 핵심이다. 사업에는 HLB생명과학R&D를 비롯해 네오켄바이오, 에이팩, 엔비더팜, 토포랩, 아이엔지알 등이 참여한다. 총 296억원이 투입되며 4년간 한국과학기술연구원(KIST), 경북바이오산업연구원 등과 협력해 헴프 재배부터 원료 생산, 비임상 연구, 사업화까지 이어지는 전주기 연구개발 체계를 구축할 계획이다. 미량 칸나비노이드는 대마에 극미량 존재하는 성분으로 대부분 비향정신성 물질이다. 항염, 신경보호, 면역조절 등 다양한 생리활성이 보고되면서 의료용 헴프 기반 신약개발 분야에서 활용 가능성이 제기되고 있다. HLB생명과학R&D는 이번 과제에서 후보물질 발굴과 비임상 연구 전반을 담당한다. 적응증 탐색을 비롯해 세포 및 동물 효능평가, 약동·약력학 분석, 안전성 평가 등을 수행해 임상 진입이 가능한 신약 후보물질 확보를 목표로 한다. 회사는 확보된 데이터를 바탕으로 국내외 특허를 추진하고 향후 기술이전과 사업화로 이어간다는 계획이다. 최근 HLB생명과학R&D는 잇따른 국책과제 참여를 통해 비임상 연구 및 후보물질 발굴 역량을 강화하고 있다. HLB그룹 내에서는 신약개발 초기 연구를 담당하는 거점 역할을 수행하며 파이프라인 확대를 지원하고 있다. HLB그룹은 현재 100명 이상의 연구개발 인력을 중심으로 다양한 신약 파이프라인을 추진 중이다. 업계에서는 올해 하반기 간암 신약의 미국 식품의약국(FDA) 허가 여부를 비롯해 각막염 치료제, 담관암 치료제 등 주요 임상 및 허가 결과가 이어질 것으로 예상하고 있다. HLB생명과학R&D 관계자는 “이번 특구 사업 참여는 국내 미량 칸나비노이드 기반 신약개발 생태계 구축의 출발점이 될 것”이라며 “비임상 연구 역량을 바탕으로 경쟁력 있는 후보물질과 신뢰성 있는 데이터를 확보해 글로벌 협력과 기술이전으로 이어가겠다”고 말했다.2026-07-06 09:14:56
-
![[데일리 뱅킹 브리프] KB금융, 긱워커 맞춤형 금융 지원 확대 추진 外](https://image.ajunews.com//content/image/2026/06/30/20260630160139129300.jpg)
KB금융, 긱워커 맞춤형 금융 지원 확대 추진 外 [경제일보] KB금융, 긱워커 맞춤형 금융 지원 확대 추진 KB금융그룹이 다음달 1일부터 플랫폼 종사자(긱워커)를 위한 맞춤형 금융지원 체계를 마련하고 제도권 금융 접근성 확대에 나선다고 30일 밝혔다. 이번 지원은 △배달라이더 △대리운전기사 △물류업 종사자 △크리에이터 등 플랫폼 기반 경제활동 종사자를 대상으로 그룹 차원의 금융 생태계를 구축하는 것이 핵심이다. KB국민은행은 긱워커 전용 파킹통장인 'KB 프리N통장'을 출시한다. 플랫폼 정산금 등 비정기 소득을 관리할 수 있도록 설계했으며 결산기 평균잔액 200만원까지 최고 연 1.4% 특별금리를 제공한다. 플랫폼 정산금도 급여 실적으로 인정해 급여이체 고객과 동일한 금융 우대 혜택을 제공한다. 올해 3분기에는 서민금융진흥원과 협업해 청년 배달 종사자를 위한 미소금융 상품도 선보인다. 배달용 이륜차 구입자금을 최대 500만원까지 지원하며 친환경 이륜차 구매자와 금융교육 이수자에게는 금리 우대 혜택을 제공할 예정이다. 국민은행은 비금융 대안정보와 머신러닝 기반 신용평가를 활용해 금융이력 부족 고객에 대한 신용대출 심사도 확대한다. 이와 함께 배달 플랫폼 종사자를 위한 KB리브모바일 전용 요금제도 출시한다. KB국민카드는 이동이 많은 긱워커를 위한 'KB On the Go 체크카드'를 선보인다. 주유·통신·식음료 할인과 함께 KB손해보험의 자동차·이륜차 보험료 할인 혜택을 제공한다. KB손해보험은 지난 26일부터 산업안전보건공단 온라인 안전교육을 이수한 이륜차 배달 운전자에게 자동차보험료를 5% 할인하는 '라이더 안전교육 할인특약'을 운영하고 있다. KB금융 관계자는 "긱워커는 플랫폼 경제와 디지털 전환을 이끌어가는 새로운 경제 주체이자 미래 금융의 중요한 고객군"이라며 "맞춤형 금융서비스를 통해 포용금융을 확대하고 고객과 함께 성장하는 금융 생태계를 만들어 나가겠다"고 말했다. 우리은행·서금원, 영세자영업자 '인정가게' 프로젝트 실시 우리은행이 서민금융진흥원과 함께 성장 잠재력을 갖춘 영세자영업자를 발굴해 지원하는 ‘인정가게’ 프로젝트를 다음달 1일부터 실시한다고 30일 밝혔다. 인정가게는 우리미소금융재단 이용자와 사단법인 선한영향력가게 회원 중 지역사회 공헌 의지가 있는 영세자영업자 20명을 선정해 매장 경쟁력 강화를 돕는 사업이다. 선정된 가게에는 공식 인증 현판과 매장 부착용 스티커가 제공된다. 온라인 마케팅을 위한 홍보 비용과 사회관계망서비스(SNS)·보도자료 등을 활용한 홍보 기회도 지원된다. 우리은행은 전문 컨설턴트를 통해 매출 증대와 법무·세무·노무 등 사업 운영 전반에 대한 맞춤형 컨설팅도 제공한다. 선한영향력가게 회원 멘토와 연결해 매장 운영 노하우와 지역사회 공헌 활동 방법도 공유할 예정이다. 고객 참여형 이벤트도 진행한다. 인정가게 이용 고객이 영수증 리뷰 이벤트에 참여하면 매월 가게별 1명을 추첨해 30만원의 당첨금을 지급한다. 신청 접수는 다음달 1일부터 13일까지 진행된다. 우리은행 관계자는 "이번 프로젝트가 영세자영업자의 자생력 강화와 지역사회 내 선한 영향력 확산에 도움이 되길 기대한다"며 "앞으로도 소상공인과 함께 성장하는 포용금융 생태계 조성을 위해 다양한 지원을 이어가겠다"고 말했다. 카카오뱅크, 금융 AI 보안 연구 국제학회 논문 4편 채택 카카오뱅크가 자사의 금융 인공지능(AI) 분야 연구 논문 4편이 올해 상반기 국제 학술대회에서 채택됐다고 30일 밝혔다. 카카오뱅크 금융기술연구소는 AI 분야 학회 ICLR과 ACL, 자연어처리 분야 학회 LREC에서 생성형 AI 안전성과 금융 특화 AI 성능 향상 관련 연구 성과를 인정받았다. 지난 4월 ICLR 2026에서는 금융·법률 등 전문 분야 생성형 AI를 대상으로 한 유해 콘텐츠 주입 및 우회 공격 탐지 기술을 발표했다. 카카오뱅크와 KAIST가 공동 구축한 약 5만9000건 규모 데이터셋을 활용했다. 지난달 LREC 2026에서는 금융 AI의 보안성과 정확성을 높이는 연구 2편을 발표했다. 이미지가 포함된 멀티모달 환경의 프롬프트 공격 탐지 기술과 복잡한 금융 데이터 처리 과정에서 숫자 계산 오류를 찾아내는 기술이다. ACL 2026 산업 분야 트랙에는 KAIST와 공동 수행한 금융 AI 안전성 평가 연구가 채택됐다. 보이스피싱, 금융사기, 개인정보 탈취 등 금융 분야 위험 유형을 정리한 AI 안전성 평가 기준과 위험 답변 회피 학습 기술을 제안했다. 카카오뱅크 관계자는 "이번 연구는 학술적 성과를 넘어 금융 AI 서비스의 안전성과 정확성을 높이는 실질적인 기술이라는 점에서 의미가 크다"며 "앞으로도 금융 환경에 특화된 AI 보안 및 기술 연구를 지속하겠다"고 말했다.2026-06-30 16:04:02
-
NHN클라우드·NHN두레이, DB증권과 맞손…AI 업무혁신 나선다 [경제일보] 생성형 인공지능(AI) 도입이 금융권으로 확산되면서 업무 효율성과 보안을 동시에 확보할 수 있는 AI 기반 협업 플랫폼 수요가 커지고 있다. 이에 NHN클라우드와 NHN두레이는 DB증권 전사에 AI 협업 플랫폼을 공급하며 금융권 소프트웨어형 서비스(SaaS) 시장 공략을 본격화하는 것으로 풀이된다. 30일 NHN클라우드와 NHN두레이는 DB증권과 업무 혁신을 위한 전략적 파트너십을 체결했다고 밝혔다. 협약식은 지난 29일 서울 DB증권 본사에서 열렸으며, 곽봉석 DB증권 대표와 나홍석 NHN클라우드 전무, 백창열 NHN두레이 대표 등이 참석해 AI 기반 디지털 워크플레이스 구축과 업무 혁신 방안을 논의했다. 이번 협약에 따라 DB증권은 메일과 메신저, 프로젝트, 전자결재, 근무 관리 등을 통합 제공하는 AI 협업 플랫폼 '두레이'를 전사에 도입한다. 구축 사업은 올해 하반기 착수해 연내 서비스를 시작할 예정이며, 두레이와 AI 서비스를 기반으로 업무 효율성과 협업 환경을 개선할 계획이다. 이번 구축에는 구독형 AI 서비스 '두레이 AI'도 함께 적용된다. 두레이 AI는 메일과 메신저, 위키 등 협업 기능에 생성형 AI를 결합한 서비스로, '챗GPT'와 '제미나이', '클로드' 등 다양한 대규모 언어 모델(LLM)을 지원한다. 고객사는 보안 정책과 업무 환경에 맞춰 원하는 AI 모델을 선택해 활용할 수 있도록 설계됐다. 금융권 특성을 고려한 보안 환경도 함께 구축한다. NHN클라우드는 금융권의 보안 규제와 내부 통제 기준을 충족하기 위해 고객사 전용 환경을 제공하는 '전용 인프라 분리 서비스'를 적용한다. NHN클라우드는 이를 통해 SaaS의 확장성과 편의성을 유지하면서도 금융회사가 요구하는 보안성과 안정성을 확보할 수 있도록 지원한다고 설명했다. 금융권은 개인정보 보호와 내부망 관리 등 규제가 엄격해 SaaS 도입 장벽이 높은 산업으로 꼽힌다. NHN두레이는 해당 환경에 대응하기 위해 금융권 전용 보안 체계를 지속 강화해 왔다. 지난 2024년 금융위원회 혁신금융서비스로 지정된 데 이어 지난해에는 국내 협업 솔루션 최초로 금융보안원의 '클라우드서비스제공자(CSP) 안전성 평가'와 'SaaS 제공자 평가'를 모두 통과하며 금융권 도입에 필요한 보안 검증을 완료했다. DB증권 관계자는 "디지털 전환은 금융회사의 지속 가능한 성장과 미래 경쟁력 확보를 위한 핵심 과제"라며 "NHN의 선진적인 클라우드 인프라와 협업 플랫폼, AI 역량을 바탕으로 한층 더 효율적이고 스마트한 업무 환경을 구축해 나갈 것"이라고 말했다. 공공 시장에서 검증한 기술력을 금융권으로 확대하고 있다는 점도 특징이다. 두레이는 지난 2020년 클라우드 보안인증(CSAP) SaaS 인증을 획득하며 공공 시장에 진출했으며, 현재 4000여개 민간 기업과 기관, 150여 개 공공기관을 고객으로 확보했다. 금융권에서도 현재 20여개 금융기관이 두레이를 도입해 활용하고 있다. NHN클라우드와 NHN두레이는 이번 DB증권 구축을 계기로 금융권 AI 협업 플랫폼 사업을 확대할 계획이다. 두레이 구축뿐 아니라 중장기 디지털 전환(DX) 전략 수립과 AI 기반 업무 혁신 체계 구축, 클라우드 기반 업무 환경 고도화, 디지털 역량 강화, 신규 클라우드·DX 사업 발굴 등으로 협력 범위를 넓혀 금융 특화 AI·클라우드 사업 경쟁력을 지속 강화한다는 방침이다. NHN클라우드 관계자는 "이번 사업은 전용 인프라와 협업 툴을 함께 제공해 금융권의 까다로운 보안 요구사항과 유연한 SaaS 활용 니즈를 동시에 충족하는 통합 서비스라는 점에서 의미가 있다"며 "앞으로도 금융회사들이 규제와 보안에 철저히 대응하면서도 클라우드와 SaaS의 강점을 100% 누릴 수 있는 표준 서비스를 지속적으로 마련해 나가겠다"고 말했다.2026-06-30 09:42:32
-
AI 성능 넘어 '안전' 경쟁...KT 클라우드·카카오 AI 세이프티 맞손 [경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 AI 성능뿐 아니라 안전성과 신뢰성을 확보하기 위한 경쟁도 본격화되고 있다. 유해 콘텐츠 생성과 개인정보 유출, 프롬프트 공격 등 새로운 보안 위협이 부상하면서 AI를 실제 서비스에 적용하기 위해서는 'AI 세이프티'가 핵심 경쟁력으로 떠오른 것으로 분석된다. 26일 KT 클라우드와 카카오는 안전한 생성형 AI 서비스 구현을 위한 AI 세이프티 협력 체계를 구축했다고 밝혔다. 양사는 KT 클라우드의 AI 인프라 플랫폼과 카카오의 AI 세이프티 기술을 결합해 공공과 민간 분야에서 신뢰할 수 있는 AI 활용 환경을 구축한다는 계획이다. 최근 생성형 AI 도입이 빠르게 늘면서 AI 서비스의 안전성 확보가 기업들의 새로운 과제로 떠오르고 있다. AI가 허위 정보를 생성하는 '환각' 현상은 물론 '프롬프트 인젝션'을 통한 악성 명령 실행, 개인정보 유출, 유해 콘텐츠 생성 등의 위험성이 실제 서비스 운영 과정에서 잇따라 제기되고 있기 때문이다. 특히 공공기관과 금융권, 대기업을 중심으로 AI 도입이 확대되면서 모델 성능만큼 보안성과 신뢰성, 규제 대응 능력을 함께 검증하려는 움직임도 강화되고 있다. AI를 업무 시스템과 연계하는 기업이 늘어날수록 안전성을 확보할 수 있는 운영 체계가 필수 요소로 자리 잡고 있는 것이다. 이에 양사는 AI 서비스 개발부터 운영까지 전 과정에서 활용할 수 있는 AI 세이프티 기술 고도화에 나선다. 협력의 첫 단계로 KT 클라우드는 지난 4월 공개한 공공기관 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 적용할 예정이다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경을 반영해 개발된 AI 세이프티 모델이다. 생성형 AI가 부적절하거나 유해한 답변을 생성하는 것을 방지하고 프롬프트 공격이나 정책 위반 가능성을 탐지하는 역할을 수행한다. 현재 카카오의 주요 AI 서비스에도 적용되고 있다. 양사는 가드레일 기술 적용을 시작으로 AI 모델 안전성 평가 시스템과 다양한 공격 시나리오를 기반으로 취약점을 점검하는 '레드티밍' 시스템도 단계적으로 제공할 계획이다. AI 모델이 실제 서비스 환경에서 예상하지 못한 공격이나 악용 시도에 얼마나 안정적으로 대응하는지를 검증하는 체계까지 함께 구축한다는 구상이다. 향후에는 AI 세이프티 도구를 통합 관리하는 운영 플랫폼 구축으로 협력을 확대한다. KT 클라우드 환경에서 축적되는 운영 데이터와 고객 피드백을 기반으로 AI 안전성 관리 기능을 고도화하고, 생성형 AI 서비스의 개발과 배포, 운영, 모니터링까지 아우르는 통합 운영 체계를 마련할 계획이다. IT 업계에서는 AI 시장 경쟁이 모델 성능 중심에서 안전성과 신뢰성을 확보하는 방향으로 빠르게 이동하고 있는 것으로 전망한다. 생성형 AI 기술이 기업 핵심 업무에 적용될수록 모델의 정확도뿐 아니라 보안과 컴플라이언스, 운영 안정성 확보 여부가 AI 도입을 결정하는 핵심 요소로 자리 잡고 있기 때문이다. 이에 AI 가드레일과 레드티밍, 모델 평가 체계 등 AI 세이프티 기술도 AI 인프라의 필수 요소로 부상하고 있는 것으로 평가된다. KT 클라우드와 카카오는 이번 협력을 계기로 공공기관과 금융권을 비롯한 다양한 산업 분야에서 신뢰할 수 있는 생성형 AI 서비스 구축을 지원하는 한편, 국내 AI 생태계 전반의 안전성 확보에도 기여한다는 방침이다. 김봉균 KT 클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다. 김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT 클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.2026-06-26 10:15:27
-
정부, 美 AI 통제 속...앤트로픽과 안전·보안 동맹 [경제일보] 미국 정부가 국가 안보를 이유로 첨단 인공지능(AI) 모델 접근을 제한하고 나선 가운데 한국 정부가 앤트로픽과 AI 안전·사이버보안 협력에 나섰다. 고성능 AI 모델이 사이버 공격과 방어 양쪽에 모두 활용될 수 있다는 우려가 커지는 상황에서 한국이 글로벌 AI 안전망의 핵심 파트너로 자리 잡을 수 있을지 주목된다. 과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보 및 사이버보안 협력 업무협약을 체결했다고 밝혔다. 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험을 평가하는 데 협력할 예정이다. 자율형 AI 에이전트에 대한 레드팀 평가도 협력 대상에 포함됐다. 앤트로픽은 챗봇 ‘클로드’와 코딩 특화 도구, AI 에이전트 기술로 빠르게 성장한 프런티어 AI 기업이다. 최근에는 사이버보안 특화 고성능 모델인 ‘미토스’와 관련한 글로벌 논란의 중심에도 섰다. 앤트로픽의 프로젝트 글래스윙은 미토스 계열 모델을 활용해 핵심 소프트웨어의 취약점을 찾고 고치는 방어 목적의 AI 보안 협력체다. 한국에서는 KISA와 주요 기업들이 이 프로젝트에 참여한 것으로 알려졌다. 협약의 의미는 단순한 기술 교류를 넘어선다. AI 모델이 고도화되면서 보안 위험은 두 방향으로 커지고 있다. 방어자는 AI로 취약점을 더 빨리 찾을 수 있지만 공격자 역시 AI를 활용해 악성코드 변형, 취약점 탐색, 피싱 자동화, 침투 시나리오 생성을 시도할 수 있다. 정부가 앤트로픽과 손잡은 것은 이 같은 양면성을 제도권 안에서 평가하고 통제하려는 시도로 볼 수 있다. 과기정통부는 한국 AI 안전연구소와 앤트로픽 간 협력을 통해 AI 모델 및 자율형 AI 에이전트 안전성 평가를 추진할 방침이다. 금융 분야 등 국가적 파급력이 큰 영역에서 AI 기반 취약점 발굴과 사이버 위협 정보 공유도 실무적으로 논의한다. 한국어 환경에서 발생할 수 있는 모델 오남용, 허위정보 생성, 보안 우회 가능성 등을 함께 점검하는 것도 주요 과제다. 정부는 이번 협약을 글로벌 AI 협력 벨트의 한 축으로 보고 있다. 그동안 AI 인프라, 프런티어 모델, 연구 협력 분야에서 글로벌 기업과 접점을 넓혀왔다면 앤트로픽과의 협력은 안전성과 보안 분야를 보강하는 성격이 강하다. AI 산업 경쟁력이 커질수록 모델 성능 못지않게 안전성 평가와 사이버 복원력이 국가 경쟁력의 기준으로 떠오르고 있기 때문이다. 검증대에 오른 부분은 미국의 AI 기술 통제 기조다. 외신에 따르면 미국 정부는 최근 앤트로픽의 고성능 모델 미토스 5와 페이블 5에 대해 외국 국적자의 접근을 제한하는 조치를 내렸다. 앤트로픽은 적용 범위를 선별하기 어렵다는 이유로 해당 모델 접근을 광범위하게 중단한 것으로 전해졌다. 이 조치가 이어질 경우 한국 정부와 기업이 프로젝트 글래스윙을 통해 확보하려던 미토스 접근권에도 제약이 생길 수 있다. 과기정통부는 앤트로픽과 소통하며 상황을 예의주시하고 있다는 입장이다. 앤트로픽 역시 신중한 태도를 보이고 있다. 한국 입장에서는 미국의 첨단 AI 모델에 대한 접근권을 확보하는 동시에 미국 정부의 수출통제와 기술 주권 기조에 따른 불확실성도 관리해야 하는 상황이다. 이번 협약은 한국 AI 정책의 방향을 보여준다. 단순히 해외 모델을 쓰는 것을 넘어 고성능 AI가 초래할 수 있는 위험을 평가하고 방어 기술을 확보하려는 움직임이다. 특히 AI 에이전트가 실제 시스템을 조작하고 코드를 작성하며 업무를 수행하는 단계로 넘어가면 모델 안전성과 사이버보안은 분리하기 어려운 과제가 된다. 성과는 접근권과 실행력에서 갈릴 전망이다. 미토스 같은 첨단 모델에 대한 안정적 접근이 보장되지 않으면 협력은 제한적일 수밖에 없다. 반대로 한국어 환경의 안전성 평가, 금융·공공 분야 취약점 발굴, 국내 보안 인력과 글로벌 모델의 결합이 실질 성과로 이어진다면 한국은 AI 안전·보안 분야에서 독자적 입지를 넓힐 수 있다.2026-06-18 16:09:55
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개 [경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.2026-06-16 14:07:30
-
정부, 오픈AI GTAC 참여 공식화...앤스로픽 '글래스윙'도 가시권 [경제일보] 우리 정부가 오픈AI의 사이버보안 협력 프로그램에 참여하며 고성능 인공지능(AI)이 불러온 새로운 보안 위협 대응에 나선다. 앤트로픽의 ‘클로드 미토스’처럼 취약점 탐지와 공격 경로 분석 능력을 갖춘 AI 모델이 등장하면서, 국가 핵심 시스템 방어를 위해 글로벌 AI 기업과의 협력을 확대하는 흐름이다. 과학기술정보통신부는 오픈AI의 ‘신뢰 기반 사이버 접근 프로그램’(TAC)에 참여한다고 27일 밝혔다. 일부에서는 정부·기관 협력 성격을 강조해 GTAC로 부르지만, 공개된 설명상 공식 명칭은 TAC다. 이 프로그램은 검증된 정부·공공기관과 보안 조직이 고성능 AI 모델의 사이버보안 기능을 제한적으로 활용할 수 있도록 하는 협력 체계다. 류제명 과기정통부 2차관은 제이슨 권 오픈AI 최고전략책임자(CSO) 등 오픈AI 핵심 관계자들과 만나 AI 보안위협 대응과 안전성 확보 방안을 논의했다. 정부는 이번 협력을 통해 오픈AI의 고성능 사이버보안 모델이 탐지한 주요 소프트웨어 취약점 정보를 공유받고, 이를 국가 기간시스템과 주요 민간 인프라 방어에 활용할 계획이다. 국내 실무 운영은 한국인터넷진흥원(KISA)이 맡는다. 이번 협력은 앤트로픽의 ‘미토스 쇼크’와 맞물려 있다. 미토스는 대규모 코드에서 보안 취약점을 찾아내고 악용 가능성을 분석하는 능력으로 주목받았다. 앤트로픽은 ‘프로젝트 글래스윙’을 통해 미토스 접근권을 일부 기업과 기관에 제한적으로 제공하고 있다. 그러나 미토스급 모델은 공격과 방어 양쪽에 활용될 수 있는 이중용도 기술인 만큼 해외 기관 참여에는 높은 문턱이 있는 것으로 알려졌다. 정부가 오픈AI와 협력을 공식화한 것은 이 같은 제약 속에서 AI 보안 공조의 우회로를 확보했다는 의미가 있다. AI가 취약점 탐색과 공격 시나리오 분석 속도를 높이면, 방어 측도 같은 수준의 AI 도구와 정보 공유망을 갖춰야 한다. 취약점 정보를 얼마나 빨리 확보하고 패치하느냐가 금융·통신·공공망 방어의 성패를 가를 수 있기 때문이다. 다만 글로벌 AI 기업의 보안 프로그램에 참여하는 것만으로 국내 사이버 방어 체계가 완성되는 것은 아니다. 공유받은 취약점 정보를 국내 시스템에 맞게 검증하고, 패치 우선순위를 정하며, 주요 기반시설과 민간 기업에 신속히 전파하는 체계가 함께 마련돼야 한다. KISA와 금융보안원, 인공지능안전연구소, 국가정보원 등 관계기관 간 역할 분담도 중요하다. AI 자체의 안전성 평가도 협력 과제다. 과기정통부는 국내 AI안전연구소와 오픈AI가 공동 연구를 진행하고 AI 안전성 평가 체계를 함께 만드는 방안도 제안했다. 고성능 AI가 보안 방어에 도움을 주는 동시에 오용될 경우 공격 능력을 키울 수 있는 만큼, 접근 통제와 사용 기록 감사, 위험 모니터링이 병행돼야 한다. 류제명 과기정통부 2차관은 “이번 협력으로 한국이 AI 보안 위협에 선제적으로 대응할 수 있는 기반을 마련했다”며 “글로벌 AI 기업들과 실무 논의를 지속해 국내 사이버 보안 역량을 세계 최고 수준으로 끌어올리겠다”고 밝혔다.2026-05-27 10:29:40
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 자본시장 흔든 ETF 참사, 감독당국 책임 피할 생각부터 버려라](https://image.ajunews.com/content/image/2026/09/29/20260929103154859902_518_323.jpg)