2026.06.02 화요일
검색
'AI 안전성' 검색결과
기간검색
-
~
검색영역
검색어
-
정부, 오픈AI GTAC 참여 공식화...앤스로픽 '글래스윙'도 가시권 [경제일보] 우리 정부가 오픈AI의 사이버보안 협력 프로그램에 참여하며 고성능 인공지능(AI)이 불러온 새로운 보안 위협 대응에 나선다. 앤트로픽의 ‘클로드 미토스’처럼 취약점 탐지와 공격 경로 분석 능력을 갖춘 AI 모델이 등장하면서, 국가 핵심 시스템 방어를 위해 글로벌 AI 기업과의 협력을 확대하는 흐름이다. 과학기술정보통신부는 오픈AI의 ‘신뢰 기반 사이버 접근 프로그램’(TAC)에 참여한다고 27일 밝혔다. 일부에서는 정부·기관 협력 성격을 강조해 GTAC로 부르지만, 공개된 설명상 공식 명칭은 TAC다. 이 프로그램은 검증된 정부·공공기관과 보안 조직이 고성능 AI 모델의 사이버보안 기능을 제한적으로 활용할 수 있도록 하는 협력 체계다. 류제명 과기정통부 2차관은 제이슨 권 오픈AI 최고전략책임자(CSO) 등 오픈AI 핵심 관계자들과 만나 AI 보안위협 대응과 안전성 확보 방안을 논의했다. 정부는 이번 협력을 통해 오픈AI의 고성능 사이버보안 모델이 탐지한 주요 소프트웨어 취약점 정보를 공유받고, 이를 국가 기간시스템과 주요 민간 인프라 방어에 활용할 계획이다. 국내 실무 운영은 한국인터넷진흥원(KISA)이 맡는다. 이번 협력은 앤트로픽의 ‘미토스 쇼크’와 맞물려 있다. 미토스는 대규모 코드에서 보안 취약점을 찾아내고 악용 가능성을 분석하는 능력으로 주목받았다. 앤트로픽은 ‘프로젝트 글래스윙’을 통해 미토스 접근권을 일부 기업과 기관에 제한적으로 제공하고 있다. 그러나 미토스급 모델은 공격과 방어 양쪽에 활용될 수 있는 이중용도 기술인 만큼 해외 기관 참여에는 높은 문턱이 있는 것으로 알려졌다. 정부가 오픈AI와 협력을 공식화한 것은 이 같은 제약 속에서 AI 보안 공조의 우회로를 확보했다는 의미가 있다. AI가 취약점 탐색과 공격 시나리오 분석 속도를 높이면, 방어 측도 같은 수준의 AI 도구와 정보 공유망을 갖춰야 한다. 취약점 정보를 얼마나 빨리 확보하고 패치하느냐가 금융·통신·공공망 방어의 성패를 가를 수 있기 때문이다. 다만 글로벌 AI 기업의 보안 프로그램에 참여하는 것만으로 국내 사이버 방어 체계가 완성되는 것은 아니다. 공유받은 취약점 정보를 국내 시스템에 맞게 검증하고, 패치 우선순위를 정하며, 주요 기반시설과 민간 기업에 신속히 전파하는 체계가 함께 마련돼야 한다. KISA와 금융보안원, 인공지능안전연구소, 국가정보원 등 관계기관 간 역할 분담도 중요하다. AI 자체의 안전성 평가도 협력 과제다. 과기정통부는 국내 AI안전연구소와 오픈AI가 공동 연구를 진행하고 AI 안전성 평가 체계를 함께 만드는 방안도 제안했다. 고성능 AI가 보안 방어에 도움을 주는 동시에 오용될 경우 공격 능력을 키울 수 있는 만큼, 접근 통제와 사용 기록 감사, 위험 모니터링이 병행돼야 한다. 류제명 과기정통부 2차관은 “이번 협력으로 한국이 AI 보안 위협에 선제적으로 대응할 수 있는 기반을 마련했다”며 “글로벌 AI 기업들과 실무 논의를 지속해 국내 사이버 보안 역량을 세계 최고 수준으로 끌어올리겠다”고 밝혔다.2026-05-27 10:29:40
-
"서울대·카이스트 AI 석학 다 모였다" 카카오가 멘토단 꾸린 진짜 이유 [경제일보] 카카오(대표 정신아)가 국내 최고 수준의 인공지능(AI) 석학들과 손잡고 자사 AI 경쟁력 고도화에 나선다. 카카오는 학계 전문가 및 미래 인재와의 교류를 위한 AI 협력 프로그램 '카나나 스칼라'를 출범하고 전문가 자문 그룹 발족식을 진행했다고 9일 밝혔다. 이번에 꾸려진 카나나 스칼라 전문가 자문 그룹은 국내 주요 대학의 AI 및 컴퓨팅 분야 교수진 7명으로 구성됐다. 자문 그룹에는 김선주 연세대학교 첨단컴퓨팅학부 교수를 비롯해 김승룡 카이스트 교수와 신진우 카이스트 석좌교수 이주호 카이스트 교수 장준혁 한양대학교 교수 주한별 서울대학교 교수 최종현 서울대학교 교수 등 국내 AI 연구를 주도하는 핵심 인물들이 대거 합류해 카카오의 기술과 서비스 전반에 대한 자문을 제공한다. 카카오는 앞서 지난 3월6일 발족식을 열고 자문 방향과 연간 아젠다를 확정했다. 이들은 향후 카나나 파운데이션 모델을 기반으로 기기 자체에서 구동되는 온디바이스 AI와 스스로 목표를 설정하고 과업을 수행하는 에이전틱 AI 그리고 최근 글로벌 규제 핵심으로 떠오른 AI 안전성 등 주요 기술 전략을 집중적으로 점검한다. 카카오는 정기적인 교류를 바탕으로 전략 실행력을 끌어올리고 급변하는 산업 변화에 대응할 통찰력을 확보한다는 방침이다. 발족식에 참여한 교수진은 AI가 서비스와 플랫폼 전반에 빠르게 확산하며 기업의 현안과 학계의 연구 주제가 점점 더 밀접해지고 있다며 산업계의 문제의식과 학계 연구가 유기적으로 연결될 때 실질적인 성과로 이어질 수 있을 것이라고 뜻을 모았다. 카카오의 이번 산학 협력 행보는 치열해지는 글로벌 AI 패권 경쟁 속에서 자체 기술 생태계를 방어하고 미래 인재를 선점하기 위한 전략적 포석으로 풀이된다. 2026년 현재 글로벌 빅테크들은 천문학적인 자본을 투입해 초거대 AI 모델 고도화와 에이전트 서비스 선점에 사활을 걸고 있다. 국내에서도 경쟁 플랫폼과 통신사들이 자체 모델과 특화 서비스를 쏟아내는 가운데 카카오 역시 메신저 플랫폼 기반의 카나나 서비스 안착을 위해 학계의 객관적인 검증과 기술적 돌파구가 절실한 상황이다. 특히 AI 안전성과 윤리 문제가 각국 정부의 규제 대상으로 부상하면서 학계와의 공조를 통한 투명성 확보는 기업의 필수 생존 요건이 됐다. 카카오는 이러한 흐름에 발맞춰 국내 석학들의 지식을 서비스 설계 초기 단계부터 반영해 리스크를 최소화하고 신뢰도를 높이려는 의도를 뚜렷하게 드러내고 있다. 이에 더해 카카오는 전문가 자문 그룹 운영에 그치지 않고 대학생 및 청년층을 대상으로 한 학계 교류 프로그램도 확대 운영할 예정이다. 다양한 분야의 외부 연사를 초빙한 강연과 소통 프로그램을 통해 만성적인 구인난에 시달리는 첨단 기술 산업계에서 우수 인재와의 접점을 넓히고 잠재적인 채용 파이프라인을 구축하겠다는 계획이다. 카카오 관계자는 국내 최고 수준의 AI 및 ICT 전문가들과 지속적인 논의를 거쳐 카카오 AI의 강점과 방향성을 더욱 정교하게 다듬어 갈 것이라며 학계 전반을 아우르는 다양한 프로그램을 통해 기술과 서비스의 발전 방향을 모색하겠다고 말했다.2026-03-09 17:38:16
-
카카오, S&P '지속가능성 연례보고서' 4년 연속 상위 기업 등재 [이코노믹데일리] 카카오는 글로벌 신용평가사 S&P 글로벌의 '기업 지속가능성 평가'에서 4년 연속 상위 기업에 선정됐다고 20일 밝혔다. S&P 글로벌은 매년 전 세계 기업을 대상으로 환경, 사회, 지배구조 전반을 평가하는 기업 지속가능성 평가를 실시하고 산업군별 우수 기업을 '지속가능성 연례보고서'에 등재한다. 올해는 59개 산업군, 9200여 개 기업 가운데 848개 기업만이 이름을 올렸다. 카카오는 인터랙티브 미디어·서비스&홈 엔터테인먼트 산업군에서 76점을 기록했다. 이는 전년 70점 대비 6점 상승한 수치로 해당 산업군 148개 기업 중 1점 차이로 2위에 올랐다. 이는 상위 5%에 포함되는 수치로 산업군별 상위 5%에 오른 국내 기업은 5곳에 불과하고 해당 산업군에서는 카카오가 유일하다. 다만 순위 구간은 지난해까지 3년 연속 유지해온 상위 1%에서 올해 상위 5%로 다소 조정됐다. 점수는 상승했지만 다른 글로벌 기업들도 ESG 관리 체계를 강화하면서 전반적인 평가 기준과 경쟁 강도가 높아진 영향으로 풀이된다. 업계 전반의 상향 평준화 속에서도 상위 5%의 우수한 성과를 거뒀다는 평가다. 카카오는 거버넌스와 환경, 사회 전반에서 고른 평가를 받았다. 내부 감사 체계 강화, 데이터센터 에너지 효율 개선, 환경영향 관리 체계 공시 고도화, 인권영향평가 범위 확대 등 ESG 관리 체계를 지속적으로 정비해왔다. 또한 AI 안전성 강화, 준법·윤리경영 체계 개선, 재생에너지 조달 확대 등을 통해 책임 경영 기반을 다져왔다. 카카오는 글로벌 평가 기준이 높아지는 상황에서도 점수를 끌어올린 것은 공시 신뢰성과 실행력 측면에서의 개선이 반영된 결과라고 설명했다. 카카오는 앞으로도 ESG 전반의 관리 수준을 지속적으로 고도화해 글로벌 기준에 부합하는 지속가능 경영을 이어가겠다는 방침이다. 카카오 관계자는 "ESG 관리 체계를 지속적으로 고도화해 온 노력과 성과를 인정받은 결과"라며 "비록 (산업군) 2위를 했음에도 상위 5%라는 우수한 성적을 거뒀다"고 말했다.2026-02-20 10:48:07
-
전 세계로 번진 xAI '그록' 딥페이크 논란…美 캘리포니아 조사 착수 [이코노믹데일리] 일론 머스크가 이끄는 xAI의 인공지능 모델 '그록'을 둘러싼 논란이 전 세계로 확산되고 있다. 단순한 기술 경쟁을 넘어 발언 수위와 안전성, 데이터 활용 방식, 법적 책임 문제까지 겹치며 각국 정부와 사법 당국이 동시에 대응에 나서는 양상이다. 14일(현지시간) 롭 본타 캘리포니아주 법무장관은 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"며 그록의 성적 이미지 생성 논란에 대한 조사에 나섰다. 이어 그는 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 강조했다. 그록은 X와 연동된 대화형 AI로, 실시간성에 가까운 데이터 접근과 직설적인 응답 스타일을 강점으로 내세웠다. 그러나 이 같은 특징은 곧바로 논란으로 이어졌다. 일부 국가와 지역에서 정치적 민감 사안, 폭력적 표현, 허위 정보에 가까운 답변이 노출되며 AI 안전성 논쟁의 중심에 섰다. 한국 정부도 이번 문제에 민감한 반응을 보였다. 방송미디어통신위원회는 14일 소셜 플랫폼 X에 공문을 보내며 안전장치 마련, 청소년 접근 제한, 관리 조치 등을 요청하며 경고에 나섰다. 또한 정부는 학습 데이터의 출처, 유해 콘텐츠 차단 기준, 국내 이용자 대상 서비스 제공 시 책임 구조 등에 대한 설명과 개선을 요청한 것으로 알려졌다. 김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 말했다. 동남아시아에서도 파장이 컸다. 인도네시아에서는 그록이 종교·사회적으로 민감한 주제에 대해 부적절하거나 편향된 답변을 내놓았다는 지적이 제기되며, 정부 차원의 검토가 이뤄졌다. 인도네시아 당국은 해외 AI 모델이 자국 내 사회적 갈등을 증폭시킬 가능성을 우려하며 콘텐츠 관리 체계와 현지 법규 준수 여부를 점검한 것으로 알려졌다. 일부에서는 서비스 제한이나 규제 가능성까지 거론된다. 기술적 논란도 여전히 현재진행형이다. 일부 전문가들은 그록의 응답 패턴과 결과물이 기존 대형언어모델과 유사하다는 점을 들어 학습 과정의 투명성을 요구하고 있다. 이에 대해 xAI는 독자적인 모델 설계와 학습 방식을 강조하고 있지만 외부 검증 요구는 쉽게 가라앉지 않는 분위기다. 업계에서는 그록 논란을 특정 모델의 일탈이 아니라 차세대 AI 경쟁이 맞닥뜨린 구조적 문제로 해석하는 시각이 많다. 실시간 데이터와 결합된 AI가 확산될수록, 성능보다 안전성과 규제 대응 능력이 핵심 경쟁력이 되고 있기 때문이다. 국가와 지역별로 다른 법·문화적 기준을 어떻게 반영할지도 주요 과제로 떠오르고 있다. 이번 논란에 대해 일론 머스크 X 대표는 자신의 X 계정 게시물에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 '제로'"라고 강조했다. 이어 "분명히 그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 설명했다.2026-01-15 07:53:55
-
![[기자수첩] AI 무면허…한국 AI 산업의 위태로운 질주](https://image.ajunews.com//content/image/2025/12/29/20251229160256643803.jpg)
"AI 무면허"…한국 AI 산업의 위태로운 질주 [이코노믹데일리] 인공지능(AI)은 이미 산업과 일상 전반에 깊숙이 들어와 있지만 이를 다루는 법과 제도는 여전히 공백 상태에 가깝다. 국내 AI 산업은 사실상 명확한 면허 없이 고속도로를 달리고 있다. 현재 국내에서는 AI 관련 명확한 규제 체계나 세부 가이드라인이 부재한 상황이다. 기업들은 생성형 AI 모델을 개발하고 서비스에 적용하고 있지만 어디까지가 허용 범위인지 어떤 책임이 뒤따르는지에 대해서는 명확한 기준을 찾기 어렵다. 이에 업계는 각자 해석에 의존해 AI를 개발·활용하는 혼란스러운 국면을 이어가고 있다. 정부는 오는 22일부터 AI 기본법을 시행할 예정이지만 현장에서는 기대보다 우려가 앞선다. 법안의 세부 시행령과 가이드라인이 아직 공개되지 않았고 현재까지 발표된 내용 역시 선언적 수준에 머물러 있다는 지적이 나온다. 기술 발전 속도에 비해 법적 기준은 추상적이라는 평가다. 이 같은 불확실성은 기업의 의사결정에도 영향을 미치고 있다. 서비스 출시 시점, 데이터 활용 범위, 모델 고도화 전략 등 핵심 판단에서 법적 리스크를 정확히 가늠하기 어렵기 때문이다. 결과적으로 혁신을 가속하기보다는 조심스러운 탐색과 관망이 반복되는 구조가 형성되고 있다. 해외 상황과 비교하면 격차는 더욱 분명해진다. 유럽연합(EU)은 AI법(AI Act)을 통해 위험도 기반 규제 체계를 정립하고 있고 미국 역시 연방 차원과 주 단위에서 AI 관련 책임과 기준을 설정하려는 시도가 이어지고 있다. 학계와 연구기관을 중심으로 AI의 안전성, 편향성, 책임 소재를 둘러싼 논의도 활발하다. 반면 국내는 해외 사례와 연구 결과를 지켜본 뒤 이를 참고해 제도를 보완하겠다는 흐름이 강하다. 신중함이라는 장점도 있지만 그 사이 산업 현장은 규제의 방향을 예측하기 어려운 상태로 방치되고 있다는 인상도 지울 수 없다. 업계에서는 정부 정책이 구체화되기 전까지 공개적으로 의견을 내기 어렵다는 분위기도 감지된다. 법안의 윤곽이 불분명한 상황에서 특정 입장을 드러내는 것이 향후 규제 리스크로 이어질 수 있다는 우려 때문이다. 이는 정책 논의 과정에서 현장의 목소리가 충분히 반영되지 못하는 악순환으로 이어질 가능성도 있다. AI는 이미 선택의 문제가 아닌 필수 인프라가 됐다. 이제 필요한 것은 속도 조절이 아니라 방향 제시다. 명확한 기준과 예측 가능한 제도 없이 이어지는 AI 산업의 질주는 언제든 위험으로 바뀔 수 있다. 이제는 시운전 중인 국내 AI 산업에 면허 시험을 치를 시점이다.2025-12-29 16:03:22
-
카카오 '카나나' 국내 1호 AI 안전성 검증 통과... "메타보다 안전하다" [이코노믹데일리] 카카오의 인공지능(AI) 모델 '카나나'가 정부가 주관한 국내 첫 AI 안전성 평가에서 글로벌 빅테크 모델을 상회하는 안전성을 입증했다. 29일 과학기술정보통신부는 AI안전연구소 및 한국정보통신기술협회(TTA)와 협력해 진행한 평가 결과 카나나가 메타나 미스트랄AI 등 해외 유력 모델 대비 동등 이상의 안전성을 확보한 것으로 확인됐다고 밝혔다. 이번 평가는 내년 본격 시행을 앞둔 'AI 기본법'에 대비해 국내 모델의 신뢰도를 선제적으로 점검했다는 점에서 의미가 크다. 이번 검증 대상은 카카오의 '카나나 에센스 1.5' 모델이다. 카카오는 국내 산·학·연이 주도하는 'AI 안전 컨소시엄'의 일원으로 참여해 자사 모델의 안전성을 객관적으로 검증받기로 협의했다. 평가에는 TTA와 최호진 KAIST 교수 연구팀이 개발한 벤치마크 데이터셋 '어슈어 AI(AssurAI)'와 AI안전연구소의 고위험 분야 평가 데이터셋이 활용됐다. 이는 AI 모델에 악의적인 질문을 던져 방어 기제가 제대로 작동하는지 확인하는 '레드팀 챌린지' 방식의 고강도 테스트다. 평가단은 폭력 조장이나 차별적 표현 등 일반적인 위험 요소는 물론 무기 제작법 전수나 해킹 코드 생성 및 보안 취약점 악용 등 고위험 시나리오까지 폭넓게 적용해 모델을 점검했다. 평가 결과 카나나는 동급 규모의 글로벌 오픈소스 모델인 미국 메타의 '라마(Llama) 3.1'과 프랑스 미스트랄AI의 '미스트랄 0.3'과 비교해 높은 수준의 안전성을 기록했다. 특정 위험 항목에서는 경쟁 모델보다 더 정교하게 유해 정보를 필터링하는 능력을 보인 것으로 알려졌다. 정부는 이번 평가가 단순히 규제를 위한 절차가 아니라 국내 AI 산업의 경쟁력을 높이는 계기가 될 것으로 보고 있다. 과기정통부는 이번 검증 경험을 바탕으로 내년 1월 진행될 '독자 AI 파운데이션 모델' 프로젝트 1차 평가에도 동일한 안전성 기준을 적용할 방침이다. 아울러 국내외 다양한 AI 기업과 협력해 평가 대상을 지속적으로 확대하고 국제적인 AI 안전 기준 수립에도 주도적으로 참여한다는 계획이다. 이번 결과는 글로벌 시장에서 'K-AI'의 신뢰도를 높이는 데 기여할 전망이다. AI 성능 경쟁이 안전성 경쟁으로 옮겨가는 추세 속에서 국산 모델이 글로벌 표준을 충족한다는 사실을 입증했기 때문이다. 특히 기업용(B2B) 시장이나 공공 분야 진출 시 안전성 검증 여부가 핵심 경쟁력이 될 가능성이 높다. 김경만 과기정통부 인공지능정책실장은 "세계적으로 AI 안전에 대한 논의가 규제보다는 실질적인 검증과 구현이 강조되는 상황"이라며 "이번 평가는 국내 AI 모델의 안전성 경쟁력을 객관적으로 증명한 사례이자 향후 글로벌 AI 안전성 리더십을 확보하는 초석이 될 것"이라고 강조했다.2025-12-29 12:34:49
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 젠슨 황의 말 한마디에 춤추는 한국 경제의 빛과 그림자](https://image.ajunews.com/content/image/2026/06/02/20260602105044276558_518_323.png)