2026.10.15 목요일
검색
'자율 에이전트' 검색결과
기간검색
-
~
검색영역
검색어
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련 [경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.2026-10-15 09:54:23
-
엔비디아, 서울서 로봇·자율 에이전트 개발법 공유…11월 'AI 데이' 연다 [경제일보] 엔비디아가 로봇과 자율 AI 에이전트의 개발·운영 기술을 국내 개발자와 기업에 소개한다. 오는 11월 서울에서 열리는 ‘AI 데이’에서 산업 적용 사례를 공유하고, 개발자가 AI 모델과 도구를 직접 활용하는 실습 교육도 진행한다. 물리적 환경에서 움직이는 AI와 지속적으로 업무를 수행하는 에이전트, 이를 뒷받침할 컴퓨팅 인프라를 함께 다룬다. 엔비디아는 11월 9일부터 10일까지 서울 코엑스에서 ‘엔비디아 AI 데이 서울 2026’을 개최한다고 30일 밝혔다. 개발자와 스타트업, 기업, 연구자 등을 대상으로 하며 약 2000명이 참석할 것으로 예상했다. 첫날은 기술과 산업 사례를 소개하는 콘퍼런스, 둘째 날은 개발자 중심의 실습 교육으로 구성했다. 첫날 프로그램은 피지컬 AI, 에이전틱 AI와 클로, AI 인프라 등 3개 분야를 중심으로 진행한다. 주요 세션 3개와 함께 분야별 트랙에서 각각 5개씩 총 15개 세션을 마련한다. 피지컬 AI는 실제 물리적 환경을 이해하고 상호작용하는 기술이다. 관련 세션에서는 로봇과 공장, 자율주행 등 산업 현장에서 AI를 활용하는 방안을 살핀다. 엔비디아의 오픈 모델과 라이브러리, 시뮬레이션 도구를 개발 과정에 적용하는 방법도 소개한다. 에이전틱 AI 분야에서는 스스로 추론하고 계획을 세워 작업을 실행하는 에이전트 기술을 다룬다. ‘클로(Claws)’는 백그라운드에서 장시간 작동하며 목표를 향해 작업을 이어가는 자율 에이전트를 가리킨다. 엔비디아는 관련 기술을 통해 기업 업무에 필요한 에이전트를 구축하는 방법을 소개할 예정이다. AI 인프라 트랙은 이러한 모델과 서비스를 대규모로 개발·배포하는 데 필요한 컴퓨팅 기술을 다룬다. 모델을 만드는 과정뿐 아니라 실제 서비스에서 효율적으로 운영하는 데 필요한 인프라까지 프로그램에 포함했다. 둘째 날에는 엔비디아 딥 러닝 인스티튜트(DLI)의 유료 실습 워크숍이 열린다. 공식 행사 페이지에 안내된 과정은 ‘대규모 AI 추론 배포와 최적화’, ‘엔비디아 아이작 기반 로보틱스 워크플로우’, ‘대규모언어모델(LLM) 기반 안전한 에이전트 개발’ 등 3개다. 전문가가 진행하는 종일 교육으로, 참가자가 직접 도구를 활용해 개발·운영 과정을 익히도록 구성했다. 워크숍은 11월 10일 오전 9시 30분부터 오후 6시까지 진행한다. 참가비는 10월 19일까지 조기 등록 시 199달러, 정가는 500달러다. 참가자는 1인당 한 개 과정을 구매할 수 있으며, 워크숍 등록자에게는 AI 데이 콘퍼런스 참석 자격도 제공한다. 자율 에이전트를 직접 만드는 ‘빌드 어 클로(Build-a-Claw)’ 프로그램도 마련한다. 참가자는 오픈클로(OpenClaw)와 엔비디아 니모클로(NemoClaw)를 활용해 에이전트를 구축할 수 있다. 현장에서는 엔비디아 기술 전문가에게 질문하는 프로그램과 기술 인증 시험도 운영한다. 국내외 파트너 20개사도 참여한다. 삼성전자와 SK하이닉스, LG전자, SK텔레콤, 네이버클라우드, 쿠팡 인텔리전트 클라우드, 메가존클라우드, 한컴, 현대건설을 비롯해 델 테크놀로지스, 딜로이트, 바스트 데이터, 웨카 등이 각사의 솔루션과 활용 사례를 소개할 예정이다. 행사 등록은 9월 16일 시작됐다. 세부 프로그램과 등록 안내는 공식 사이트에서 확인할 수 있다. 이번 행사는 산업 사례를 듣는 콘퍼런스와 개발자가 직접 구현하는 교육을 연계해, 로봇·에이전트 개발부터 AI 서비스 운영까지 필요한 기술을 살펴볼 수 있도록 구성됐다.2026-09-30 09:55:51
-
KT, 서울대·KAIST와 AI 연구 결실…사업화로 경쟁력 키운다 [경제일보] KT가 서울대학교와 한국과학기술원(KAIST)과 진행한 인공지능(AI) 공동연구를 마무리하고 연구 성과의 사업화에 속도를 낸다. 단순 기술 교류를 넘어 대학의 연구 역량과 KT의 데이터·AI 모델·서비스 역량을 결합해 실제 사업에 적용할 수 있는 기술을 확보하는 것이 목표다. KT는 30일 서울 서초구 KT우면연구센터에서 서울대·KAIST 연구진과 ‘산학 공동연구 최종 성과 워크숍’을 열었다고 밝혔다. 이날 워크숍에는 3개 기관 연구진 50여명이 참석해 지난 1년간 수행한 연구 결과를 공유하고 후속 연구 및 사업 활용 방안을 논의했다. 이번 협력은 지난해 9월 시작됐다. KT는 당시 산학 협력을 장기 연구에 그치지 않고 실제 AICT 사업과 연결하기 위해 서울대·KAIST와 공동 연구를 추진했다. 자율형 에이전트, Responsible AI, 피지컬 AI, 인간 피드백 기반 강화학습, 추론 효율화 등을 핵심 연구 분야로 설정했다. KT는 연구에 필요한 GPU와 AI 모델, 데이터를 제공하고 대학의 전문 연구역량을 접목하는 Open R&D 방식으로 협력을 진행했다. 서울대와는 자율형 에이전트가 상황과 맥락을 이해하고 판단할 수 있도록 하는 기술을 집중 연구했다. 추론형 AI의 평가 기준과 신뢰성 개선, 한국적 데이터셋 확보, 사용자 행동 예측 모델, 사용자 피드백을 활용한 강화학습 프레임워크 등이 주요 과제다. KAIST와는 대규모언어모델(LLM)의 프롬프트 압축 및 최적화 기술을 연구했다. AI가 처리해야 하는 입력을 효율적으로 줄여 모델의 추론 부담을 낮추고, 에이전트 서비스의 응답 효율을 높이는 기반 기술을 확보하는 데 초점을 맞췄다. KT가 특히 주목하는 부분은 연구 결과의 ‘내재화’다. 확보한 기술을 논문이나 연구 성과로 끝내지 않고 모델·플랫폼·서비스 경쟁력으로 연결한다는 구상이다. KT는 최근 공동연구 성과를 자사 파운데이션 모델 ‘믿:음 K’와 자율형 에이전트 관련 서비스 등에 활용하는 방향을 추진해왔다. 후속 연구 범위도 넓힌다. KT는 기술 수요를 반영한 신규 과제를 발굴해 에이전틱 AI와 피지컬 AI, 토큰 효율화 등을 중심으로 산학 연구를 확대할 계획이다. AI가 질문에 답하는 수준을 넘어 스스로 상황을 판단하고 행동하는 에이전틱 AI가 확산되면서 추론 효율과 신뢰성, 실제 환경에서의 행동 예측 기술이 중요해진 데 따른 행보다. 산학협력 방식 자체도 고도화할 전망이다. KT는 올해 들어 서울대와 KAIST뿐 아니라 고려대 등 주요 대학과 공동연구를 확대하고 있으며, 글로벌 연구기관과의 협력도 병행하고 있다. 연구 기획 단계에서부터 성과 검증과 사업 적용 가능성을 함께 고려해 ‘기술 확보→검증→서비스 적용’으로 이어지는 구조를 정착시키겠다는 전략이다. KT는 이번 연구 성과를 계기로 대학과의 협력을 일회성 프로젝트가 아닌 지속적인 AI 기술 확보 채널로 확대한다는 방침이다. 박재형 KT AX미래기술원장 상무는 “이번 성과를 기반으로 대학과 함께 성장하는 연구개발 협력 모델을 확대하고 연구 결과가 KT의 AI 경쟁력으로 이어지도록 지속 발전시키겠다”고 말했다. 한편 이번 KT가 산학협력에서 확보한 기술을 실제 서비스에 얼마나 빠르게 적용하느냐가 향후 경쟁력의 핵심 변수가 될 전망이다. 특히 에이전틱 AI와 피지컬 AI 시장이 확대되는 가운데 모델 성능뿐 아니라 추론 비용과 토큰 사용량, 신뢰성까지 함께 개선할 수 있는 기술을 확보할 경우 AI 사업의 운영 효율과 서비스 경쟁력을 동시에 높일 수 있다는 평가다.2026-08-30 13:32:19
-
코드게이트, AI 화이트해커 키운다…9월 글로벌 펠로우십 출범 [경제일보] 국제해킹방어대회 코드게이트가 대회 중심의 인재 발굴을 넘어 교육과 장학, 글로벌 네트워킹을 결합한 AI 보안 인재 육성 체계를 구축한다. 코드게이트보안포럼은 지난 24일 서울 코엑스에서 열린 ‘코드게이트 2026’ 개회식에서 차세대 AI 화이트해커를 양성하기 위한 ‘글로벌 펠로우십’을 도입한다고 밝혔다. 세부 교육과정을 마련한 뒤 오는 9월 1기 참가자를 모집할 예정이다. 글로벌 펠로우십은 시스템 취약점을 발견하고 공격 코드를 분석하는 기존 보안 교육에 AI 활용 역량을 결합한 프로그램이다. AI를 이용한 공격을 방어하는 능력뿐 아니라 AI로 취약점을 탐지하고 사고 대응을 자동화하는 역량까지 갖춘 융합형 보안 전문가를 육성하는 것이 목표다. 선발된 참가자에게는 장학금과 함께 현직 보안 전문가의 멘토링이 제공된다. 실제 사이버 위협과 취약점 연구를 기반으로 한 실전 교육과 해외 보안 커뮤니티와의 네트워킹도 지원할 계획이다. 교육을 단기 기술 습득에 그치지 않고 연구와 대회 참가, 산업 현장 진출로 이어지는 과정으로 구성한다는 구상이다. 글로벌 펠로우십 도입 배경에는 생성형 AI와 자율형 에이전트 확산으로 빠르게 달라지는 사이버 위협 환경이 자리한다. AI는 대규모 소프트웨어 취약점을 빠르게 분석하고 공격 코드를 생성할 수 있지만, 방어 분야에서도 악성 행위 탐지와 취약점 점검, 사고 대응 시간을 줄이는 도구로 활용된다. 올해 코드게이트에서는 KAIST와 코드게이트보안포럼이 공동 개발한 ‘AI 해커’가 인간 화이트해커들과 같은 문제를 풀었다. AI 해커는 일반부에서 18위, 주니어부 기준으로는 2위 수준의 성적을 기록했다. AI 단독 성능의 가능성과 한계를 동시에 보여주면서 전문 지식을 갖춘 보안 인재와 AI의 협업 필요성이 부각됐다. 코드게이트 주관사인 한컴그룹은 장학금 조성과 교육과정 기획 등 글로벌 펠로우십 운영을 후원한다. 한컴그룹은 계열사 한컴이노스트림이 보유한 AI 교육 역량도 프로그램에 활용할 것으로 예상된다. 한컴이노스트림은 엔비디아의 AI 교육 프로그램인 DLI(Deep Learning Institute) 공인 교육센터를 운영하고 있다. 회사에 따르면 국내 최초이자 세계 다섯 번째 공인 교육센터로, AI와 데이터, 로보틱스 분야의 실무 교육과 기업 프로젝트를 수행하고 있다. 코드게이트보안포럼은 2008년부터 국제해킹방어대회와 보안 콘퍼런스를 개최하며 국내외 화이트해커를 발굴해 왔다. 올해 대회 온라인 예선에는 88개국 3333명이 참가했으며, 일반부 20개 팀과 주니어부 20명이 본선에서 경쟁했다. 조현숙 코드게이트보안포럼 이사장은 “AI가 방어와 공격의 경계를 무너뜨리며 보안 환경을 근본적으로 바꾸고 있는 지금 가장 중요한 것은 기술을 올바르게 다루고 통제할 사람”이라며 “잠재력 있는 미래 인재를 발굴해 세계적인 AI 보안 전문가로 육성하겠다”고 말했다. 글로벌 펠로우십이 정착하면 코드게이트는 대회에서 우수 인재를 찾는 데 그치지 않고 교육과 연구, 글로벌 진출까지 지원하는 보안 인재 플랫폼으로 역할을 넓히게 된다. 구체적인 선발 규모와 지원 자격, 교육 기간 등은 9월 모집 공고를 통해 공개될 예정이다.2026-07-27 11:10:40
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 외교·안보의 무능한 조율, 국익을 위태롭게 하는 정부의 책임을 묻는다](https://image.ajunews.com/content/image/2026/10/15/20261015110225313090_518_323.jpg)