2026.10.16 금요일
검색
'기술 윤리' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오, '스스로 일하는 AI' 통제 기준 마련…권한·비상 제어 점검 [경제일보] 카카오가 스스로 계획을 세우고 업무를 실행하는 AI 에이전트에 맞춰 윤리 관리 체계를 개편했다. AI가 사용할 권한과 데이터, 사람의 개입 범위를 서비스 기획 단계부터 점검하고, 위험 상황에서는 통제할 수 있도록 하는 것이 핵심이다. 새 이행 체크리스트는 연내 적용한다. 카카오는 지난 13일 개발자 콘퍼런스 ‘if(kakao)26’에서 AI 윤리 원칙 ‘SPIRIT’과 이행 방식 ‘NORMA’를 공개했다고 15일 밝혔다. 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 이달 초 마련했으며, AI 안전·개인정보·정보보안·서비스 부서가 실무 검토에 참여했다. 자율 에이전트는 외부 도구와 데이터를 활용해 여러 단계의 작업을 수행한다. 이 과정에서는 답변의 정확성뿐 아니라 이용자가 허용한 범위 안에서 행동하는지, 잘못된 작업을 사람이 중단할 수 있는지도 중요해진다. 카카오가 인간의 판단과 책임, 권한 통제를 새 윤리 체계의 중심에 둔 배경이다. SPIRIT은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성 등 6개 항목으로 구성된다. 이용자가 AI의 판단과 행동에 대한 주도권을 유지하도록 하고, 원칙을 실제 서비스 설계와 운영에 반영한다는 방향을 담았다. 이행 방식인 NORMA는 조직이 공동으로 책임지고 복잡한 윤리 과제를 관리·실행 가능한 단계로 구체화하는 체계다. 카카오는 에이전트의 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 나누고 인간 감독·비상 제어·권한 통제·데이터 보호 등의 조치를 연결했다. 이를 점검하는 체크리스트는 서비스 속성 파악, 사전 위험 선별, 통제 항목 점검·판정의 3단계로 운영한다. 서비스 기획부터 운영까지 전 과정에서 위험을 검토하도록 설계했다. 이번 개편에는 국가 차원의 AI 윤리 기준도 반영했다. 정부는 지난 8월 24일 인간의 존엄성, 사회의 공공선, 인류의 지속가능성 등 3대 가치와 7대 원칙을 담은 ‘대한민국 인공지능 윤리원칙’을 확정했다. 카카오는 이를 주요 이행 기준으로 삼고 서비스 특성에 맞게 보완했다. AI 기본법 제28조는 기업 등이 민간자율인공지능윤리위원회를 두고 윤리원칙 준수 여부 확인, 안전·인권침해 조사, 지침 마련 등을 수행할 수 있도록 규정한다. 카카오는 기존 소위원회와 외부 자문단을 통해 이러한 역할을 자율적으로 수행한다는 방침이다. 아동·청소년 보호 항목도 확대한다. 지난해부터 운영한 별도 체크리스트에 더해, OECD와 유니세프의 아동 온라인 위험 분류 체계를 참고한 AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 계획이다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다.2026-10-15 17:03:49
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련 [경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.2026-10-15 09:54:23
-
KT·서울시, 어린이 AI 교육에 '윤리·안전' 더했다…민관협력형 모델 확산 [경제일보] AI가 일상과 교육 현장에 빠르게 들어오면서 어린이들에게 단순한 기술 활용법을 넘어 AI를 올바르게 사용하는 방법까지 가르치는 교육이 중요해지고 있다. KT가 서울시와 함께 기술 체험과 코딩 교육에 디지털 윤리와 범죄예방 교육을 결합한 AI 캠프를 마련한 것도 이런 흐름을 반영한다. 민간기업의 AI 기술과 공공기관의 교육·안전 인프라를 연결해 지역 단위 AI 교육 모델을 만들겠다는 시도다. KT는 서울시, 서울로봇인공지능과학관, 서울도봉경찰서와 함께 22일 서울 도봉구 서울로봇인공지능과학관에서 초등학생 100명을 대상으로 ‘KT-서울시와 함께하는 AI 미래 캠프’를 개최했다고 23일 밝혔다. 참가 학생들은 25명씩 4개 조로 나뉘어 AI 기술과 윤리, 로봇, 디지털 안전 등을 체험했다. ◆ AI를 배우면서 ‘어떻게 써야 하는가’까지 교육 캠프의 특징은 AI 교육을 하나의 기술 체험으로 끝내지 않았다는 점이다. KT의 이동식 AI 체험교육관 ‘AI 스테이션’에서는 AI 기술의 원리와 활용 사례를 체험하고, AICE와 연계한 블록 코딩교육 ‘AICE Future’를 통해 직접 프로그램을 만들어보는 시간을 가졌다. 서울로봇인공지능과학관에서는 ‘생각하는 로봇과 질문하는 인간’ 전시를 통해 AI와 인간의 관계를 살펴봤다. 로봇팔을 활용해 그림을 그리는 ‘피카봇 미술관’도 운영해 학생들이 로봇 기술을 직접 경험하도록 했다. 여기에 서울도봉경찰서의 AI 활용 범죄예방 교육을 더했다. 생성형 AI와 디지털 기술이 일상에 확산하면서 딥페이크, 온라인 사기 등 새로운 형태의 디지털 범죄 위험도 커지고 있는 만큼 기술 활용 능력과 함께 개인정보 보호와 디지털 안전에 대한 교육도 병행했다. KT가 AI 교육에 지속적으로 투자하는 배경에는 지역과 환경에 따른 디지털 교육 격차를 줄이겠다는 목적도 있다. 특히 학교와 교육시설이 상대적으로 부족한 지역에서는 최신 AI 기술을 직접 체험할 기회가 제한될 수밖에 없다. KT는 이를 보완하기 위해 이동식 AI 체험교육관인 AI 스테이션을 활용해 도서산간 지역 등을 찾아가는 교육을 진행하고 있다. 2023년부터 전국 교육청과 지자체를 통해 초·중학생 대상 AI·디지털 윤리 시민교육을 확대했으며, 2025년까지 누적 약 17만명이 관련 교육에 참여했다. 이번 캠프는 여기에 국공립 과학관과 경찰 등 공공기관까지 참여했다는 점에서 기존 기업 주도의 AI 교육과 차별화된다. AI 기술을 보유한 기업, 과학 교육을 담당하는 공공기관, 지역사회 안전을 책임지는 경찰이 각자의 전문성을 결합하면서 AI 교육을 기술·과학·윤리·안전으로 확장한 셈이다. 이정우 KT ESG추진담당 상무는 “AI 시대에는 기술을 다루는 능력만큼이나 이를 책임감 있게 활용하는 마인드가 중요하다”며 “어린이들이 AI 기술과 윤리를 함께 배우고 미래 인재로 성장하는 계기가 되기를 바란다”고 말했다. 전재명 서울시 경제실장 직무대행도 “서울시의 공공인프라와 KT의 첨단기술, 경찰의 범죄예방 전문성을 결합한 의미 있는 협력사업”이라며 민간과의 협력을 확대하겠다고 밝혔다. 한편 KT는 이번 서울시 협력을 계기로 국공립 과학관과 지자체, 공공기관을 연계한 민관협력형 AI 교육 모델을 전국으로 확대한다는 계획이다. AI 인재 양성이 단순히 코딩을 가르치는 수준을 넘어 기술을 이해하고 책임 있게 활용하는 시민을 길러내는 방향으로 이동하면서, 이 같은 공공·민간 협력 모델의 역할도 커질 전망이다.2026-08-23 14:42:16
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI가 내 돈을 쓰는 시대, 책임은 누가 지나](https://image.ajunews.com/content/image/2026/10/16/20261016135030302549_518_323.jpeg)