검색결과 총 162건
-
카카오, '스스로 일하는 AI' 통제 기준 마련…권한·비상 제어 점검
[경제일보] 카카오가 스스로 계획을 세우고 업무를 실행하는 AI 에이전트에 맞춰 윤리 관리 체계를 개편했다. AI가 사용할 권한과 데이터, 사람의 개입 범위를 서비스 기획 단계부터 점검하고, 위험 상황에서는 통제할 수 있도록 하는 것이 핵심이다. 새 이행 체크리스트는 연내 적용한다. 카카오는 지난 13일 개발자 콘퍼런스 ‘if(kakao)26’에서 AI 윤리 원칙 ‘SPIRIT’과 이행 방식 ‘NORMA’를 공개했다고 15일 밝혔다. 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 이달 초 마련했으며, AI 안전·개인정보·정보보안·서비스 부서가 실무 검토에 참여했다. 자율 에이전트는 외부 도구와 데이터를 활용해 여러 단계의 작업을 수행한다. 이 과정에서는 답변의 정확성뿐 아니라 이용자가 허용한 범위 안에서 행동하는지, 잘못된 작업을 사람이 중단할 수 있는지도 중요해진다. 카카오가 인간의 판단과 책임, 권한 통제를 새 윤리 체계의 중심에 둔 배경이다. SPIRIT은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성 등 6개 항목으로 구성된다. 이용자가 AI의 판단과 행동에 대한 주도권을 유지하도록 하고, 원칙을 실제 서비스 설계와 운영에 반영한다는 방향을 담았다. 이행 방식인 NORMA는 조직이 공동으로 책임지고 복잡한 윤리 과제를 관리·실행 가능한 단계로 구체화하는 체계다. 카카오는 에이전트의 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 나누고 인간 감독·비상 제어·권한 통제·데이터 보호 등의 조치를 연결했다. 이를 점검하는 체크리스트는 서비스 속성 파악, 사전 위험 선별, 통제 항목 점검·판정의 3단계로 운영한다. 서비스 기획부터 운영까지 전 과정에서 위험을 검토하도록 설계했다. 이번 개편에는 국가 차원의 AI 윤리 기준도 반영했다. 정부는 지난 8월 24일 인간의 존엄성, 사회의 공공선, 인류의 지속가능성 등 3대 가치와 7대 원칙을 담은 ‘대한민국 인공지능 윤리원칙’을 확정했다. 카카오는 이를 주요 이행 기준으로 삼고 서비스 특성에 맞게 보완했다. AI 기본법 제28조는 기업 등이 민간자율인공지능윤리위원회를 두고 윤리원칙 준수 여부 확인, 안전·인권침해 조사, 지침 마련 등을 수행할 수 있도록 규정한다. 카카오는 기존 소위원회와 외부 자문단을 통해 이러한 역할을 자율적으로 수행한다는 방침이다. 아동·청소년 보호 항목도 확대한다. 지난해부터 운영한 별도 체크리스트에 더해, OECD와 유니세프의 아동 온라인 위험 분류 체계를 참고한 AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 계획이다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다.
2026-10-15 17:03:49
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련
[경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.
2026-10-15 09:54:23
-
-
-
-
-
-
-
-
-
-
-
-
NH농협은행, AI·기업금융으로 성장전략 확대
[경제일보] 강태영 행장이 이끄는 NH농협은행이 인공지능(AI)과 기업금융을 중심으로 성장전략을 넓히고 있다. 올해 상반기 순이익은 1조1629억원으로 전년 동기보다 2.1% 감소했지만 기업여신은 183조8112억원으로 6.7% 증가했고 순이자마진(NIM)은 1.74%로 0.04%포인트(p) 상승했다. 강 행장은 올원뱅크사업부장과 디지털전략부장, DT부문장 등을 거친 디지털 전문가다. 취임 이후 AI 전환을 조직과 영업 현장으로 확대하는 한편 향후 5년간 65조3000억원 규모의 생산적 금융을 공급해 첨단산업과 지역특화산업을 중심으로 기업금융 기반을 넓힐 계획이다. ◆‘디지털 전문가’ 강태영…AI 은행 전환 속도 강 행장은 올해 AI 전환을 주요 경영전략으로 추진한다. 조직개편을 통해 기존에 분산돼 있던 AI전략과 데이터 분석, 로봇프로세스자동화(RPA) 기능을 묶은 AI데이터부문도 신설했다. 지난 6월에는 ‘NH AGENTIC AI BANK’ 비전을 선포했다. 직원이 업무에 활용할 수 있는 AI 플랫폼 ‘NHAIS’를 구축하고 금융업무 전반에 AI를 적용하는 한편 외부 AI기업과 투자·사업협력을 확대하는 것이 주요 목표다. 실행 조직도 별도로 꾸렸다. 농협은행은 77명 규모로 ‘AX프런티어’를 출범해 AI 기반 업무 전환 과제를 발굴하고 있다. AI 전문기업 애자일소다를 인수해 AI 기반 사업협력을 본격화했고 지난달에는 차세대 AI 컨택센터를 열었다. 고객 데이터와 AI를 활용한 초개인화 금융서비스 개발도 추진하고 있다. 강 행장은 지난 1991년 농협중앙회에 입사한 뒤 농협은행 종합기획부 전략기획단장과 올원뱅크사업부장, 디지털전략부장 등을 거쳤다. 이후 DT부문장과 농협금융 디지털금융부문을 맡았고 NH농협캐피탈 지원총괄 부사장을 거쳐 지난해 농협은행장에 올랐다. ◆생산적 금융 65조…기업금융 중심 성장축 확대 AI와 함께 강 행장이 힘을 싣는 분야는 생산적 금융이다. 농협은행은 지난 3월 은행장 직속 생산적 금융 추진위원회를 꾸리고 향후 5년간 65조3000억원을 공급하기로 했다. 지원 대상은 △반도체·AI 등 첨단전략산업 △농식품·애그테크 △지역특화산업 △창업·벤처기업 △기술금융 등이다. 포용금융 등을 포함한 전체 신규 금융공급 계획은 76조8000억원이다. 지원도 빠르게 집행됐다. 지난 5월 기준 생산적 금융 지원액은 8조5363억원으로 연간 목표의 67.6%에 도달했다. 이 가운데 첨단전략산업에 3조421억원, 창업·벤처기업에 2조1962억원이 공급됐다. 기업금융 거점도 넓혔다. 판교에서는 AI·데이터·IT·반도체, 송도에서는 제약·바이오 기업을 대상으로 금융지원을 강화했다. 기업과의 직접 협력도 이어졌다. 한국항공우주산업(KAI)과 3년간 1조원 규모의 금융협력을 체결했고 OCI와도 3년간 5000억원 규모의 금융지원에 나서기로 했다. ◆기업여신 184조…NIM 개선에도 ROE 9.01% 기업금융 확대는 자산 구성에서도 확인된다. 올해 상반기 말 농협은행 총여신은 342조2243억원으로 전년 동기보다 4.2% 증가했다. 이 중 기업여신은 172조2060억원에서 183조8112억원으로 6.7% 늘었다. 같은 기간 가계여신은 1.6% 증가한 148조8540억원을 기록했다. 수익 기반도 확대됐다. NIM은 1.70%에서 1.74%로 상승했고 원화예대금리차는 1.94%에서 1.98%로 높아졌다. 은행계정 기준 순이자손익은 3조9145억원으로 전년 동기보다 8.2%, 순수수료손익은 4531억원으로 16.6% 증가했다. 반면 수익성 지표는 하락했다. 올해 상반기 총자산이익률(ROA)은 0.55%에서 0.51%, 자기자본이익률(ROE)은 9.43%에서 9.01%로 낮아졌다. 같은 기간 신용손실충당금 전입액도 1882억원에서 2960억원으로 57% 넘게 늘었다. 은행계정 기준 영업이익은 1조8047억원으로 전년 동기보다 감소했다. 건전성 지표도 일부 후퇴했다. 고정이하여신(NPL)비율은 0.47%에서 0.52%로 상승했고 대손충당금적립률은 214.26%에서 172.07%로 낮아졌다. 다만 기업대출 연체율은 0.61%에서 0.59%로 하락했다. 자본비율은 높은 수준을 유지했다. 상반기 말 보통주자본(CET1)비율은 15.83%, 기본자본비율은 17.41%, 총자본비율은 18.79%를 기록했다. ◆농업·지역금융 정체성에 디지털 입힌다 기업금융과 AI를 확대하는 동시에 기존 농업·지역금융에도 디지털을 접목한다. 지난 4월에는 농업정책자금 가운데 처음으로 후계농육성자금의 영업점 무방문 대출을 도입했다. 고객이 올원뱅크에서 신청부터 실행까지 처리할 수 있도록 한 방식이다. 농식품 기업 대상 금융도 늘렸다. 농식품 관련 162개 업종을 대상으로 하는 ‘NH특화 기술금융’ 공급액은 올해 5000억원을 넘어섰다. 농식품·푸드테크·애그테크 분야에서는 8개 펀드 3441억원을 운용하며 향후 3년간 5000억원 이상으로 확대할 계획이다. 포용금융도 병행한다. 농협은행은 지난 6월 말까지 서민과 소상공인, 폐업자 등을 대상으로 1조9126억원을 지원했다. 지난달에는 전국 지역신용보증재단에 100억원을 특별출연해 마을기업 등 지역기반 기업에 1500억원 규모의 금융지원도 추진했다. 강 행장은 농업·지역금융이라는 농협은행의 기존 사업 기반에 AI와 첨단산업 기업금융을 새로운 성장축으로 더하고 있다. 기업여신 확대와 NIM 개선을 이어가는 동시에 자산 성장 과정에서 수익성과 건전성을 함께 높이는 것이 향후 과제로 남았다. [아주경제 2026년 09월 22일자 15면에 게재된 기사입니다.]
2026-09-22 08:33:44
-