검색결과 총 237건
-
카카오, '스스로 일하는 AI' 통제 기준 마련…권한·비상 제어 점검
[경제일보] 카카오가 스스로 계획을 세우고 업무를 실행하는 AI 에이전트에 맞춰 윤리 관리 체계를 개편했다. AI가 사용할 권한과 데이터, 사람의 개입 범위를 서비스 기획 단계부터 점검하고, 위험 상황에서는 통제할 수 있도록 하는 것이 핵심이다. 새 이행 체크리스트는 연내 적용한다. 카카오는 지난 13일 개발자 콘퍼런스 ‘if(kakao)26’에서 AI 윤리 원칙 ‘SPIRIT’과 이행 방식 ‘NORMA’를 공개했다고 15일 밝혔다. 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 이달 초 마련했으며, AI 안전·개인정보·정보보안·서비스 부서가 실무 검토에 참여했다. 자율 에이전트는 외부 도구와 데이터를 활용해 여러 단계의 작업을 수행한다. 이 과정에서는 답변의 정확성뿐 아니라 이용자가 허용한 범위 안에서 행동하는지, 잘못된 작업을 사람이 중단할 수 있는지도 중요해진다. 카카오가 인간의 판단과 책임, 권한 통제를 새 윤리 체계의 중심에 둔 배경이다. SPIRIT은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성 등 6개 항목으로 구성된다. 이용자가 AI의 판단과 행동에 대한 주도권을 유지하도록 하고, 원칙을 실제 서비스 설계와 운영에 반영한다는 방향을 담았다. 이행 방식인 NORMA는 조직이 공동으로 책임지고 복잡한 윤리 과제를 관리·실행 가능한 단계로 구체화하는 체계다. 카카오는 에이전트의 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 나누고 인간 감독·비상 제어·권한 통제·데이터 보호 등의 조치를 연결했다. 이를 점검하는 체크리스트는 서비스 속성 파악, 사전 위험 선별, 통제 항목 점검·판정의 3단계로 운영한다. 서비스 기획부터 운영까지 전 과정에서 위험을 검토하도록 설계했다. 이번 개편에는 국가 차원의 AI 윤리 기준도 반영했다. 정부는 지난 8월 24일 인간의 존엄성, 사회의 공공선, 인류의 지속가능성 등 3대 가치와 7대 원칙을 담은 ‘대한민국 인공지능 윤리원칙’을 확정했다. 카카오는 이를 주요 이행 기준으로 삼고 서비스 특성에 맞게 보완했다. AI 기본법 제28조는 기업 등이 민간자율인공지능윤리위원회를 두고 윤리원칙 준수 여부 확인, 안전·인권침해 조사, 지침 마련 등을 수행할 수 있도록 규정한다. 카카오는 기존 소위원회와 외부 자문단을 통해 이러한 역할을 자율적으로 수행한다는 방침이다. 아동·청소년 보호 항목도 확대한다. 지난해부터 운영한 별도 체크리스트에 더해, OECD와 유니세프의 아동 온라인 위험 분류 체계를 참고한 AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 계획이다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다.
2026-10-15 17:03:49
-
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련
[경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.
2026-10-15 09:54:23
-
-
-
-
-
최태원 "가만히 놔두면 다 추격"…중국 메모리 공세에 증설 속도전
[경제일보] 최태원 SK그룹 회장이 중국 메모리 반도체 업체들의 추격에 대응하기 위해 생산능력 확대에 속도를 내야 한다고 강조했다. 인공지능(AI) 확산으로 반도체 수요가 늘어나는 가운데 중국 기업들이 빠르게 생산시설을 늘리면서 국내 기업의 시장점유율을 지키기 위한 투자 확대가 중요해졌다는 판단으로 풀이된다. 11일(현지시간) 최태원 회장은 중국 상하이에서 열린 '제38회 상하이시 시장 국제기업가 자문회의' 행사장에서 SK의 반도체 전략과 투자 방향을 공개했다. 최 회장은 호남 반도체 클러스터 사업과 관련해 연합뉴스와 만나 "중국이나 미국 마이크론이 더 빠른 속도로 증설해버리면 우리나라의 시장점유율은 줄어들어 익스팬션(확장)을 빨리빨리 해야 한다"며 "수요는 엄청나게 있는데 공장을 못 늘리면 그게 문제이며 우리도 최대한 빠른 속도로 뭔가를 해야 한다"고 말했다. 광주뿐 아니라 다른 지역에서도 생산시설을 계속 늘려야 한다는 취지로 풀이된다. 이 같은 발언은 AI 산업 성장으로 메모리 수요가 확대되는 가운데 중국 업체들의 생산능력 확대가 국내 기업에 부담으로 작용할 수 있다는 인식에서 나온 것으로 풀이된다. 최근 중국 창신메모리(CXMT)는 D램, 양쯔메모리(YMTC)는 낸드플래시를 중심으로 사업을 확대하고 있다. 중국 정부의 지원과 내수 시장을 바탕으로 생산능력을 키우면서 삼성전자와 SK하이닉스 등 국내 기업이 주도해온 메모리 시장에서 경쟁이 심화되고 있다. 최 회장도 중국 업체들의 추격을 경계했다. 그는 "빠른 속도로 쫓아오고 있고, 가만히 놔두면 다 추격된다"며 "경쟁을 세게 붙어야 하는데 중국 시장에서 우리는 익스팬션이 안 되고 있으니까 중국 시장을 놓고는 별로 경쟁이 잘 안 된다"고 평가했다. 반도체 생산시설 확대는 시장 수요에 대응하는 동시에 경쟁 업체의 공급 증가에 대비하는 전략적 과제로 떠오르고 있다. 다만 생산능력 확대가 곧바로 시장점유율 방어로 이어지는 것은 아니다. 메모리 제품별 기술 경쟁력과 수율, 고객사 확보, 투자비 회수 가능성 등을 함께 고려해야 하기 때문이다. 특히 AI용 고대역폭 메모리(HBM)와 범용 D램·낸드플래시는 수요 구조와 경쟁 구도가 다른 만큼 제품군별 대응 전략이 중요한 것으로 꼽힌다. 국내 투자와 함께 해외 생산거점 확대 가능성도 열어뒀다. 최 회장은 일본 등 해외 공장 증설 가능성에 대해 "스터디 중"이라고 답했다. 다만 구체적인 투자 지역이나 규모, 일정 등은 밝히지 않았다. 앞서 최 회장은 지난 9일 호남 반도체 클러스터 부지인 광주 군공항을 방문해 "지을 수 있는 상황이 된다고 생각하면 가장 빠른 속도로 최대한 짓겠다"고 말했다. 당시에도 반도체 수요가 빠르게 증가할 것으로 전망하면서 용인 반도체 클러스터와 병행해 추가 팹 조성이 필요해질 수 있다고 언급했다. 호남 클러스터를 비롯한 추가 생산시설이 실제 투자로 이어지려면 부지 확보뿐 아니라 전력·용수 공급, 인력 확보, 인허가 등 기반 여건도 갖춰져야 한다. 기존 생산시설과 신규 시설의 역할을 어떻게 나눌지, 투자 시점을 얼마나 앞당길 수 있을지도 향후 증설 계획의 관건이 될 전망이다. 미국의 대중국 반도체 규제 움직임에 대해서는 회의적인 입장을 나타냈다. 최근 미 하원 미중전략경쟁특별위원회 존 물레나르 위원장이 마코 루비오 국무장관에게 보낸 서한에서 삼성전자와 SK하이닉스의 중국 공장을 거론한 것과 관련해 최 회장은 "별로 현명해 보이지 않는다"고 말했다. 이어 "그렇게 막는다고 해서 중국의 반도체를 막을 수 있다고 생각하는 건 별로 현명해 보이지 않는다"며 "CXMT와 YMTC가 무서운 속도로 계속 오고 있다"고 지적했다. 중국 반도체 산업의 성장을 규제하는 것만으로 경쟁을 제한하기보다는 국내 기업도 생산능력과 기술 경쟁력을 강화해야 한다는 취지로 풀이된다. 반도체 증설과 별도로 SK는 중국 내 AI 사업 협력도 추진하고 있다. 최 회장은 이날 회의 발표에서 SK가 반도체·배터리·석유화학 등을 중심으로 중국에 약 600억 달러(약 80조5600억원)를 투자했다고 설명했다. 지난 35년간 중국에서 주요 외국인 투자 기업으로 성장했다는 점도 강조했다. SK 측은 최 회장 명의로 발표한 자료에서 상하이에 AI 연구개발센터 설립을 추진 중이라고 설명했다. 센터는 AI 데이터센터와 피지컬 AI, 바이오의약 등 첨단 분야를 중심으로 연구를 진행할 계획이다. SK는 AI 풀스택 역량과 글로벌 협력망을 바탕으로 중국의 AI·첨단산업 생태계와 협력을 강화하고 현지 산업의 기술 변화와 사업 기회를 파악한다는 구상이다. 최 회장은 상하이가 AI 시대의 혁신 거점으로 성장하기 위해서는 정부가 기민한 규제자 역할을 해야 한다고도 강조했다. 낡고 과도한 규제뿐 아니라 불명확한 규제가 기업 활동에 부담을 줄 수 있다며, 장기적인 협력과 투자를 위해 정책 및 심사 과정의 투명성과 예측 가능성을 높이는 데 상하이 정부가 역할을 해야 한다고 말했다.
2026-10-11 17:48:42
-
-
-
-
-
-
-
국민·신한·하나, 1239억 쓰고도 뚫렸다…고객정보 새나간 '업무 쪽문'
[경제일보] 한 해 정보보호에 1200억원 넘게 투입한 KB국민·신한·하나은행이 업무지원 시스템을 통한 고객정보 유출을 막지 못했다. 상시 보안관제와 전문조직, 국내외 인증을 갖췄지만 고객정보를 조회하는 경로에서 허점이 드러났다. 금융당국이 인공지능(AI)을 활용한 자동화 공격 가능성을 조사하면서 외부에 노출된 업무 시스템의 관리 방식도 도마에 올랐다. 5일 금융감독원이 국민의힘 이양수 의원에게 제출한 자료에 따르면 지난해 정보보호 집행액은 하나은행 530억200만원, KB국민은행 392억9700만원, 신한은행 316억7500만원이었다. 세 은행을 합하면 1239억7400만원이다. 은행들이 공개한 보안 체계도 촘촘했다. 연합뉴스가 각 금융지주의 올해 반기보고서를 분석한 내용에 따르면 신한은행은 금융위원회 주관 ‘개인신용정보 관리 및 보호 실태 점검’에서 6년 연속 S등급인 100점을 받았다. 국내외 정보보호 인증과 내부 해킹 대응조직을 갖추고, 북대서양조약기구(NATO) 사이버방위센터 주관 훈련에도 참여했다. KB금융은 올해 1월 그룹사이버보안센터를 출범시켰다. 공격자 관점에서 취약점을 찾는 ‘레드팀’과 침입을 탐지·차단하는 ‘블루팀’을 함께 운영하는 체계다. 하나은행도 그룹 통합 보안관제센터를 연중 가동하고, 업무상 필요한 경우에만 개인정보에 접근하도록 관리한다고 설명했다. 실제 공격은 대출모집인과 직원들이 사용하는 업무지원 경로를 파고들었다. 신한은행에서는 대출모집인용 간편조회 서비스, 국민은행에서는 직원용 모바일 업무지원 시스템, 하나은행에서는 영업지원시스템이 공격 대상이 됐다. 피해 규모는 신한은행 고객 약 2만5000명, 국민은행 고객·임직원 119명, 하나은행 고객 89명이다. 고객이 직접 이용하는 금융거래 서비스 밖에서도 개인정보를 조회할 수 있는 경로가 공격 통로로 악용된 것이다. 금감원은 지난 4일 긴급 점검회의에서 본인확인 없는 정보조회, 접근통제 누락, 알려진 취약점의 미조치 등을 사고 유형별 취약점으로 제시했다. AI 에이전트를 활용한 대량 자동화 공격을 추정하고 있으며, 개별 사고의 원인과 공격수법은 조사하고 있다. 이런 위협은 사고 전에도 예고됐다. 금융위는 지난 9월 3일 AI 보안 테스트 중간점검 결과를 공개하면서, 첨단 AI가 수백만~수천만 줄의 소스코드를 수시간 내 분석하는 취약점 탐색 능력을 보였다고 밝혔다. 기존 취약점을 넓은 범위에서 일관되게 찾아내는 능력도 확인했다. 당시 금융위는 외부에 노출된 전산자산의 식별·관리, 신속한 보안패치, AI를 활용한 방어체계 구축이 필요하다고 제시했다. 공격자가 약한 지점을 찾는 시간이 줄어드는 만큼 금융회사도 점검과 보완 속도를 높여야 한다는 경고였다. 이번 사고가 드러낸 문제는 보안조직이나 장비의 유무와 함께 실제 통제가 적용되는 범위다. 직원용·모집인용이라는 시스템의 명칭과 관계없이, 외부에서 접근해 고객정보를 조회할 수 있다면 인증과 접근권한을 같은 수준으로 관리해야 한다. 금융위가 지난 2일 내린 점검 지시도 이 부분에 집중됐다. 대고객 서비스 여부와 서비스 종류를 가리지 않고 외부에서 접근할 수 있는 시스템 전체를 파악하도록 했다. 개인정보 조회 과정에서 인증이 누락되는 경로와 불필요한 정보 노출도 점검 대상에 포함했다. 이억원 금융위원장은 4일 “아무리 견고한 보안 체계를 갖추고 있더라도 관리되지 않는 하나의 빈틈이 전체 보안 체계의 취약점이 될 수 있다”며 “AI 공격은 AI로 방어하는” 체계 마련을 주문했다. 접근할 때마다 신원과 권한을 검증하는 제로트러스트 원칙에 기반한 보안체계 전환도 강조했다. 중소 금융회사의 대응 여력은 별도의 과제다. AI 도구를 도입하더라도 탐지 결과를 분석하고 취약점을 보완할 전문인력과 운영비가 필요하다. 금융위는 한 회사에서 확인된 공격수법이 다른 회사에도 활용될 수 있다고 보고 공격 IP주소와 침해시도 내역을 공유하는 공동 대응을 추진하고 있다. AI 보안 테스트 참여 기회도 확대한다. 금융위가 9월 발표한 2차 망분리 규제 긴급완화 방안은 신청 대상에 중소 금융회사와 전자금융업자를 포함해 대상 기관을 49개사에서 75개사로 늘렸다. 선정 규모는 10개사에서 최대 15개사로 확대했다. 선정된 회사는 망분리를 대신할 통제수단을 마련한 뒤 AI와 보안 서비스를 활용해 취약점을 탐지·개선하게 된다. 금융위는 이달 중 비조치의견서를 발급할 계획이며, 테스트에서 축적한 대응 요령은 참여하지 않은 금융회사에도 전파한다는 방침이다.
2026-10-05 11:03:04