검색결과 총 46건
-
카카오, '스스로 일하는 AI' 통제 기준 마련…권한·비상 제어 점검
[경제일보] 카카오가 스스로 계획을 세우고 업무를 실행하는 AI 에이전트에 맞춰 윤리 관리 체계를 개편했다. AI가 사용할 권한과 데이터, 사람의 개입 범위를 서비스 기획 단계부터 점검하고, 위험 상황에서는 통제할 수 있도록 하는 것이 핵심이다. 새 이행 체크리스트는 연내 적용한다. 카카오는 지난 13일 개발자 콘퍼런스 ‘if(kakao)26’에서 AI 윤리 원칙 ‘SPIRIT’과 이행 방식 ‘NORMA’를 공개했다고 15일 밝혔다. 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 이달 초 마련했으며, AI 안전·개인정보·정보보안·서비스 부서가 실무 검토에 참여했다. 자율 에이전트는 외부 도구와 데이터를 활용해 여러 단계의 작업을 수행한다. 이 과정에서는 답변의 정확성뿐 아니라 이용자가 허용한 범위 안에서 행동하는지, 잘못된 작업을 사람이 중단할 수 있는지도 중요해진다. 카카오가 인간의 판단과 책임, 권한 통제를 새 윤리 체계의 중심에 둔 배경이다. SPIRIT은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성 등 6개 항목으로 구성된다. 이용자가 AI의 판단과 행동에 대한 주도권을 유지하도록 하고, 원칙을 실제 서비스 설계와 운영에 반영한다는 방향을 담았다. 이행 방식인 NORMA는 조직이 공동으로 책임지고 복잡한 윤리 과제를 관리·실행 가능한 단계로 구체화하는 체계다. 카카오는 에이전트의 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 나누고 인간 감독·비상 제어·권한 통제·데이터 보호 등의 조치를 연결했다. 이를 점검하는 체크리스트는 서비스 속성 파악, 사전 위험 선별, 통제 항목 점검·판정의 3단계로 운영한다. 서비스 기획부터 운영까지 전 과정에서 위험을 검토하도록 설계했다. 이번 개편에는 국가 차원의 AI 윤리 기준도 반영했다. 정부는 지난 8월 24일 인간의 존엄성, 사회의 공공선, 인류의 지속가능성 등 3대 가치와 7대 원칙을 담은 ‘대한민국 인공지능 윤리원칙’을 확정했다. 카카오는 이를 주요 이행 기준으로 삼고 서비스 특성에 맞게 보완했다. AI 기본법 제28조는 기업 등이 민간자율인공지능윤리위원회를 두고 윤리원칙 준수 여부 확인, 안전·인권침해 조사, 지침 마련 등을 수행할 수 있도록 규정한다. 카카오는 기존 소위원회와 외부 자문단을 통해 이러한 역할을 자율적으로 수행한다는 방침이다. 아동·청소년 보호 항목도 확대한다. 지난해부터 운영한 별도 체크리스트에 더해, OECD와 유니세프의 아동 온라인 위험 분류 체계를 참고한 AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 계획이다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다.
2026-10-15 17:03:49
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련
[경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.
2026-10-15 09:54:23
-
-
-
-
-
-
-
-
-
KT, 18조원 투자보다 중요한 것…'AI로 얼마나 벌 것인가'
[경제일보] KT가 향후 5년간 18조원을 투입해 통신 중심 사업구조를 인공지능(AI) 중심으로 바꾼다. 정보보안·IT·네트워크 등에 12조원, AI 데이터센터(AIDC)와 해저케이블 등 AX 인프라에 6조원을 투자한다. AIDC 용량도 2031년까지 1GW를 추가 확보한다. 이제 시장이 주목하는 것은 투자액이 아니다. 이 돈을 투입해 얼마나 많은 고객을 확보하고 얼마의 이익을 만들어낼지가 핵심이다. KT는 최근 2028년 AX 매출을 2025년 대비 2배 이상으로 확대하고 연결 영업이익률 9%, 자기자본이익률(ROE) 9~10%를 달성하겠다는 목표를 제시했다. 비핵심·저효율 자산을 유동화하고 누적 1조원 규모의 자사주 매입·소각도 추진한다. 성장 투자와 수익성 개선, 주주환원을 동시에 달성하겠다는 전략이다. ◆ AX, 일단 ‘말’에서 ‘수주’로 넘어갔다 2분기 실적만 보면 KT의 전환 전략을 평가하기는 쉽지 않다. 연결 매출은 6조6799억원, 영업이익은 6483억원으로 전년 동기 대비 각각 10.1%, 36.1% 감소했다. 지난해 대규모 분양이익에 따른 높은 기저와 고객 보답 프로그램, 개인정보 침해사고 관련 비용 등이 영향을 미쳤다. 다만 1분기와 비교하면 영업이익은 34.3% 증가했다. 눈여겨볼 대목은 AX다. 2분기 AX 매출은 금융권의 AI 도입 확대와 KT클라우드 성장에 힘입어 22.3% 증가했다. 상반기에만 금융권 AX 사업 22건을 수주했고, 국내 5대 시중은행 가운데 4곳의 AI 챗봇·상담봇 구축·운영에도 참여하고 있다. AI 기반 개발·운영체계(AIDLC)까지 사업 영역을 넓히면서 기업 고객의 실제 지출을 끌어내고 있다는 의미다. 다만 매출 증가율만으로는 부족하다. AX 사업이 기존 시스템통합(SI) 사업에 AI를 덧붙이는 수준에 머문다면 높은 성장률이 지속되기 어렵다. 금융권에서 확보한 레퍼런스를 공공·제조 등으로 확대하고 AI 모델, 클라우드, 보안, 데이터센터를 묶어 공급하는 구조를 만들어야 한다. 그래야 일회성 구축 매출을 반복적인 운영·서비스 매출로 전환할 수 있다. ◆ 1GW보다 중요한 건 ‘가동률’이다 AIDC는 KT 전략의 또 다른 승부처다. KT는 2031년까지 AIDC 용량 1GW와 해저케이블 용량 90Tbps를 추가 확보할 계획이다. 데이터센터를 AI 인프라의 핵심 축으로 삼고 클라우드와 네트워크를 결합해 기업 고객을 끌어들이겠다는 구상이다. 문제는 데이터센터가 대표적인 선투자 사업이라는 점이다. 전력과 냉각설비, GPU, 네트워크 등에 막대한 자본이 들어가지만 고객이 실제 용량을 사용하지 않으면 투자 회수는 늦어진다. 따라서 시장이 앞으로 확인해야 할 숫자는 ‘1GW’라는 총량보다 가동률과 장기 계약 고객, 매출 대비 이익률이다. 특히 KT는 통신망이라는 기존 인프라를 보유하고 있다는 점에서 경쟁사와 차별화할 여지가 있다. AIDC와 클라우드, 네트워크, 보안을 하나의 기업용 패키지로 제공하면 데이터센터 단독 사업보다 고객당 매출을 키울 수 있다. 반대로 데이터센터 증설 속도가 고객 확보보다 앞서면 감가상각과 운영비 부담이 커져 18조원 투자가 오히려 수익성을 압박할 가능성도 있다. ◆ 결국 18조원의 성패는 ‘현금’이다 주주환원 역시 AI 사업의 수익성과 떼어놓고 볼 수 없다. KT는 2028년 영업이익률 9%와 ROE 9~10%를 목표로 하면서 누적 1조원 규모의 자사주 매입·소각을 추진한다. 결국 대규모 투자와 주주환원을 동시에 지속하려면 본업과 AX에서 안정적인 현금창출력을 확보해야 한다. 하반기부터 KT를 평가하는 기준도 달라질 가능성이 높다. 지금까지는 통신 가입자와 배당을 중심으로 기업가치를 바라봤다면 앞으로는 AX 수주가 실제 매출로 얼마나 전환되는지, AIDC 고객이 얼마나 확보되는지, 그리고 AI 사업이 영업이익을 얼마나 끌어올리는지를 함께 봐야 한다. 18조원은 KT의 변화를 설명하는 숫자일 뿐이다. 1GW의 데이터센터를 짓는 것보다 중요한 것은 그 시설을 채울 고객이고, AX 매출을 두 배로 만드는 것보다 중요한 것은 그 매출이 실제 이익과 현금으로 남는 구조를 만드는 것이다. KT의 하반기는 AI에 얼마나 투자했는지를 설명하는 시간이 아니라, AI로 얼마나 벌 수 있는지를 증명하는 시간이 될 전망이다. [아주경제 2026년 08월 25일자 13면에 게재된 기사입니다.]
2026-08-25 09:55:19
-
-
-
티오리, 'SOC 2 Type II' 취득…AI 보안 SaaS 앞세워 글로벌 B2B 정조준
[경제일보] 오펜시브 사이버보안 전문기업 티오리가 글로벌 기업 시장을 겨냥한 보안 컴플라이언스 체계를 한층 강화했다. 정보보안 관리체계를 평가하는 ISO 인증에 이어 글로벌 B2B 고객이 클라우드 서비스 도입 과정에서 중요하게 보는 SOC 2 Type II까지 확보하면서 해외 시장 공략을 본격화하는 모습이다. 티오리는 19일 글로벌 보안 감사 표준인 SOC 2(System and Organization Controls) Type II 보고서를 취득했다고 밝혔다. 미국공인회계사협회(AICPA)가 마련한 SOC 2는 클라우드 기반 서비스를 제공하는 기업의 정보보호 통제 수준을 독립적인 제3자가 검증하는 제도다. 특히 Type II는 단순히 보안 체계를 갖췄는지를 보는 데 그치지 않는다. 일정 기간 실제 운영 과정에서 보안 통제가 설계된 정책대로 작동했는지를 검증한다는 점에서 Type I보다 한 단계 높은 수준의 검증으로 평가된다. 티오리는 글로벌 회계·컨설팅 법인 센시바(Sensiba)를 통해 감사를 진행했다. SOC 2의 신뢰 서비스 기준 가운데 보안성(Security)을 비롯해 가용성(Availability), 기밀성(Confidentiality) 등 3개 영역에서 통제 체계의 유효성을 검증받았다는 설명이다. 이번 인증의 의미는 티오리의 사업 구조 변화에서 찾을 수 있다. 티오리는 그동안 세계적인 화이트햇 해커를 기반으로 기업의 취약점을 찾아내는 오펜시브 보안 컨설팅에 강점을 보여왔다. 하지만 최근에는 공격자가 기업 시스템을 직접 공격하기 전에 AI를 활용해 취약점을 자동으로 찾아내거나, 기업이 사용하는 생성형 AI 자체를 보호하는 영역으로 사업 범위를 넓히고 있다. 대표적인 제품이 AI 기반 애플리케이션 보안 테스트 플랫폼 Xint와 대규모언어모델(LLM) 보안 솔루션 αprism이다. 티오리의 공식 자료에 따르면 Xint는 애플리케이션과 코드의 취약점을 AI를 활용해 탐지하는 제품이며, αprism은 기업의 LLM 사용 과정에서 프롬프트 인젝션과 탈옥(jailbreak), 민감정보 유출 등을 탐지·차단하고 사용 현황을 모니터링하는 방식으로 작동한다. 문제는 이런 AI 보안 제품일수록 고객 데이터에 대한 신뢰가 제품 경쟁력과 직결된다는 점이다. 기업이 AI 보안 SaaS를 도입하면 내부 소스코드와 취약점 정보는 물론 프롬프트, 모델 응답, 개인정보와 같은 민감한 정보가 서비스 환경을 통과할 수 있다. 보안기업이 오히려 고객의 가장 민감한 데이터를 처리하게 되는 구조다. 티오리가 올해 ISO/IEC 27001과 ISO/IEC 27017을 확보한 데 이어 SOC 2 Type II까지 확보한 것도 이 같은 글로벌 영업 환경을 고려한 행보로 풀이된다. ISO 27001은 기업 전반의 정보보안 관리체계를, ISO 27017은 클라우드 서비스 환경의 보안 통제를 다루는 만큼 서로 다른 글로벌 고객 요구에 대응할 수 있는 기반을 마련한 셈이다. 티오리는 지난 6월 두 인증을 동시에 획득했다. 티오리의 개인정보보호 관련 공개자료에서도 접근통제, 다중인증(MFA), 로그 관리, 취약점 관리, 네트워크 보안, 물리적 보안 등 다양한 내부 통제 체계를 운영하고 있는 것으로 나타난다. 또한 Xint와 αprism의 클라우드 인프라에는 서울 리전의 AWS를 비롯해 글로벌 인프라가 활용되고 있어 해외 고객을 대상으로 한 데이터 처리와 보안 관리가 중요한 사업 요소가 되고 있다. 티오리가 CMMC(Cybersecurity Maturity Model Certification)까지 준비하는 것도 같은 맥락이다. CMMC는 미국 국방 분야 공급망에 참여하는 기업이 연방계약정보(FCI)나 통제비공개정보(CUI)를 보호할 수 있는 보안 체계를 갖췄는지를 평가하는 제도다. 미국 국방부는 관련 보안 요건을 실제 계약에 반영하고 있다. 다만 CMMC를 둘러싼 미국 정책 환경에는 최근 변수가 생겼다. 미국 국방부는 지난 7월 당초 11월부터 확대할 예정이었던 CMMC 2단계 요건을 일시 중단하고 제도 전반을 재검토하기로 했다. 기존 1단계 자기평가 요건은 유지된다. 따라서 티오리의 CMMC 추진은 단순히 인증 하나를 추가하는 차원을 넘어 미국 방산·보안 공급망까지 대응할 수 있는 글로벌 컴플라이언스 체계를 구축하려는 움직임으로 해석할 수 있다. 티오리는 글로벌 빅테크를 대상으로 보안 역량을 인정받아온 가운데 세계적인 해킹대회에서 축적한 오펜시브 보안 역량을 AI 제품으로 전환하고 있다. 회사 연혁을 보면 2024년 미국 DARPA의 AI 사이버 챌린지(AIxCC)에서 준결승 1위를 기록했고, 이후 Xint와 αprism을 잇달아 상용화하며 AI 보안 분야로 사업을 확장했다. 특히 생성형 AI가 기업 업무에 빠르게 침투하면서 AI 모델 자체의 보안뿐 아니라 기업 내부에서 AI를 어떻게 사용하고 어떤 데이터가 오가는지를 통제하는 시장도 커지고 있다. 티오리 역시 공격자 관점의 기술력을 AI 보안 제품과 결합해 글로벌 엔터프라이즈 시장을 노리고 있다. 박관순 티오리 CISO는 “공격자의 시선에서 위협을 선제적으로 무력화하는 기술력만큼이나 고객의 데이터를 안전하게 다루는 내부 운영 체계 역시 기업 보안의 핵심”이라며 “글로벌 규준에 부합하는 철저한 보안 통제력을 바탕으로 국내외 엔터프라이즈 고객들이 안심하고 도입할 수 있는 AI 사이버보안 파트너로 자리매김하겠다”고 말했다. 한편 이번 SOC 2 Type II 확보가 실제 글로벌 계약 확대와 매출 성장으로 이어질 수 있을지가 티오리의 다음 관전 포인트다. 기술력을 증명하는 단계에서 벗어나 글로벌 기업의 조달·보안 심사를 통과할 수 있는 체계를 구축한 만큼, 향후 Xint와 αprism의 해외 고객 확보와 대형 B2B 계약 성과가 기업가치의 핵심 변수가 될 전망이다.
2026-08-19 17:30:17
-