검색결과 총 12건
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련
[경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.
2026-10-15 09:54:23
-
-
"3954만 계정 털렸는데"…티빙 유출 피해 구제 도마 위
[경제일보] 티빙에서 총 3954만개의 계정 정보가 유출된 대규모 개인정보 침해 사고가 발생한 가운데 회사가 내놓은 이용자 보상안을 두고 실효성 논란이 커지고 있다. 티빙은 최대 300만원을 보상하는 해킹·피싱 안심보험과 5000원 상당의 티빙 포인트, 웨이브 광고형 요금제 또는 CGV 할인 쿠폰 등을 제공하기로 했지만, 실제로 모든 피해 이용자에게 확정적으로 돌아가는 혜택은 제한적이라는 지적이 나온다. 대규모 개인정보 유출로 이용자 불안과 2차 피해 가능성이 커진 상황에서 기업의 보상 수준과 책임 범위를 둘러싼 논쟁이 불가피할 전망이다. 4일 과학기술정보통신부 민관합동조사단은 티빙 침해사고에 대한 최종 조사 결과를 발표하고 활성·휴면·탈퇴 계정을 포함해 모두 3954만개의 계정 정보가 유출됐다고 지난 3일 밝혔다. 유출된 정보에는 성명과 휴대전화 번호, 이메일 주소, 생년월일, 연계정보(CI) 등 최대 20개 항목, 70종의 정보가 포함된 것으로 확인됐다. 티빙은 이날 공식 사과와 함께 고객 보상 대책을 내놨다. 피해 고객에게 1년간 해킹·피싱 등에 따른 사이버 금융사기와 인터넷 쇼핑몰 사기, 개인 간 직거래 사기 등에 대해 1인당 최대 300만원을 보상하는 안심보험을 제공한다. 특히 티빙 구독 고객에게는 별도 신청 없이 10월부터 12월까지 프리미엄급 시청 환경을 제공하고, 추가로 5000원 상당의 티빙 포인트와 웨이브 광고형 요금제 1개월 이용권 또는 CGV 할인 쿠폰 중 하나를 제공한다고 설명했다. 다만 보상안의 상당 부분이 현금성 보상이 아닌 5000원 상당의 포인트와 제휴 서비스 이용권을 제공한다는 것으로 구성돼 비판의 목소리가 나오고 있다. 최대 300만원의 안심보험 역시 개인정보가 유출된 것 자체에 정액으로 지급되는 보상이 아니라 향후 특정 유형의 피해가 발생했을 때 보상받을 수 있는 보험 상품이다. 특히 티빙은 개인정보 유출 피해 정도와 관계없이 모든 피해 고객에게 동일한 보상안을 적용하기로 했다고 설명했다. 실제 피해가 발생하지 않은 이용자에게는 보험의 보상 한도를 온전히 체감하기 어렵고, 당장 확정적으로 받을 수 있는 혜택 역시 제한적이다. 티빙은 전체 보상 규모도 공개하지 않았다. 티빙은 보상안에 얼마나 많은 이용자가 참여하고 어떤 옵션을 선택할지에 따라 전체 금액이 달라져 구체적인 규모를 확정하기 어렵다는 입장이다. 이번 사고에서 더 주목되는 부분은 피해 범위가 티빙 자체 가입자에만 머물지 않았다는 점이다. 앞서 KT가 개인정보 유출 사고에 대한 보상 차원에서 제공한 티빙 이용권을 등록해 실제 서비스를 이용한 고객 약 41만6000명도 이번 유출 대상에 포함된 것으로 나타났다. KT가 제공한 티빙 이용권을 선택한 약 58만6000명 가운데 실제 서비스를 이용하는 과정에서 티빙에 개인정보가 저장되면서 피해 대상이 된 것이다. 네이버와 카카오 등 간편로그인을 통해 티빙에 가입한 이용자 역시 피해 대상에 포함됐다. 간편로그인을 이용하더라도 본인 확인 과정에서 이름과 휴대전화 번호 등 개인정보가 티빙에 전달·저장될 수 있으며, 이번 사고로 티빙 데이터베이스에 저장된 관련 정보가 유출된 것으로 파악됐다. 제휴사의 시스템이 직접 해킹된 것은 아니지만, 하나의 서비스에 연결된 여러 플랫폼 이용자의 정보가 한 곳에서 함께 노출될 수 있다는 것을 보여줬다고 평가된다. 이 때문에 기업 간 제휴와 간편가입이 확대되는 플랫폼 환경에서 개인정보 보호 책임을 어디까지 물어야 하는지도 쟁점으로 떠올랐다. 이용자는 네이버나 카카오, KT 등을 통해 서비스를 접하지만 실제 개인정보를 수집·보관하는 주체는 별도의 플랫폼일 수 있다. 사고가 발생했을 때 이용자 입장에서는 어느 기업에 책임을 요구해야 하는지 복잡해질 수밖에 없는 구조다. 특히 이번 개인정보 유출 사고는 제휴 서비스가 새로운 피해 경로가 될 수 있는 것으로 평가된다. KT 이용자들은 기존 해킹 사고에 대한 보상으로 티빙 이용권을 받았지만, 그 이용권을 사용하기 위해 티빙에 가입하고 본인인증을 거치는 과정에서 개인정보가 다시 티빙 시스템에 저장됐다. 결국 한 기업의 사고를 보상하기 위해 다른 플랫폼을 이용하게 된 이용자가 해당 플랫폼에서 다시 개인정보 유출 피해를 입는 연쇄 구조가 발생한 것이다. 티빙은 재발 방지를 위해 오는 2030년까지 정보보호 투자를 직전 5년의 4배 수준으로 확대하고 제로 트러스트 기반의 접근통제, AI 기반 이상징후 탐지와 실시간 대응 체계를 구축하기로 했다. CEO 직속 정보보호혁신 자문위원회를 신설하고 CEO·CISO·CPO 중심의 보안 거버넌스도 강화할 방침이다. 다만 사후 보안 투자 확대가 이번에 발생한 피해에 대한 이용자의 불안을 해소하는 것과는 별개의 문제다. 3954만개라는 대규모 계정 정보가 유출된 만큼 향후 명의도용이나 피싱, 스미싱 등 2차 피해가 발생할 경우 피해자를 어떻게 구제할지, 보험으로 보장되지 않는 피해를 어떤 방식으로 보상할지가 남은 과제로 전망된다. 최주희 티빙 대표는 "충분하지는 않겠지만 피해를 입은 고객들을 위해 최선을 다해 준비했다"며 "이번 사건과 배상과 관련해서도 법에 따라 책임을 다하겠다"고 말했다.
2026-09-04 17:52:55
-
-
한국경제 3주체를 다시 짜라 ②소비자편
[경제일보] 인공지능(AI)이 소비자의 일상 깊숙이 들어오고 있다. 검색과 쇼핑, 금융 상담, 보험 심사, 대출 추천, 콘텐츠 소비, 교육, 의료 상담까지 AI가 개입하는 영역이 빠르게 넓어지는 모습이다. 소비자는 더 빠르고 편리한 서비스를 이용하게 됐지만 그 과정에서 자신의 데이터가 어디에 쓰이고 어떤 기준으로 판단되는지 알기 어려운 상황도 늘고 있다. 24일 정부와 금융권 등에 따르면 소비자의 클릭 기록, 검색 이력, 결제 정보, 이동 경로, 신용 정보, 건강 정보, 소비 패턴 등은 AI 학습과 맞춤형 서비스의 주요 데이터로 활용되고 있다. 기업들은 이를 기반으로 개인별 추천과 광고, 금융상품, 콘텐츠 노출 순서를 조정하고 있다. AI시대 소비자는 단순한 구매자를 넘어 데이터 제공자이자 알고리즘 판단의 대상이 되고 있다는 분석이 나온다. 정부도 AI 확산에 따른 소비자 보호 장치 마련에 나서고 있다. 한국은 올해 1월 AI 기본법을 시행하면서 의료, 금융, 교통, 원전 등 민감 분야의 고영향 AI에 대해 인간 감독과 투명성 확보를 요구하는 체계를 마련했다. 개인정보보호위원회도 AI 모델·시스템 개발자와 제공자가 개인정보 유출, 딥페이크에 따른 인격권 침해 등 새로운 위험을 관리할 수 있도록 ‘AI 프라이버시 리스크 관리 모델’을 공개했다. 금융권의 변화도 빠르다. 은행과 카드사, 보험사, 핀테크 기업들은 AI 상담, 이상거래 탐지, 신용평가, 맞춤형 상품 추천, 보험금 심사 등에 AI를 활용하고 있다. 금융권에서는 AI 활용 확대와 함께 설명 가능성, 책임 소재, 소비자 보호 기준이 중요해졌다는 평가가 나온다. 한 금융권 관계자는 “AI 상담과 대출심사는 소비자에게 편리함을 줄 수 있지만, 소비자가 왜 특정 상품을 추천받았는지, 왜 대출 한도나 금리가 다르게 산정됐는지 이해하지 못하면 불신으로 이어질 수 있다”며 “금융 AI의 핵심은 속도보다 설명 책임”이라고 말했다. AI가 골라주는 시대, 소비자는 더 자유로워졌나 AI 추천 서비스는 소비자의 선택 방식을 바꾸고 있다. 과거 소비자는 상품과 서비스를 직접 비교하고 선택했다. 지금은 플랫폼이 소비자의 검색 기록과 구매 이력, 위치, 관심사를 분석해 상품과 콘텐츠를 먼저 제시한다. 쇼핑몰은 개인별 추천 상품을 배열하고 금융 플랫폼은 맞춤형 대출과 카드, 보험상품을 보여준다. 온라인동영상서비스(OTT)와 포털, 뉴스 플랫폼도 이용자의 선호를 기반으로 콘텐츠 노출 순서를 조정한다. 문제는 추천이 편리함을 주는 동시에 선택의 범위를 좁힐 수 있다는 점이다. 소비자는 자신이 원하는 정보를 찾는다고 생각하지만 실제로는 알고리즘이 보여주는 범위 안에서 선택하는 경우가 많다. 특정 상품이나 서비스가 상단에 노출되는 이유, 추천 기준에 광고나 수수료가 얼마나 반영됐는지 소비자가 확인하기 어려운 경우도 적지 않다. 소비자단체 한 관계자는 “AI 추천은 소비자 편익을 높일 수 있지만 플랫폼이 어떤 기준으로 상품을 보여주는지 충분히 설명하지 않으면 정보 비대칭이 커질 수 있다”며 “추천의 편리함과 소비자의 알 권리 사이에 균형이 필요하다”고 말했다. 개인정보는 공짜 원료가 아니다 AI 서비스의 기반은 데이터다. 소비자가 남긴 정보가 많을수록 AI는 더 정교한 추천과 예측을 제공할 수 있다. 그러나 데이터 활용이 늘어날수록 개인정보 침해 가능성도 커진다. 특히 금융, 의료, 교육, 이동 정보처럼 민감한 데이터가 결합되면 개인의 생활 패턴과 경제 상황, 건강 상태까지 추정할 수 있다. 개인정보위가 AI 프라이버시 리스크 관리 모델에서 개인정보 유·노출뿐 아니라 딥페이크로 인한 인격권 침해를 새로운 위험으로 제시한 것도 이 때문이다. AI가 만든 이미지와 음성, 영상은 소비자 피해의 양상을 바꾸고 있다. 보이스피싱과 투자 사기, 허위 광고, 유명인 사칭, 딥페이크 범죄가 AI 기술과 결합하면 피해 규모와 확산 속도가 커질 수 있다. 한 보안업계 관계자는 “기존 개인정보 유출은 계정 탈취나 스팸 피해로 이어지는 경우가 많았지만 AI시대에는 유출된 정보가 음성 합성, 얼굴 합성, 맞춤형 사기 문구에 활용될 수 있다”며 “소비자 보호의 기준도 단순 정보보호에서 신원과 평판 보호로 넓어져야 한다”고 말했다. 금융 AI의 편리함 뒤에 남는 설명 책임 금융 분야는 AI가 소비자 권리와 직접 충돌할 수 있는 대표 영역이다. AI가 대출 한도와 금리, 카드 발급 가능성, 보험 가입 심사, 이상거래 탐지, 투자상품 추천에 활용되면 소비자의 금융 접근성과 비용이 달라질 수 있다. 편리한 상담과 빠른 심사는 장점이지만 잘못된 데이터나 편향된 모델이 적용되면 불합리한 차별로 이어질 가능성도 있다. 금융소비자 입장에서는 ‘AI가 판단했다’는 설명만으로는 충분하지 않다. 왜 한도가 줄었는지, 왜 보험 가입이 거절됐는지, 왜 특정 투자상품이 추천됐는지 이해할 수 있어야 한다. AI 판단에 오류가 있다면 이의를 제기하고 사람이 다시 검토할 수 있는 절차도 필요하다. 한 금융소비자보호 전문가는 “AI가 금융 서비스를 빠르게 만들 수는 있지만 설명할 수 없는 AI는 금융소비자 보호와 충돌할 수 있다”며 “특히 고령층이나 금융 취약계층은 AI 상담 결과를 그대로 받아들일 가능성이 커 별도 보호 장치가 필요하다”고 말했다. 디지털 약자를 방치하면 AI 격차는 생활 격차가 된다 AI 서비스가 확산될수록 디지털 취약계층의 문제도 커질 수 있다. 고령층, 장애인, 저소득층, 디지털 기기 활용이 익숙하지 않은 소비자는 AI 기반 서비스에서 배제되거나 불리한 조건을 감수할 가능성이 있다. 은행 점포와 대면 창구가 줄고 모바일 앱과 챗봇 상담이 늘어날수록 이 같은 격차는 금융 접근성 문제로 이어질 수 있다. 교육과 의료 분야에서도 비슷한 문제가 나타날 수 있다. AI 학습 서비스는 개인별 맞춤 교육을 제공할 수 있지만 기기와 네트워크, 결제 능력이 부족한 가정은 혜택을 충분히 누리기 어렵다. AI 건강관리 서비스도 스마트기기 활용 능력과 데이터 접근성에 따라 이용 격차가 벌어질 수 있다. 전문가들은 AI시대 소비자 정책이 ‘피해 구제’ 중심에서 ‘역량 강화’ 중심으로 바뀌어야 한다고 지적한다. 소비자가 AI 추천과 자동화된 판단을 이해하고 개인정보 제공 여부를 선택하며 부당한 결과에 이의를 제기할 수 있어야 한다는 것이다. AI시대 소비자는 더 빠른 서비스를 이용하는 동시에 더 많은 데이터를 제공한다. 편리함은 공짜가 아니다. 소비자의 데이터가 기업의 수익과 AI 성능을 높이는 원료가 되는 만큼 소비자에게도 정보 접근권과 설명 요구권, 선택권이 보장돼야 한다. 한 소비자정책 전문가는 “AI시대 소비자 보호의 핵심은 기술을 막는 것이 아니라 소비자가 기술의 작동 방식을 이해하고 통제할 수 있게 하는 것”이라며 “데이터 주권이 뒷받침되지 않으면 AI 편익은 일부 기업과 플랫폼에 집중되고 소비자는 판단의 객체로 밀려날 수 있다”고 말했다.
2026-07-24 11:08:47
-
허위조작정보 대응 본격화…국내외 플랫폼 신고체계 정비
[경제일보] 온라인 허위조작정보 유통에 대응하기 위한 개정 정보통신망법이 시행되면서 주요 플랫폼들의 콘텐츠 관리 체계가 변화하고 있다. 네이버와 카카오가 허위조작정보 신고 창구를 신설한 데 이어 유튜브도 국가별 법률 위반 콘텐츠 신고 절차를 정비하는 등 국내외 플랫폼들이 법 시행에 맞춘 대응 체계 구축에 나서는 모습이다. 7일 플랫폼 업계에 따르면 개정 정보통신망법 시행에 맞춰 네이버와 카카오는 허위조작정보 신고 기능을 반영한 운영 체계를 마련했다. 양사는 기존 불법정보 신고 시스템을 기반으로 허위조작정보 관련 신고 항목을 추가하고 처리 절차를 정비하며 법 시행에 대응하고 있다. 개정 정보통신망법은 법원 판결 등으로 불법 또는 허위조작정보로 확정된 내용을 반복적으로 유통해 경제적 이익을 얻는 행위 등을 규제하는 내용을 담고 있다. 일정 규모 이상의 플랫폼 사업자는 관련 신고가 접수될 경우 자체 운영 정책과 가이드라인에 따라 게시물 삭제나 노출 제한 등 필요한 조치를 검토해야 한다. 특히 기존 정보통신망법 제44조에 따르면 이용자는 사생활 침해 또는 명예훼손 등 타인의 권리를 침해하는 정보를 정보통신망에 유통시켜서는 안되며, 정보통신서비스 제공자는 자신이 운영ㆍ관리하는 정보통신망에 제1항에 따른 정보가 유통되지 아니하도록 노력해야 한다고 명시됐다. 또한 이번에 개정된 정보통신망법 제44조의4에 명시된 '정보통신서비스 제공자단체는 다음 각 호의 어느 하나에 해당하는 정보가 정보통신망에 유통되지 아니하도록 모니터링 등 자율규제 가이드라인을 정하여 시행할 수 있다'를 맞춰 절차를 정비한 것이다. 이에 네이버는 전날 공지사항을 통해 개정법 시행에 맞춰 허위조작정보 신고 접수 기능을 반영했다고 안내했다. 앞서 뉴스와 블로그, 카페, 댓글 등 주요 서비스에서 명예훼손과 불법정보 등에 대한 신고 및 임시조치 제도를 운영해 온 만큼, 기존 시스템에 허위조작정보 신고 기능을 추가하는 방식으로 대응 체계를 구축했다. 카카오도 지난달 30일부터 고객센터와 신고센터에 허위조작정보 신고 항목을 마련했다. 기존 유해정보와 불법촬영물 신고 체계에 허위조작정보를 추가했으며, 서비스별 신고센터를 통해 관련 신고를 접수할 수 있도록 절차를 정비했다. 국내 플랫폼뿐 아니라 글로벌 플랫폼도 법률 위반 콘텐츠 신고 절차를 보완하고 있다. 유튜브는 고객센터를 통해 상표권과 저작권, 개인정보 침해, 명예훼손 등 각종 법적 신고를 위한 별도 웹 양식을 운영하고 있으며, 어떤 신고 유형을 선택해야 할지 명확하지 않은 경우에는 '기타 법적인 문제' 신고 양식을 이용하도록 안내하고 있다. 해당 신고 양식은 국가별 법률을 위반할 가능성이 있는 콘텐츠를 대상으로 운영된다. 테러 관련 콘텐츠와 외설물, 증오 표현 등 각국 법률에 저촉될 수 있는 사례를 포함하고 있으며, 유튜브는 신고 내용을 검토하는 과정에서 해당 국가의 법률과 사법 절차를 종합적으로 고려한다고 설명했다. 필요한 경우 법원 명령이나 권리 당사자, 공식 법률대리인의 요청을 요구할 수 있다는 방침이다. 다만 유튜브의 신고 절차는 국내 개정 정보통신망법에 따른 허위조작정보 전용 신고 창구라기보다 국가별 법률 위반 가능 콘텐츠를 처리하기 위한 기존 법적 신고 체계를 활용하는 성격이 강한 것으로 분석된다. 국내 플랫폼들이 허위조작정보 항목을 별도로 마련한 것과는 운영 방식에서 차이가 있다는 설명이다. 플랫폼 업계에서는 이번 제도 시행이 콘텐츠 관리 체계를 근본적으로 바꾸는 수준은 아닐 것으로 보고 있다. 네이버와 카카오 모두 이미 주요 서비스에서 신고와 임시조치, 운영정책 위반 게시물 제재 체계를 운영해 왔기 때문이다. 이번 개정법 시행에 따라 기존 신고 체계에 허위조작정보 대응 기능을 보완하는 수준에서 제도가 운영될 가능성이 크다는 분석이다. 다만 향후 실제 신고 사례가 축적되면 플랫폼별 운영 기준도 보다 구체화될 것으로 전망된다. 허위조작정보에 대한 신고와 검토가 늘어나면서 플랫폼들은 운영 정책과 심사 기준을 지속적으로 보완할 것으로 예상되며, 이용자들의 표현의 자유와 허위정보 확산 방지 사이의 균형을 둘러싼 논의도 이어질 것으로 분석된다. 김종철 방미통위 위원장은 개정 정보통신망 국무회의 의결에 대해 "이번 정보통신망법 개정을 통해 허위조작정보로부터 국민의 인격권과 재산권 등 기본권을 보호할 수 있게 됐다"며 "하위법령 개정 시 피해자 구제와 공공의 이익을 지키는 통합적인 관점에서 단계적이고 차등적인 규제 방식을 마련하겠다"고 말했다.
2026-07-07 17:23:47
-
-
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개
[경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.
2026-06-16 14:07:30
-
개보위, 중대 개인정보 유출 기업...9월부터 매출 최대 10% 과징금
[경제일보] 오는 9월부터 반복적이거나 중대한 개인정보 유출 사고를 낸 기업에는 매출액의 최대 10%까지 과징금이 부과된다. 정부는 주요 공공시스템과 대규모 개인정보 처리 시스템에 대한 직접 점검도 확대해 사후 제재 중심에서 예방 중심으로 개인정보 관리체계를 전환한다. 개인정보보호위원회는 12일 대통령 주재 국무회의에서 이 같은 내용의 ‘예방 중심 개인정보 관리체계 전환 계획’을 보고했다고 밝혔다. 핵심은 징벌적 과징금 도입이다. 오는 9월11일 시행되는 개정 개인정보보호법에 따라 반복적이거나 중대한 개인정보보호법 위반 행위에 대해서는 매출액의 최대 10%까지 과징금을 부과할 수 있다. 적용 대상은 고의 또는 중과실로 3년 내 반복된 위반 행위가 발생했거나 1000만명 이상 규모의 개인정보 유출 피해가 발생한 경우다. 대규모 유출 사고가 반복돼도 제재 수준이 기업 규모에 비해 낮다는 지적을 반영한 조치다. 과징금 산정 기준도 강화된다. 오는 19일 시행되는 개정 시행령에 따라 과징금 기준은 기존 ‘최근 3년 평균 매출액’에서 ‘직전 연도 매출액’과 ‘최근 3년 평균 매출액’ 가운데 더 높은 금액을 적용하는 방식으로 바뀐다. 매출이 급증한 기업이 낮은 평균 매출 기준을 적용받는 문제를 줄이려는 취지다. 조사와 처분의 실효성을 높이기 위한 제도도 도입된다. 개인정보위는 이행강제금과 신고포상금 제도를 마련하고 증거 은닉 행위에 대한 제재도 강화할 계획이다. 다만 개정법과 시행령은 시행 이후 발생한 사건부터 적용된다. 현재 조사 중인 쿠팡이나 KT 개인정보 유출 사건에는 소급 적용이 어려울 전망이다. 정부는 제재 강화와 함께 인센티브도 병행한다. 법정 기준을 넘어서는 보호조치와 보안 투자, 안전관리체계 운영 수준 등을 종합 평가해 과징금 감경 등 혜택을 제공한다. 오는 9월부터 시행되는 경영진의 개인정보 보호책임이 현장에서 이행될 수 있도록 기업의 개인정보 보호활동 공개도 유도할 방침이다. 위험도에 따른 차등 관리체계도 구축한다. 주요 공공시스템 387개와 교육·복지 등 고위험 분야를 개인정보위가 직접 집중 관리한다. 올 하반기부터는 주요 공공시스템과 대규모 개인정보를 처리하는 약1700개 고위험 정보시스템을 정기 점검한다. 점검 대상은 공공기관에 그치지 않는다. 개인정보위는 클라우드 사업자 전문 수탁사 시스템 공급사 등 공급망 전반으로 점검 범위를 확대할 계획이다. 현재 상조회사와 고객상담센터 등에 대한 점검이 진행 중이며 초·중·고 에듀테크 업체도 추가 점검 대상에 포함된다. 서비스 설계 단계에서부터 개인정보 보호 요소를 반영하는 ‘개인정보 중심 설계’ 원칙도 제도화된다. 개인정보위는 개인정보 영향평가 기준과 ISMS-P 인증 기준에 개인정보 중심 설계 원칙을 반영할 계획이다. 공공부문 보호 역량 강화도 추진된다. 개인정보위가 지난 3월 공공시스템을 긴급 점검한 결과 개인정보보호 전담 인력은 중앙부처 평균 1.1명, 기초지방정부 평균 0.3명 수준에 그쳤다. 정부는 공공부문 개인정보 보호 인력과 예산을 확충하고 전담 인력 처우 개선도 추진한다. 피해 구제 체계도 강화된다. 개인정보 유출 사고가 발생하면 기업과 기관의 손해배상 책임을 원칙으로 하고 입증 책임도 기업이 지도록 해 법정 손해배상 제도 활성화를 추진한다. 유출 피해자가 피해 사실과 손해를 모두 입증해야 하는 부담을 줄이겠다는 방향이다. 개인정보 침해 행위에 대한 감시도 넓어진다. 개인정보 수정, 동의 철회, 회원 탈퇴를 어렵게 만드는 다크패턴을 집중 점검하고 개인정보 침해신고센터 기능도 강화한다. 민감정보가 유출될 경우 SNS 등 온라인 공간에서 불법 유통 여부를 모니터링하고 탐지·삭제를 지원한다. 수사기관과의 협력도 강화된다. 개인정보 불법 유포자와 이용자에 대한 추적과 처벌을 확대해 유출 이후 2차 피해를 줄이겠다는 방침이다. 이번 계획은 개인정보 보호정책의 무게중심을 사후 처벌에서 사전 예방으로 옮기려는 시도다. 대규모 플랫폼과 전자상거래, 통신, 공공서비스에서 개인정보가 대량으로 처리되는 만큼 단순 과징금 부과만으로는 피해를 막기 어렵다는 판단이 깔려 있다. 다만 기업 입장에서는 규제 부담이 커질 수 있다. 특히 고의·중과실 여부와 반복 위반 판단 기준, 1000만명 이상 유출 사고의 책임 범위가 쟁점이 될 가능성이 있다. 개인정보 보호 투자와 경영진 책임을 강화하되, 기업이 예측 가능한 기준 아래 대응할 수 있도록 하위 기준을 명확히 정비하는 것이 관건이다. 송경희 개인정보위원장은 민간 분야 평가제도 도입과 관련해 “민간은 자발적으로 개인정보 보호를 유도할 수 있는 장치가 필요하다”며 “그간 ISMS-P 제도가 그 역할을 해왔다고 볼 수 있다”고 말했다. 송 위원장은 이어 “앞으로는 위험도에 따라 ISMS-P 체계를 차등 적용할 계획”이라며 “고위험 분야에는 강화된 인증 기준을 적용하고 보통인 경우에는 표준, 위험도가 낮은 분야에는 좀 더 간편화된 인증 기준을 적용할 것”이라고 밝혔다.
2026-05-12 17:53:34
-
-