2026.10.16 금요일
검색
'AI 프라이버시' 검색결과
기간검색
-
~
검색영역
검색어
-
AI가 예약·결제까지 대신할 때…개인정보위, 권한·승인 기준 만든다 [경제일보] 인공지능(AI)이 이용자를 대신해 예약과 결제까지 처리하는 시대에 맞춰 개인정보 보호 기준도 달라진다. AI가 어떤 정보를 읽고 어디까지 행동할 수 있는지, 어떤 작업에서 사람의 승인을 받아야 하는지가 핵심이다. 개인정보보호위원회는 23일 서울 은행회관에서 ‘AI 프라이버시 민·관 정책협의회’ 제2기 제2차 전체회의를 열고 에이전틱 AI의 개인정보 처리 문제를 논의했다. 에이전틱 AI는 질문에 답하는 데 그치지 않고 다른 서비스와 연결해 이용자가 맡긴 일을 수행하는 AI를 말한다. 개인정보위는 지난 2월 협의회를 데이터 처리 기준, 위험 관리, 정보주체 권리 등 3개 분과로 재편했다. AI 학습에 쓸 데이터를 어떻게 확보할지에 더해, 서비스가 실시간으로 개인정보를 읽고 판단·실행하는 과정의 위험을 살피기 위해서다. 김병필 한국과학기술원(KAIST) 교수는 지난 7∼8월 국내외 AI 개발·도입 기관 15곳을 인터뷰한 결과를 발표했다. 참여 기관들이 꼽은 대표적 위험은 ‘프롬프트 인젝션’과 AI에 부여된 과도한 권한이다. 프롬프트 인젝션은 AI가 읽는 자료 등에 악의적인 지시를 숨겨 이용자의 원래 요청과 다른 일을 하도록 유도하는 공격이다. AI에 이메일이나 외부 서비스 접근 권한까지 주어졌다면 잘못된 지시의 영향도 커질 수 있다. 현장에서는 AI가 스스로 처리할 일과 사람의 승인이 필요한 일을 나누고, 개발사와 서비스 제공자 등의 책임을 분명히 해야 한다는 의견이 나왔다. AI의 작업 기록인 ‘로그’와 이전 대화를 기억하는 ‘메모리’에 포함된 개인정보를 얼마나 보관하고 어떻게 삭제할지도 과제로 제시됐다. 개인정보위는 논의 결과를 올해 말 공개할 예정인 ‘에이전틱 AI 개인정보 처리 안내서’에 반영한다. 내년 3월 9일 시행될 개정 개인정보 보호법에는 AI 개발을 위한 개인정보 활용 특례도 담겼다. 가명·익명정보만으로 개발이 어렵고 공익적·사회적 필요성이 인정되는 경우, 적법하게 수집한 개인정보를 AI 기술 개발에 활용할 수 있도록 한 제도다. 개인정보위의 심의·의결과 강화된 안전조치가 전제이며, 민감정보 등을 처리해 위험이 큰 경우에는 사전 위험평가도 필요하다. 한편 안내서는 AI 서비스를 운영할 때 이용자의 권한을 어떻게 제한하고 개인정보를 관리할지에 초점을 맞춘다. 개발 단계의 데이터 활용 범위를 넓히는 법 개정과 함께, 실제 서비스에서 이용자가 자신의 정보와 AI의 행동을 통제할 방법을 제시할 수 있을지가 관건이다.2026-09-23 16:51:51
-
카카오, AI 시대 개인정보 보호 '규제 대응' 넘어 조직문화로 [경제일보] 인공지능(AI)이 이용자의 대화와 검색, 결제, 이동 등 다양한 데이터를 기반으로 개인화 서비스를 제공할수록 데이터 활용과 보호 사이의 균형이 중요해지고 있다. 이에 카카오도 카카오톡을 비롯한 주요 서비스에 AI 적용을 확대하는 가운데 계열사 전체의 개인정보 보호 체계를 점검하고 공통 원칙 마련에 나서고 있다. 20일 카카오는 카카오 판교아지트에서 지난 19일 '제1회 카카오그룹 프라이버시 컨퍼런스'를 열고 그룹 차원의 개인정보 보호 원칙과 실무 대응 방안을 공유했다고 밝혔다. 해당 컨퍼런스는 기존 카카오그룹사 간 정기적으로 운영해온 개인정보 보호 모임을 컨퍼런스 형태로 확대한 것이다. 이번 행사는 카카오를 비롯해 카카오뱅크, 카카오모빌리티, 카카오엔터테인먼트, 카카오페이, 카카오엔터프라이즈, 카카오스타일 등 주요 계열사가 개인정보 보호에 대한 공통 원칙을 마련한 것이 특징이다. 각 계열사는 메신저, 금융, 모빌리티, 콘텐츠, 결제 등 서로 다른 서비스를 운영하고 있어 다루는 개인정보와 위험 요소도 다르지만 서비스별 대응 경험을 공유하는 동시에 그룹 차원의 공통 기준을 마련해 AI와 디지털 서비스 확대 과정에서 발생할 수 있는 개인정보 보호 문제에 공동 대응한다는 방침이다. 카카오그룹은 이날 '이용자 주권', '프라이버시 중심 서비스', '프라이버시 문화'를 3대 핵심 가치로 제시했다. 서비스 기획 단계부터 개인정보 보호를 고려하고 데이터 이용과 보관, 파기 등 서비스 전 과정에 안전 조치를 적용하는 한편 임직원들이 일상적인 업무 과정에서 개인정보 보호를 실천하는 문화를 정착시키겠다는 내용이다. 특히 개인정보 보호를 담당 부서의 규제 대응 업무에 한정하지 않고 서비스 개발과 운영 전반에 내재화한다는 점을 강조했다. AI 서비스가 확대될수록 개발자와 기획자 등 다양한 직군이 개인정보 처리 과정에 관여할 수밖에 없는 만큼 조직 전체의 인식과 대응 역량을 높이겠다는 취지다. 카카오는 이날 'AI 시대 프라이버시'를 주제로 AI 서비스 확대에 따른 개인정보 보호 방향도 공유했다. 특히 카카오톡에 AI를 결합하는 '카나나 인 카카오톡'과 관련한 프라이버시 정책 방향성을 소개했다. AI 서비스가 이용자의 대화와 행동 맥락을 바탕으로 개인화된 답변과 서비스를 제공하기 위해서는 기존 서비스보다 데이터 활용 방식이 복잡해질 수 있다. 이에 카카오는 AI 서비스의 편의성을 높이는 동시에 이용자가 자신의 개인정보가 어떻게 활용되는지 이해하고 통제할 수 있는 환경을 마련하는 것이 중요하다고 설명했다. 계열사별 사례 공유도 이어졌다. 카카오뱅크는 금융 서비스에서의 개인정보 보호 업무를 소개했고, 카카오엔터테인먼트는 개인정보 처리방침 평가제도 운영 경험을 공유했다. 메신저와 금융, 콘텐츠, 모빌리티 등 각 사업 영역에서 발생할 수 있는 개인정보 이슈와 대응 사례도 패널 토크를 통해 논의했다. 외부 전문가 세션에서는 AI 전환에 따른 개인정보 보호 체계 변화와 법·제도 대응 방안도 다뤄졌다. 최경진 가천대학교 법과대학 교수는 'AX 시대 바람직한 개인정보보호체계의 방향'을 주제로 강연했고, 고환경 법무법인 광장 변호사는 개정 개인정보 보호법과 정보통신망법에 따른 컴플라이언스 대응 전략을 설명했다. AI 산업에서 개인정보 보호의 중요성은 앞으로 더욱 커질 전망이다. 생성형 AI를 넘어 AI 에이전트가 확산되면 AI가 이용자를 대신해 검색과 예약, 결제 등 다양한 행동을 수행할 수 있어 개인정보 접근 범위와 처리 방식도 더욱 복잡해질 수 있기 때문이다. 이에 기업들도 개인정보를 사고 발생 이후 대응해야 하는 규제 요소로만 보는 것이 아니라 서비스 설계 단계부터 관리해야 하는 핵심 요소로 접근하고 있다. 특히 금융·의료·결제 등 민감정보를 다루는 서비스에서는 AI의 정확성뿐 아니라 개인정보 처리 과정의 투명성과 이용자 통제권 확보가 서비스 신뢰도에 직접적인 영향을 미칠 수 있다는 평가다. 카카오는 이번 컨퍼런스를 계기로 계열사 간 개인정보 보호 관련 협업을 지속하고 AI 시대에 맞는 프라이버시 체계를 고도화한다는 계획이다. AI 서비스 확대와 개인정보 보호라는 두 과제를 동시에 해결하면서 이용자 신뢰를 확보하는 것이 향후 AI 사업 확장의 중요한 조건이 될 전망이다. 김연지 카카오 개인정보 성과리더는 "카카오라는 하나의 울타리 안에서 우리가 공유하는 프라이버시 철학이 무엇인지 명확히 하고자 이번 컨퍼런스를 준비했다"며 "개인정보 보호를 단순한 법적 규제 준수로 보지 않고, 임직원 인식 강화와 공동체 간 지속적인 협업을 통해 일상에서 함께 실천해 나가겠다"고 말했다.2026-08-20 10:02:25
-
![[AI시대 대격변] 한국경제 3주체를 다시 짜라 ②소비자편](https://image.ajunews.com//content/image/2026/07/24/20260724105557582150.png)
한국경제 3주체를 다시 짜라 ②소비자편 [경제일보] 인공지능(AI)이 소비자의 일상 깊숙이 들어오고 있다. 검색과 쇼핑, 금융 상담, 보험 심사, 대출 추천, 콘텐츠 소비, 교육, 의료 상담까지 AI가 개입하는 영역이 빠르게 넓어지는 모습이다. 소비자는 더 빠르고 편리한 서비스를 이용하게 됐지만 그 과정에서 자신의 데이터가 어디에 쓰이고 어떤 기준으로 판단되는지 알기 어려운 상황도 늘고 있다. 24일 정부와 금융권 등에 따르면 소비자의 클릭 기록, 검색 이력, 결제 정보, 이동 경로, 신용 정보, 건강 정보, 소비 패턴 등은 AI 학습과 맞춤형 서비스의 주요 데이터로 활용되고 있다. 기업들은 이를 기반으로 개인별 추천과 광고, 금융상품, 콘텐츠 노출 순서를 조정하고 있다. AI시대 소비자는 단순한 구매자를 넘어 데이터 제공자이자 알고리즘 판단의 대상이 되고 있다는 분석이 나온다. 정부도 AI 확산에 따른 소비자 보호 장치 마련에 나서고 있다. 한국은 올해 1월 AI 기본법을 시행하면서 의료, 금융, 교통, 원전 등 민감 분야의 고영향 AI에 대해 인간 감독과 투명성 확보를 요구하는 체계를 마련했다. 개인정보보호위원회도 AI 모델·시스템 개발자와 제공자가 개인정보 유출, 딥페이크에 따른 인격권 침해 등 새로운 위험을 관리할 수 있도록 ‘AI 프라이버시 리스크 관리 모델’을 공개했다. 금융권의 변화도 빠르다. 은행과 카드사, 보험사, 핀테크 기업들은 AI 상담, 이상거래 탐지, 신용평가, 맞춤형 상품 추천, 보험금 심사 등에 AI를 활용하고 있다. 금융권에서는 AI 활용 확대와 함께 설명 가능성, 책임 소재, 소비자 보호 기준이 중요해졌다는 평가가 나온다. 한 금융권 관계자는 “AI 상담과 대출심사는 소비자에게 편리함을 줄 수 있지만, 소비자가 왜 특정 상품을 추천받았는지, 왜 대출 한도나 금리가 다르게 산정됐는지 이해하지 못하면 불신으로 이어질 수 있다”며 “금융 AI의 핵심은 속도보다 설명 책임”이라고 말했다. AI가 골라주는 시대, 소비자는 더 자유로워졌나 AI 추천 서비스는 소비자의 선택 방식을 바꾸고 있다. 과거 소비자는 상품과 서비스를 직접 비교하고 선택했다. 지금은 플랫폼이 소비자의 검색 기록과 구매 이력, 위치, 관심사를 분석해 상품과 콘텐츠를 먼저 제시한다. 쇼핑몰은 개인별 추천 상품을 배열하고 금융 플랫폼은 맞춤형 대출과 카드, 보험상품을 보여준다. 온라인동영상서비스(OTT)와 포털, 뉴스 플랫폼도 이용자의 선호를 기반으로 콘텐츠 노출 순서를 조정한다. 문제는 추천이 편리함을 주는 동시에 선택의 범위를 좁힐 수 있다는 점이다. 소비자는 자신이 원하는 정보를 찾는다고 생각하지만 실제로는 알고리즘이 보여주는 범위 안에서 선택하는 경우가 많다. 특정 상품이나 서비스가 상단에 노출되는 이유, 추천 기준에 광고나 수수료가 얼마나 반영됐는지 소비자가 확인하기 어려운 경우도 적지 않다. 소비자단체 한 관계자는 “AI 추천은 소비자 편익을 높일 수 있지만 플랫폼이 어떤 기준으로 상품을 보여주는지 충분히 설명하지 않으면 정보 비대칭이 커질 수 있다”며 “추천의 편리함과 소비자의 알 권리 사이에 균형이 필요하다”고 말했다. 개인정보는 공짜 원료가 아니다 AI 서비스의 기반은 데이터다. 소비자가 남긴 정보가 많을수록 AI는 더 정교한 추천과 예측을 제공할 수 있다. 그러나 데이터 활용이 늘어날수록 개인정보 침해 가능성도 커진다. 특히 금융, 의료, 교육, 이동 정보처럼 민감한 데이터가 결합되면 개인의 생활 패턴과 경제 상황, 건강 상태까지 추정할 수 있다. 개인정보위가 AI 프라이버시 리스크 관리 모델에서 개인정보 유·노출뿐 아니라 딥페이크로 인한 인격권 침해를 새로운 위험으로 제시한 것도 이 때문이다. AI가 만든 이미지와 음성, 영상은 소비자 피해의 양상을 바꾸고 있다. 보이스피싱과 투자 사기, 허위 광고, 유명인 사칭, 딥페이크 범죄가 AI 기술과 결합하면 피해 규모와 확산 속도가 커질 수 있다. 한 보안업계 관계자는 “기존 개인정보 유출은 계정 탈취나 스팸 피해로 이어지는 경우가 많았지만 AI시대에는 유출된 정보가 음성 합성, 얼굴 합성, 맞춤형 사기 문구에 활용될 수 있다”며 “소비자 보호의 기준도 단순 정보보호에서 신원과 평판 보호로 넓어져야 한다”고 말했다. 금융 AI의 편리함 뒤에 남는 설명 책임 금융 분야는 AI가 소비자 권리와 직접 충돌할 수 있는 대표 영역이다. AI가 대출 한도와 금리, 카드 발급 가능성, 보험 가입 심사, 이상거래 탐지, 투자상품 추천에 활용되면 소비자의 금융 접근성과 비용이 달라질 수 있다. 편리한 상담과 빠른 심사는 장점이지만 잘못된 데이터나 편향된 모델이 적용되면 불합리한 차별로 이어질 가능성도 있다. 금융소비자 입장에서는 ‘AI가 판단했다’는 설명만으로는 충분하지 않다. 왜 한도가 줄었는지, 왜 보험 가입이 거절됐는지, 왜 특정 투자상품이 추천됐는지 이해할 수 있어야 한다. AI 판단에 오류가 있다면 이의를 제기하고 사람이 다시 검토할 수 있는 절차도 필요하다. 한 금융소비자보호 전문가는 “AI가 금융 서비스를 빠르게 만들 수는 있지만 설명할 수 없는 AI는 금융소비자 보호와 충돌할 수 있다”며 “특히 고령층이나 금융 취약계층은 AI 상담 결과를 그대로 받아들일 가능성이 커 별도 보호 장치가 필요하다”고 말했다. 디지털 약자를 방치하면 AI 격차는 생활 격차가 된다 AI 서비스가 확산될수록 디지털 취약계층의 문제도 커질 수 있다. 고령층, 장애인, 저소득층, 디지털 기기 활용이 익숙하지 않은 소비자는 AI 기반 서비스에서 배제되거나 불리한 조건을 감수할 가능성이 있다. 은행 점포와 대면 창구가 줄고 모바일 앱과 챗봇 상담이 늘어날수록 이 같은 격차는 금융 접근성 문제로 이어질 수 있다. 교육과 의료 분야에서도 비슷한 문제가 나타날 수 있다. AI 학습 서비스는 개인별 맞춤 교육을 제공할 수 있지만 기기와 네트워크, 결제 능력이 부족한 가정은 혜택을 충분히 누리기 어렵다. AI 건강관리 서비스도 스마트기기 활용 능력과 데이터 접근성에 따라 이용 격차가 벌어질 수 있다. 전문가들은 AI시대 소비자 정책이 ‘피해 구제’ 중심에서 ‘역량 강화’ 중심으로 바뀌어야 한다고 지적한다. 소비자가 AI 추천과 자동화된 판단을 이해하고 개인정보 제공 여부를 선택하며 부당한 결과에 이의를 제기할 수 있어야 한다는 것이다. AI시대 소비자는 더 빠른 서비스를 이용하는 동시에 더 많은 데이터를 제공한다. 편리함은 공짜가 아니다. 소비자의 데이터가 기업의 수익과 AI 성능을 높이는 원료가 되는 만큼 소비자에게도 정보 접근권과 설명 요구권, 선택권이 보장돼야 한다. 한 소비자정책 전문가는 “AI시대 소비자 보호의 핵심은 기술을 막는 것이 아니라 소비자가 기술의 작동 방식을 이해하고 통제할 수 있게 하는 것”이라며 “데이터 주권이 뒷받침되지 않으면 AI 편익은 일부 기업과 플랫폼에 집중되고 소비자는 판단의 객체로 밀려날 수 있다”고 말했다.2026-07-24 11:08:47
-
개인정보위, 글로벌 AI 프라이버시 논의 주도…"규제 모호성 줄인다" [경제일보] 개인정보보호위원회가 글로벌 개인정보 감독기구를 상대로 인공지능(AI) 프라이버시 정책 경험을 공유했다. AI 확산으로 개인정보 활용과 보호의 경계가 빠르게 흔들리는 가운데 한국이 국제 규범 논의에서 주도권을 넓히려는 행보다. 개인정보위는 지난달 30일 오후 8시 글로벌 프라이버시 총회(GPA) 산하 인공지능 작업반(AIWG)과 국제집행 작업반(IEWG) 회원국을 대상으로 ‘AI 프라이버시 정책’ 온라인 화상회의를 개최했다고 밝혔다. GPA 공식 홈페이지에 따르면 GPA는 전 세계 130개 이상 개인정보·데이터보호 감독기구가 참여하는 국제 협의체다. 이번 회의는 개인정보위가 AIWG 공동의장으로서 기획 단계부터 주도적으로 참여한 첫 화상회의라는 점에서 의미가 있다. AI 기술이 생성형 AI를 넘어 에이전트, 영상·음성 모델, 산업용 AI로 확산되면서 각국 감독기구는 법 집행과 혁신 지원 사이의 균형을 요구받고 있다. 이번 행사는 각국의 정책 경험을 공유하고 감독 역량을 높이기 위해 마련됐다. 회의에는 한국을 비롯해 영국, 크로아티아, 브라질, 가나 등 5개국 개인정보 감독기구 담당자가 발표자로 참여했다. 참석국들은 AI 프라이버시 법제화 동향과 규제 유예 제도, 공공기관 내부 AI 도입 사례 등을 논의했다. 단순 원칙 선언보다 실제 행정 현장에서 부딪힌 쟁점과 대응 방안을 공유하는 데 초점이 맞춰졌다. 개인정보위는 한국의 AI 정책 사례로 ‘AI 프라이버시 리스크 관리 모델’과 ‘생성형 AI 개발·활용 가이드라인’을 소개했다. 이들 정책은 AI 개발과 활용 과정에서 개인정보 침해 위험을 사전에 점검하고 기업과 기관이 준수해야 할 기준을 구체화하기 위한 장치다. AI 서비스가 대규모 데이터를 기반으로 작동하는 만큼 학습 데이터와 입력 정보, 결과물 처리 단계에서 개인정보 보호 원칙을 어떻게 적용할지가 핵심 과제로 꼽힌다. 규제 유예 제도 사례도 공유됐다. 개인정보위는 보이스피싱 예방 AI 개발을 위한 규제 유예 사례를 소개하며 개인정보 보호와 기술 혁신을 함께 추진할 수 있는 방식으로 설명했다. AI 기술을 사회문제 해결에 활용하려면 일정한 데이터 활용이 필요하지만 그 과정에서 안전장치와 감독 체계가 함께 설계돼야 한다는 취지다. AI 특례 제도 도입 논의도 소개됐다. 개인정보위는 AI 기술 개발 과정에서 고품질 원본 데이터를 안전하게 활용할 수 있도록 지원하는 AI 특례 도입과 개인정보보호법 개정안의 국회 입법 절차가 진행 중이라고 설명했다. 이는 AI 산업계가 요구해 온 데이터 활용 문제와 개인정보 보호 원칙을 제도적으로 조정하려는 시도로 볼 수 있다. 이번 회의는 두 차례로 나눠 진행된다. 1차 회의가 AI 정책 대응에 초점을 맞췄다면 하반기에 열릴 2차 회의에서는 AI 조사·처분이 주요 의제로 다뤄진다. AI 서비스가 실제 피해나 위법 논란으로 이어졌을 때 감독기구가 어떤 기준으로 조사하고 제재할지에 대한 논의가 본격화될 전망이다. 개인정보위 관계자는 “이번 화상회의를 통해 글로벌 감독기구들이 당면한 AI 규제의 모호성을 해소하고 실질적인 대응 역량을 키우는 계기가 되었기를 바란다”며 “안전과 혁신이 조화를 이루는 국제 AI 프라이버시 규범 형성을 위해 협력을 선도해 나가겠다”고 말했다. 한편 AI 프라이버시 규제의 핵심은 기업을 멈춰 세우는 데 있지 않다. 어떤 데이터는 쓸 수 있고 어떤 방식은 금지되는지, 위험은 누가 평가하고 피해는 어떻게 구제할지를 명확히 만드는 일이다. 한국이 국제 논의에 적극 참여하는 것은 국내 기업의 AI 개발 환경에도 영향을 준다. 규범을 따라가는 국가가 아니라 만드는 국가가 될 때 데이터 활용과 개인정보 보호의 균형도 더 현실적인 해법을 찾을 수 있다.2026-07-01 07:49:00
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI가 내 돈을 쓰는 시대, 책임은 누가 지나](https://image.ajunews.com/content/image/2026/10/16/20261016135030302549_518_323.jpeg)