검색결과 총 9건
-
개보위, AI 데이터 규제 '활용·책임' 함께 손본다…AX 안심체계 구축
[경제일보] 개인정보보호위원회가 인공지능(AI) 개발 과정의 데이터 활용 문턱을 낮추는 동시에 유출과 오남용에 대한 책임은 강화하는 규제 전환에 나선다. 일률적인 개인정보 규제에서 벗어나 AI 기술과 데이터의 위험 수준에 따라 활용 범위와 안전조치를 달리 적용하는 것이 핵심이다. 개인정보위는 16일 이재명 대통령에게 보고한 하반기 업무계획에서 4대 역점 분야와 개혁·지역성장·국가정상화 과제를 제시했다. AI 개발과 운영 과정에서 발생하는 법적 불확실성을 줄이기 위한 가칭 ‘AX 안심 지원체계’를 구축하고, 공익·사회적 목적의 AI 개발에는 맞춤형 안전조치를 전제로 원본 개인정보 활용을 허용하는 특례 도입을 추진한다. ◆ AI 데이터 활용 문턱 낮추고 사전 검토 강화 AX 안심 지원체계는 적극적 법령 해석과 사전적정성 검토, 비조치 의견서 등 기존 제도를 통합해 AI 기업과 공공기관에 적합한 지원 방식을 연결하는 구조다. 기업이 AI 서비스를 개발한 뒤 제재 여부를 기다리는 방식에서 벗어나 개발 단계부터 데이터 처리의 적법성과 프라이버시 위험을 점검하도록 하겠다는 취지다. 개인정보위는 에이전틱 AI와 공공 AX 등 기술·분야별 안내서도 마련할 계획이다. 자율적으로 업무를 수행하는 에이전틱 AI는 개인정보 접근 범위와 행위 책임이 불명확할 수 있고 로봇·스마트글라스 등 피지컬 AI는 카메라와 마이크로 주변인의 정보를 실시간 수집할 가능성이 크다. 기술별 위험이 다른 만큼 하나의 동의 절차만으로 규율하기 어렵다는 판단이다. AI 원본활용 특례는 범죄 대응과 재난 방지 등 공익적 목적의 AI 개발에서 가명정보만으로 연구 목적을 달성하기 어려운 경우를 겨냥한다. 신청과 현장조사, 위험평가, 전문위원회와 개인정보위 심의, 사후관리 절차를 거쳐 제한적으로 원본 활용을 허용하는 방식이다. 제도의 본질은 무제한 활용 허용이 아니다. 활용 필요성과 공익성을 확인하고 정보의 민감도와 유출 가능성에 맞춘 안전조치를 부과하는 조건부 활용체계에 가깝다. 개인정보위는 AI 시대의 데이터 활용을 넓히되 위험에 비례하는 규율 방식으로 전환하겠다는 방침이다. ◆ 공공기관 387개 시스템 보안 의무 강화 대규모 개인정보를 보유한 공공기관에는 더 무거운 책임이 부과된다. 개인정보위는 주요 개인정보 처리 시스템 387개를 대상으로 연 1회 이상 취약점 점검과 모의해킹을 의무화하고 전문 개인정보보호책임자(CPO) 지정과 신고도 강화할 계획이다. 정부24와 국민신문고 등 주요 공공시스템에는 개인정보보호 관리체계 인증인 ISMS-P를 단계적으로 의무화한다. 주민등록번호 5000만건 이상을 보유한 대민 시스템 11종은 별도 집중관리 대상으로 지정하고 자체 점검 결과가 미흡한 시스템에는 관계부처 합동점검을 실시한다. 공공기관의 개인정보보호 인력과 예산 확대도 병행한다. 취약점 점검, 접속기록 관리, 보호 솔루션 도입에 필요한 예산 확보를 지원하고 담당자에게 수당과 인사상 우대 방안을 제공하는 방안이 추진된다. 반대로 고의나 중과실에 따른 유출과 업무 해태에는 징계 권고와 이행점검을 통해 책임을 묻는다. 공공부문의 개인정보 유출은 민간 사고보다 피해 범위가 넓고 국민이 서비스를 선택해 회피하기도 어렵다. 개인정보위가 공공기관의 자율점검을 의무 점검과 인증체계로 전환하려는 이유도 공공서비스의 신뢰를 기관의 자율에만 맡길 수 없다는 판단에서 출발한다. ◆ 예방투자는 감경하고 중대 위반은 최대 10% 민간기업 제재 체계도 달라진다. 개인정보위는 기업이 법정 의무를 넘어 예방투자를 하고 유출 사고를 신속하게 탐지·차단한 경우 과징금 산정에서 이를 반영할 계획이다. 사고 이후 2차 피해 방지와 피해회복, 보호체계 복원 수준도 평가 대상에 포함한다. 보호 역량이 부족한 중소·영세기업에는 기술지원과 컨설팅을 제공한다. 경미한 사건은 시정을 전제로 처분을 면제하되 같은 위반이 반복되면 제재를 가중하는 ‘처분성 경고제’도 도입할 예정이다. 규제 비용을 감당하기 어려운 기업에는 개선 기회를 주면서 반복적 방치에는 책임을 묻는 구조다. 반면 중대하거나 반복적인 위반에는 매출액의 최대 10%까지 징벌적 과징금을 부과하는 제도를 시행한다. 유출 신고와 통지를 지연하거나 피해 확산 방지 조치를 이행하지 않은 경우에도 과징금이 가중된다. 조사 과정에서 자료를 숨기거나 폐기하는 행위에는 별도 제재와 신고포상금 도입도 추진한다. 100만건 이상이 유출된 중요 사건은 전담 조사단을 구성해 신속하게 조사하고 소규모·정형화된 사건은 소위원회 중심의 신속 처리 절차를 적용한다. 개인정보위는 연내 기술분석센터를 구축하고 포렌식 기능을 강화해 랜섬웨어와 AI 해킹 등 복합적인 침해사고에 대응할 계획이다. ◆ AI 규제의 성패는 ‘허용 이후의 책임’에 달렸다 국민 권리구제 체계도 확대된다. 개인정보 유출 기업의 손해배상 책임을 강화하고 유출 관련 과징금 수입을 피해회복과 권리구제에 활용하는 통합기금 도입을 추진한다. 약 300개 주요 앱을 대상으로 탈퇴 방해, 선택동의 강요, 반복적 동의 요구 등 개인정보 다크패턴 실태도 점검한다. 마이데이터는 의료·통신·에너지 분야를 결합한 서비스로 확장한다. 진료·검사 기록을 활용한 맞춤 서비스, 실제 통신 이용량에 기반한 요금제 추천, 공과금 납부 이력을 활용한 대안 신용평가 등이 검토 대상이다. 개인정보 활용으로 발생한 수익의 일부를 정보주체에게 돌려주는 이익공유 모델도 추진한다. 이번 업무계획은 개인정보 정책의 중심을 ‘동의를 받았는가’에서 ‘어떤 위험을 만들고 어떻게 통제했는가’로 옮기려는 시도다. AI 산업에는 데이터 활용의 예측 가능성을 주고, 국민에게는 피해 예방과 구제 장치를 강화하는 방식이다. 규제 완화만으로 AI 혁신이 만들어지는 것은 아니다. 원본 데이터 활용 범위가 넓어질수록 기업과 공공기관의 설명 책임, 기록 의무, 사후 검증도 더 엄격해져야 한다. 활용의 문을 여는 것은 정부가 할 수 있지만 신뢰를 지키는 것은 데이터를 다루는 기관의 몫이다. AI 시대 개인정보 정책의 성패는 얼마나 많이 허용했느냐가 아니라 허용 이후의 위험을 얼마나 투명하게 통제했느냐에서 갈릴 것이다.
2026-07-17 11:50:23
-
플랫폼·클라우드 정조준…개인정보 규제 '사후 제재'서 예방으로
[경제일보] 인공지능(AI)과 클라우드 기반 서비스 확산으로 개인정보 유출 위험이 커지면서 정부가 개인정보 규제 체계를 사후 제재 중심에서 예방 중심으로 전환한다. 대규모 개인정보를 처리하는 플랫폼과 금융권, 클라우드·서비스형 소프트웨어(SaaS) 업계를 중심으로 상시 점검과 보호 투자가 확대될 것으로 전망된다. 22일 개인정보보호위원회는 경제장관회의에서 '예방 중심 개인정보 관리체계 전환계획'을 발표했다고 밝혔다. 개인정보 침해와 유출 사고가 발생한 이후 제재하는 방식에서 벗어나 위험 가능성을 사전에 식별하고 관리하는 방향으로 정책 체계를 전환하겠다는 취지로 진행됐다. 개보위는 최근 생성형 AI와 플랫폼, 클라우드 서비스 확산으로 개인정보 처리 규모와 활용 방식이 급격히 확대되면서 개인정보 보호 문제가 산업 전반의 핵심 리스크로 떠오르고 있다는 판단이 반영됐다고 설명했다. 특히 AI 서비스 운영 과정에서 대규모 데이터 수집과 분석이 이뤄지고 SaaS와 클라우드 기반 서비스가 빠르게 늘어나면서 기존 획일적 규제 체계로는 대응에 한계가 있다는 지적이 이어져왔다. 개인정보위는 앞으로 개인정보 처리 규모와 민감도, 산업 특성 등을 기준으로 고·중·저 위험군을 구분해 차등 관리에 나설 계획이다. 고위험군에는 정기·수시 점검과 내부통제 점검을 강화하고 상대적으로 위험도가 낮은 분야는 자율점검과 컨설팅 중심으로 관리 체계를 운영한다. 올해는 플랫폼, 금융기관, 공공기관, 에듀테크, 요양병원 등 대규모 개인정보와 민감정보를 처리하는 분야를 중심으로 집중 점검이 이뤄질 예정이다. 100만명 이상 개인정보를 처리하는 사업자는 고위험군으로 분류돼 영향평가와 보호활동 공개, 보안 점검 등이 강화된다. 특히 정부는 SaaS와 클라우드, 전문 수탁업체 등 데이터 공급망 전반에 대한 관리도 확대한다. AI 서비스 상당수가 클라우드 기반으로 운영되는 만큼 개인정보 보호 책임이 플랫폼 기업뿐 아니라 인프라 사업자까지 확대되는 구조다. 이에 국내 클라우드 업계의 보안 투자 경쟁도 본격화될 가능성이 제기된다. 네이버클라우드와 KT클라우드, NHN클라우드 등 주요 사업자들은 최근 AI 인프라 확대와 함께 보안 체계 강화에 집중하고 있다. 삼성SDS와 LG CNS 등도 기업 대상 AI·클라우드 전환 사업과 함께 개인정보 보호 체계 구축 사업을 강화하는 분위기다. 정부는 개인정보 보호 중심 설계(PbD) 원칙도 확대 적용할 방침이다. 기존에는 일부 IP카메라와 로봇청소기 등에 한정됐지만 앞으로는 서비스 기획과 설계 단계부터 개인정보 보호 요소를 반영하도록 제도화를 추진한다. ISMS-P 인증과 각종 평가 체계에도 PbD 원칙이 반영될 예정이다. 기업들의 자발적 보호 투자 확대를 유도하기 위한 인센티브 제도도 마련된다. 개인정보 보호 활동과 내부통제 체계를 적극 공개하거나 법정 기준을 넘어서는 추가 보호조치를 적용할 경우 과징금 감경 등 혜택을 제공하는 방식이다. 특히 오는 9월부터 개인정보보호책임자(CPO) 지정 신고제가 도입되면서 기업 내부 통제 체계 관리도 강화된다. 개인정보위는 CPO 협의체와 핫라인을 운영해 최신 위협 정보를 공유하고 유사 사고에 대한 사전 대응 체계도 구축할 계획이다. 송경희 개인정보위 위원장은 "관계부처와 협력하여 중점 분야별 개인정보 처리 실태와 취약요인을 지속적으로 점검하고, 위험에 비례한 예방 중심 관리체계를 정착시켜 나가겠다"고 말했다.
2026-05-22 08:30:02
-
-
개보위, 중대 개인정보 유출 기업...9월부터 매출 최대 10% 과징금
[경제일보] 오는 9월부터 반복적이거나 중대한 개인정보 유출 사고를 낸 기업에는 매출액의 최대 10%까지 과징금이 부과된다. 정부는 주요 공공시스템과 대규모 개인정보 처리 시스템에 대한 직접 점검도 확대해 사후 제재 중심에서 예방 중심으로 개인정보 관리체계를 전환한다. 개인정보보호위원회는 12일 대통령 주재 국무회의에서 이 같은 내용의 ‘예방 중심 개인정보 관리체계 전환 계획’을 보고했다고 밝혔다. 핵심은 징벌적 과징금 도입이다. 오는 9월11일 시행되는 개정 개인정보보호법에 따라 반복적이거나 중대한 개인정보보호법 위반 행위에 대해서는 매출액의 최대 10%까지 과징금을 부과할 수 있다. 적용 대상은 고의 또는 중과실로 3년 내 반복된 위반 행위가 발생했거나 1000만명 이상 규모의 개인정보 유출 피해가 발생한 경우다. 대규모 유출 사고가 반복돼도 제재 수준이 기업 규모에 비해 낮다는 지적을 반영한 조치다. 과징금 산정 기준도 강화된다. 오는 19일 시행되는 개정 시행령에 따라 과징금 기준은 기존 ‘최근 3년 평균 매출액’에서 ‘직전 연도 매출액’과 ‘최근 3년 평균 매출액’ 가운데 더 높은 금액을 적용하는 방식으로 바뀐다. 매출이 급증한 기업이 낮은 평균 매출 기준을 적용받는 문제를 줄이려는 취지다. 조사와 처분의 실효성을 높이기 위한 제도도 도입된다. 개인정보위는 이행강제금과 신고포상금 제도를 마련하고 증거 은닉 행위에 대한 제재도 강화할 계획이다. 다만 개정법과 시행령은 시행 이후 발생한 사건부터 적용된다. 현재 조사 중인 쿠팡이나 KT 개인정보 유출 사건에는 소급 적용이 어려울 전망이다. 정부는 제재 강화와 함께 인센티브도 병행한다. 법정 기준을 넘어서는 보호조치와 보안 투자, 안전관리체계 운영 수준 등을 종합 평가해 과징금 감경 등 혜택을 제공한다. 오는 9월부터 시행되는 경영진의 개인정보 보호책임이 현장에서 이행될 수 있도록 기업의 개인정보 보호활동 공개도 유도할 방침이다. 위험도에 따른 차등 관리체계도 구축한다. 주요 공공시스템 387개와 교육·복지 등 고위험 분야를 개인정보위가 직접 집중 관리한다. 올 하반기부터는 주요 공공시스템과 대규모 개인정보를 처리하는 약1700개 고위험 정보시스템을 정기 점검한다. 점검 대상은 공공기관에 그치지 않는다. 개인정보위는 클라우드 사업자 전문 수탁사 시스템 공급사 등 공급망 전반으로 점검 범위를 확대할 계획이다. 현재 상조회사와 고객상담센터 등에 대한 점검이 진행 중이며 초·중·고 에듀테크 업체도 추가 점검 대상에 포함된다. 서비스 설계 단계에서부터 개인정보 보호 요소를 반영하는 ‘개인정보 중심 설계’ 원칙도 제도화된다. 개인정보위는 개인정보 영향평가 기준과 ISMS-P 인증 기준에 개인정보 중심 설계 원칙을 반영할 계획이다. 공공부문 보호 역량 강화도 추진된다. 개인정보위가 지난 3월 공공시스템을 긴급 점검한 결과 개인정보보호 전담 인력은 중앙부처 평균 1.1명, 기초지방정부 평균 0.3명 수준에 그쳤다. 정부는 공공부문 개인정보 보호 인력과 예산을 확충하고 전담 인력 처우 개선도 추진한다. 피해 구제 체계도 강화된다. 개인정보 유출 사고가 발생하면 기업과 기관의 손해배상 책임을 원칙으로 하고 입증 책임도 기업이 지도록 해 법정 손해배상 제도 활성화를 추진한다. 유출 피해자가 피해 사실과 손해를 모두 입증해야 하는 부담을 줄이겠다는 방향이다. 개인정보 침해 행위에 대한 감시도 넓어진다. 개인정보 수정, 동의 철회, 회원 탈퇴를 어렵게 만드는 다크패턴을 집중 점검하고 개인정보 침해신고센터 기능도 강화한다. 민감정보가 유출될 경우 SNS 등 온라인 공간에서 불법 유통 여부를 모니터링하고 탐지·삭제를 지원한다. 수사기관과의 협력도 강화된다. 개인정보 불법 유포자와 이용자에 대한 추적과 처벌을 확대해 유출 이후 2차 피해를 줄이겠다는 방침이다. 이번 계획은 개인정보 보호정책의 무게중심을 사후 처벌에서 사전 예방으로 옮기려는 시도다. 대규모 플랫폼과 전자상거래, 통신, 공공서비스에서 개인정보가 대량으로 처리되는 만큼 단순 과징금 부과만으로는 피해를 막기 어렵다는 판단이 깔려 있다. 다만 기업 입장에서는 규제 부담이 커질 수 있다. 특히 고의·중과실 여부와 반복 위반 판단 기준, 1000만명 이상 유출 사고의 책임 범위가 쟁점이 될 가능성이 있다. 개인정보 보호 투자와 경영진 책임을 강화하되, 기업이 예측 가능한 기준 아래 대응할 수 있도록 하위 기준을 명확히 정비하는 것이 관건이다. 송경희 개인정보위원장은 민간 분야 평가제도 도입과 관련해 “민간은 자발적으로 개인정보 보호를 유도할 수 있는 장치가 필요하다”며 “그간 ISMS-P 제도가 그 역할을 해왔다고 볼 수 있다”고 말했다. 송 위원장은 이어 “앞으로는 위험도에 따라 ISMS-P 체계를 차등 적용할 계획”이라며 “고위험 분야에는 강화된 인증 기준을 적용하고 보통인 경우에는 표준, 위험도가 낮은 분야에는 좀 더 간편화된 인증 기준을 적용할 것”이라고 밝혔다.
2026-05-12 17:53:34
-
-
생성형 AI 성적 이미지 범람에 경고등…개보위, GPA 공동선언 채택
[이코노믹데일리] 최근 그록(Grok) 등 생성형 인공지능(AI) 서비스를 악용한 딥페이크와 미성년자 성적 이미지의 생성·확산이 전 세계적인 문제로 부상하면서 국제사회가 공동 대응에 나섰다. 23일 개인정보보호위원회는 국제 개인정보 감독기구 협의체(GPA) 차원의 '인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문' 채택에 참여했다고 밝혔다. 최근 일부 생성형 AI 플랫폼에서는 텍스트 명령만으로 특정 인물을 지목해 노출·성적 행위를 묘사한 이미지를 생성하거나, 사회관계망서비스(SNS)에 게시된 사진을 학습 데이터로 활용해 유사 이미지를 제작하는 방식이 문제로 지적됐다. 특히 기술 접근 장벽이 낮아지면서 청소년 이용자까지 손쉽게 딥페이크 제작에 가담하는 사례도 보고되고 있다. 국내외 통계 역시 심각성을 뒷받침한다. 글로벌 사이버보안 업계와 아동보호 단체 등에 따르면 최근 2~3년 사이 딥페이크 음란물 유통 건수는 급증세를 보이고 있으며 피해자의 상당수가 10~20대 여성으로 나타났다. 아동·청소년을 대상으로 한 AI 기반 성적 이미지 범죄 역시 꾸준히 증가하는 추세다. 생성형 AI의 고도화로 이미지·영상의 정교함이 높아지면서 피해 확산 속도와 2차 피해 위험도 함께 커지는 것으로 전망된다. 이번 선언은 실제 인물이 당사자의 동의 없이 묘사·확산되는 프라이버시 침해에 대해 국제사회가 신속하고 일관된 대응 의지를 공식 목표로 정했다. 선언문에는 인공지능 시스템 개발·활용 기관이 준수해야 할 4가지 핵심 원칙이 담겼다. 개인정보 오남용 및 동의 없는 성적 콘텐츠 생성을 방지하기 위한 안전조치 이행, 인공지능 시스템의 이용 가능 범위와 한계에 대한 투명성 확보, 신속한 신고·삭제를 위한 효과적인 구제 절차 마련, 연령 적합 정보 제공 등 아동·청소년에 대한 강화된 보호조치 이행 등이다. 각국 감독기구는 '신뢰할 수 있는 인공지능 혁신'이라는 공동 가치를 실현하기 위해 정책·집행·교육 분야의 대응 경험을 적극 공유하고 초국경적 사안에 대한 공조 강화를 제시했다. 특히 플랫폼 사업자의 사전적 위험 평가와 기술적 안전장치 도입, 피해자 중심의 구제 체계 구축이 핵심 과제로 선정됐다. 이번 선언문은 GPA 산하 국제집행협력 작업반 주도로 마련됐으며 사안의 시급성에 공감한 52개국 61개 개인정보 감독기구가 서명에 참여했다. 한국을 비롯해 프랑스, 영국, 싱가포르, 캐나다, EU 회원국 감독기구 등이 동참한 것으로 알려졌다. 각국의 규제 움직임도 빨라지고 있다. 유럽연합은 인공지능 규제 체계 내에서 고위험 AI와 불법 콘텐츠에 대한 책임을 강화하는 방향으로 제도를 정비하고 있으며, 미국과 영국 등도 딥페이크 음란물과 아동 성적 이미지에 대한 처벌 규정을 확대하거나 별도 입법을 추진 중이다. 아시아 주요 국가들 역시 플랫폼 사업자의 삭제 의무와 투명성 보고를 강화하는 방안을 검토하고 있다. 기술 발전 속도에 맞춘 규범 정립과 함께 사업자의 자율 규제와 이용자 교육이 병행돼야 실효성을 확보할 수 있을 것으로 분석된다. 생성형 AI의 혁신성과 사회적 편익을 살리면서도 딥페이크와 아동·청소년 대상 범죄로부터 개인정보와 인격권을 보호하기 위한 국제 공조는 더욱 강화될 전망이다. 송경희 개인정보보호위원회 위원장은 "딥페이크 등 인공지능 콘텐츠 생성 기술의 오남용으로 인한 개인정보 침해 위험에 국제 사회와 공동으로 대응하겠다"며 "앞으로도 국내외의 신뢰 기반 인공지능 활용 환경 조성을 주도해 나가겠다"고 말했다.
2026-02-23 17:41:59
-
-
-