검색결과 총 9건
-
-
생성형 AI 성적 이미지 범람에 경고등…개보위, GPA 공동선언 채택
[이코노믹데일리] 최근 그록(Grok) 등 생성형 인공지능(AI) 서비스를 악용한 딥페이크와 미성년자 성적 이미지의 생성·확산이 전 세계적인 문제로 부상하면서 국제사회가 공동 대응에 나섰다. 23일 개인정보보호위원회는 국제 개인정보 감독기구 협의체(GPA) 차원의 '인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문' 채택에 참여했다고 밝혔다. 최근 일부 생성형 AI 플랫폼에서는 텍스트 명령만으로 특정 인물을 지목해 노출·성적 행위를 묘사한 이미지를 생성하거나, 사회관계망서비스(SNS)에 게시된 사진을 학습 데이터로 활용해 유사 이미지를 제작하는 방식이 문제로 지적됐다. 특히 기술 접근 장벽이 낮아지면서 청소년 이용자까지 손쉽게 딥페이크 제작에 가담하는 사례도 보고되고 있다. 국내외 통계 역시 심각성을 뒷받침한다. 글로벌 사이버보안 업계와 아동보호 단체 등에 따르면 최근 2~3년 사이 딥페이크 음란물 유통 건수는 급증세를 보이고 있으며 피해자의 상당수가 10~20대 여성으로 나타났다. 아동·청소년을 대상으로 한 AI 기반 성적 이미지 범죄 역시 꾸준히 증가하는 추세다. 생성형 AI의 고도화로 이미지·영상의 정교함이 높아지면서 피해 확산 속도와 2차 피해 위험도 함께 커지는 것으로 전망된다. 이번 선언은 실제 인물이 당사자의 동의 없이 묘사·확산되는 프라이버시 침해에 대해 국제사회가 신속하고 일관된 대응 의지를 공식 목표로 정했다. 선언문에는 인공지능 시스템 개발·활용 기관이 준수해야 할 4가지 핵심 원칙이 담겼다. 개인정보 오남용 및 동의 없는 성적 콘텐츠 생성을 방지하기 위한 안전조치 이행, 인공지능 시스템의 이용 가능 범위와 한계에 대한 투명성 확보, 신속한 신고·삭제를 위한 효과적인 구제 절차 마련, 연령 적합 정보 제공 등 아동·청소년에 대한 강화된 보호조치 이행 등이다. 각국 감독기구는 '신뢰할 수 있는 인공지능 혁신'이라는 공동 가치를 실현하기 위해 정책·집행·교육 분야의 대응 경험을 적극 공유하고 초국경적 사안에 대한 공조 강화를 제시했다. 특히 플랫폼 사업자의 사전적 위험 평가와 기술적 안전장치 도입, 피해자 중심의 구제 체계 구축이 핵심 과제로 선정됐다. 이번 선언문은 GPA 산하 국제집행협력 작업반 주도로 마련됐으며 사안의 시급성에 공감한 52개국 61개 개인정보 감독기구가 서명에 참여했다. 한국을 비롯해 프랑스, 영국, 싱가포르, 캐나다, EU 회원국 감독기구 등이 동참한 것으로 알려졌다. 각국의 규제 움직임도 빨라지고 있다. 유럽연합은 인공지능 규제 체계 내에서 고위험 AI와 불법 콘텐츠에 대한 책임을 강화하는 방향으로 제도를 정비하고 있으며, 미국과 영국 등도 딥페이크 음란물과 아동 성적 이미지에 대한 처벌 규정을 확대하거나 별도 입법을 추진 중이다. 아시아 주요 국가들 역시 플랫폼 사업자의 삭제 의무와 투명성 보고를 강화하는 방안을 검토하고 있다. 기술 발전 속도에 맞춘 규범 정립과 함께 사업자의 자율 규제와 이용자 교육이 병행돼야 실효성을 확보할 수 있을 것으로 분석된다. 생성형 AI의 혁신성과 사회적 편익을 살리면서도 딥페이크와 아동·청소년 대상 범죄로부터 개인정보와 인격권을 보호하기 위한 국제 공조는 더욱 강화될 전망이다. 송경희 개인정보보호위원회 위원장은 "딥페이크 등 인공지능 콘텐츠 생성 기술의 오남용으로 인한 개인정보 침해 위험에 국제 사회와 공동으로 대응하겠다"며 "앞으로도 국내외의 신뢰 기반 인공지능 활용 환경 조성을 주도해 나가겠다"고 말했다.
2026-02-23 17:41:59
-
-
-
-
전 세계로 번진 xAI '그록' 딥페이크 논란…美 캘리포니아 조사 착수
[이코노믹데일리] 일론 머스크가 이끄는 xAI의 인공지능 모델 '그록'을 둘러싼 논란이 전 세계로 확산되고 있다. 단순한 기술 경쟁을 넘어 발언 수위와 안전성, 데이터 활용 방식, 법적 책임 문제까지 겹치며 각국 정부와 사법 당국이 동시에 대응에 나서는 양상이다. 14일(현지시간) 롭 본타 캘리포니아주 법무장관은 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"며 그록의 성적 이미지 생성 논란에 대한 조사에 나섰다. 이어 그는 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 강조했다. 그록은 X와 연동된 대화형 AI로, 실시간성에 가까운 데이터 접근과 직설적인 응답 스타일을 강점으로 내세웠다. 그러나 이 같은 특징은 곧바로 논란으로 이어졌다. 일부 국가와 지역에서 정치적 민감 사안, 폭력적 표현, 허위 정보에 가까운 답변이 노출되며 AI 안전성 논쟁의 중심에 섰다. 한국 정부도 이번 문제에 민감한 반응을 보였다. 방송미디어통신위원회는 14일 소셜 플랫폼 X에 공문을 보내며 안전장치 마련, 청소년 접근 제한, 관리 조치 등을 요청하며 경고에 나섰다. 또한 정부는 학습 데이터의 출처, 유해 콘텐츠 차단 기준, 국내 이용자 대상 서비스 제공 시 책임 구조 등에 대한 설명과 개선을 요청한 것으로 알려졌다. 김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 말했다. 동남아시아에서도 파장이 컸다. 인도네시아에서는 그록이 종교·사회적으로 민감한 주제에 대해 부적절하거나 편향된 답변을 내놓았다는 지적이 제기되며, 정부 차원의 검토가 이뤄졌다. 인도네시아 당국은 해외 AI 모델이 자국 내 사회적 갈등을 증폭시킬 가능성을 우려하며 콘텐츠 관리 체계와 현지 법규 준수 여부를 점검한 것으로 알려졌다. 일부에서는 서비스 제한이나 규제 가능성까지 거론된다. 기술적 논란도 여전히 현재진행형이다. 일부 전문가들은 그록의 응답 패턴과 결과물이 기존 대형언어모델과 유사하다는 점을 들어 학습 과정의 투명성을 요구하고 있다. 이에 대해 xAI는 독자적인 모델 설계와 학습 방식을 강조하고 있지만 외부 검증 요구는 쉽게 가라앉지 않는 분위기다. 업계에서는 그록 논란을 특정 모델의 일탈이 아니라 차세대 AI 경쟁이 맞닥뜨린 구조적 문제로 해석하는 시각이 많다. 실시간 데이터와 결합된 AI가 확산될수록, 성능보다 안전성과 규제 대응 능력이 핵심 경쟁력이 되고 있기 때문이다. 국가와 지역별로 다른 법·문화적 기준을 어떻게 반영할지도 주요 과제로 떠오르고 있다. 이번 논란에 대해 일론 머스크 X 대표는 자신의 X 계정 게시물에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 '제로'"라고 강조했다. 이어 "분명히 그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 설명했다.
2026-01-15 07:53:55
-
-
-