2026.09.01 화요일
검색
'AI탐지' 검색결과
기간검색
-
~
검색영역
검색어
-
"내 글에 낙인 찍나"…AI 워터마크, '투명성'인가 '감시'인가 [경제일보] “내가 직접 쓴 글인데 인공지능(AI)이 일부 손봤다는 이유만으로 AI 글로 분류되는 것 아닌가.” 생성형 AI를 업무와 학업에 활용하는 이용자들 사이에서 이런 우려가 커지고 있다. 글로벌 AI 기업 앤트로픽(Anthropic)이 자사의 AI 서비스 ‘클로드(Claude)’가 생성한 텍스트에 사람이 눈으로 확인하기 어려운 식별 패턴을 넣기 시작하면서다. 단순한 기능 업데이트로만 보기 어려운 이유는 이 기술이 앞으로 AI 콘텐츠의 ‘신분증’ 역할을 할 가능성이 있기 때문이다. 지금까지 AI 생성 여부는 별도의 탐지 프로그램을 통해 추정하는 방식이 중심이었다. 앞으로는 AI가 콘텐츠를 만들어내는 순간부터 식별 정보가 함께 따라붙는 구조로 바뀔 수 있다. 앤트로픽은 지난 2일부터 새로 출시되는 클로드 모델의 텍스트에 보이지 않는 워터마크를 적용하고 있다. 기존 모델에도 순차적으로 적용할 계획이며, 유럽연합(EU)뿐 아니라 전 세계 서비스에 적용한다. API(응용프로그램 인터페이스), 클로드 코드 등 개발자용 서비스에도 같은 원칙이 적용된다. ◆ 왜 갑자기 AI 글에 ‘도장’을 찍나 출발점은 유럽연합의 ‘AI법(EU AI Act·유럽연합 인공지능법)’이다. EU AI법 제50조는 AI로 생성된 콘텐츠가 사람이나 다른 콘텐츠인 것처럼 오인되지 않도록 AI 생성·변조 콘텐츠를 기계가 식별할 수 있는 방식으로 표시하도록 하는 투명성 의무를 담고 있다. 이 규정은 지난 2일부터 적용되기 시작했다. AI가 만든 콘텐츠가 허위정보나 사칭 등에 악용되는 것을 막고 정보의 출처를 보다 명확하게 하려는 취지다. 다만 EU가 특정한 하나의 ‘워터마크’ 기술을 의무화한 것은 아니다. 워터마크나 메타데이터, 콘텐츠 출처 인증 등 기술적으로 가능한 방법을 활용해 AI 생성 여부를 식별할 수 있도록 하는 것이 핵심이다. 앤트로픽은 이 가운데 텍스트 자체에 보이지 않는 통계적 패턴을 심는 방식을 선택했다. 앤트로픽이 이를 전 세계에 적용한 것은 유럽과 비유럽 지역의 서비스를 별도로 운영하기보다 하나의 모델과 시스템으로 대응하기 위한 것으로 풀이된다. ◆ 사람 눈에는 안 보이는데 어떻게 찾나 앤트로픽이 사용하는 방식은 글에 ‘AI 작성’이라는 문구를 붙이는 기존의 표시와 다르다. AI가 문장을 생성할 때 특정 단어나 토큰(인공지능이 문장을 생성할 때 사용하는 최소 단위)의 선택 확률을 미세하게 조정해 통계적인 패턴을 만들어내는 방식이다. 사람 눈에는 일반적인 문장과 차이가 없지만 별도의 탐지 기술을 이용하면 해당 패턴을 찾아낼 수 있다. 구글 딥마인드가 개발한 ‘SynthID Text(AI가 생성한 텍스트를 식별하는 기술)’와 같은 방식이 대표적이다. AI가 다음 단어를 선택하는 과정에 일정한 패턴을 남겨 생성 여부를 판별하는 방식이다. 다만 이 기술을 ‘완벽한 AI 탐지기’로 봐서는 안 된다. 워터마크가 발견됐다고 해서 글 전체를 AI가 작성했다는 뜻은 아니며, 반대로 워터마크가 발견되지 않았다고 해서 사람이 100% 작성했다는 의미도 아니다. 앤트로픽 역시 기술의 한계를 인정하고 있다. ◆ “내가 쓴 글인데 왜 AI 글인가” 이용자들의 반발은 바로 이 지점에서 나온다. AI에게 글 전체를 작성하도록 한 것이 아니라 직접 쓴 글의 오탈자를 수정하거나 문장을 다듬고, 번역하거나 일부 표현을 고치는 데 AI를 활용하는 경우가 대표적이다. 미국 커뮤니티 사이트 ‘레딧(Reddit)’ 등에서는 앤트로픽의 발표 이후 “AI를 사용했다는 사실과 AI가 글의 저자라는 것은 다른 문제”라는 의견이 이어졌다. 일부 유료 이용자는 구독 취소를 거론했고, 실제로 다른 AI 서비스로 옮기겠다는 이용자도 나타났다. 반면 AI 사용 사실을 투명하게 밝히는 것은 오히려 필요한 조치라는 반론도 나온다. 특히 논란이 되는 것은 학교와 직장이다. 대학이 과제물의 AI 사용을 금지하거나 기업이 업무 결과물의 AI 사용 여부를 관리할 경우 워터마크가 새로운 판단 기준으로 활용될 수 있기 때문이다. 앤트로픽은 이에 대해 워터마크가 ‘저자’를 증명하는 기술이 아니라고 설명한다. 사람이 작성한 글을 일부만 가볍게 수정하거나 AI가 작성한 글을 사람이 크게 다시 작성하는 경우에는 식별 성능이 떨어질 수 있다는 것이다. ◆ “AI 표시”와 “AI 낙인” 사이 문제는 AI 활용 방식이 이미 ‘AI가 쓴 글’과 ‘사람이 쓴 글’로 깔끔하게 나뉘지 않는다는 데 있다. 사람이 아이디어를 내고 AI에게 초안을 만들게 한 뒤 다시 사람이 고칠 수도 있고, 사람이 작성한 글을 AI가 교정할 수도 있다. 번역과 요약, 자료 정리처럼 인간의 작업을 보조하는 용도로 AI를 사용하는 경우도 많다. 그런데 워터마크 하나만으로 이 과정을 모두 ‘AI 콘텐츠’로 묶어버리면 실제 창작 과정과 다른 판단이 내려질 가능성이 있다. AI 사용 여부와 부정행위 여부, 저작권 침해 여부는 서로 다른 문제이기 때문이다. 워터마크의 실효성도 논쟁거리다. 가벼운 편집이나 복사·붙여넣기에도 일부 흔적이 남도록 설계됐지만, 대규모 재작성이나 번역 등을 거치면 식별 성능이 떨어질 수 있다. 이미 해외 개발자 커뮤니티에서는 워터마크를 우회하거나 탐지를 어렵게 만드는 방법에 대한 논의도 나타나고 있다. 연구자들 역시 텍스트 워터마크의 견고성과 탐지 정확도에 한계가 있을 수 있다고 지적한다. 결국 ‘워터마크를 심는 AI’와 ‘워터마크를 지우는 기술’의 경쟁으로 이어질 가능성도 배제할 수 없다. ◆ 클로드에서 끝나지 않을 가능성 앤트로픽의 결정은 특정 서비스의 기능 변경에 그치지 않을 가능성이 높다. EU AI법의 투명성 의무는 특정 기업이 아니라 해당 규정의 적용을 받는 AI 시스템 전반을 대상으로 하기 때문이다. EU 집행위원회도 AI 생성 콘텐츠의 표시와 식별을 위한 실천강령을 마련하고 있다. 따라서 앞으로 주요 AI 기업들이 비슷한 기술을 도입할 경우 AI가 만든 콘텐츠에는 생성 과정에서부터 디지털 흔적이 남는 것이 새로운 표준이 될 수 있다. 관건은 그 흔적을 어떻게 사용할 것인가다. 학교가 워터마크를 이유로 과제를 일괄적으로 부정행위로 판단하거나 기업이 채용 과정에서 AI 사용 여부만으로 지원자를 평가한다면 기술의 본래 취지와 다른 문제가 발생할 수 있다. AI 워터마크 논쟁의 본질은 결국 ‘AI를 표시할 것인가’가 아니다. AI가 어디까지 개입했을 때 그것을 AI 콘텐츠라고 부를 것인가에 있다. AI가 인간의 작업을 대체하는 단계를 넘어 인간과 함께 결과물을 만드는 도구로 자리 잡은 상황에서 ‘AI 사용’과 ‘AI 작성’을 같은 의미로 취급해서는 안 된다는 지적도 나온다. 한편 투명성을 높이겠다는 취지는 분명하다. 하지만 식별 기술이 사회적 기준보다 앞서가면 투명성을 위한 표시가 또 다른 낙인이 될 수도 있다. 앞으로 AI 워터마크가 신뢰를 높이는 ‘디지털 출처 표시’로 자리 잡을지, 아니면 AI를 사용하는 사람을 구분하는 새로운 꼬리표가 될지는 기술보다 이를 해석하고 활용하는 사회의 기준에 달려 있다.2026-08-17 13:54:56
-
![[류청빛의 요즘IT] 맛집 리뷰도 쇼핑 후기도 AI가 쓴다…플랫폼 진짜 사용자 찾기 전쟁](https://image.ajunews.com//content/image/2026/05/29/20260529164919106499.jpg)
맛집 리뷰도 쇼핑 후기도 AI가 쓴다…플랫폼 '진짜 사용자' 찾기 전쟁 [경제일보] 생성형 인공지능(AI) 확산으로 온라인 플랫폼들이 새로운 골칫거리를 안게 됐다. 쇼핑 후기와 맛집 리뷰, 블로그 글, 커뮤니티 댓글까지 AI가 자동 생성한 콘텐츠가 빠르게 늘어나면서 플랫폼 신뢰도가 흔들릴 수 있다는 우려가 커지고 있다. 특히 생성형 AI가 실제 사람과 유사한 문체와 감정 표현까지 구현하면서 기존 매크로 홍보글보다 탐지가 어려워지고 있어 플랫폼 업계 전반에 비상이 걸린 분위기다. 30일 업계에 따르면 최근 온라인 쇼핑몰과 배달앱, 숙박 플랫폼, 포털 커뮤니티 등에서는 생성형 AI를 활용한 후기·댓글 작성 사례가 급증하고 있는 것으로 알려졌다. 단순 반복 문장이 많았던 기존 광고성 리뷰와 달리 생성형 AI는 자연스러운 말투와 구체적인 상황 묘사까지 가능해 실제 이용자 경험과 구분하기 어려운 수준까지 발전하고 있는 것으로 알려졌다. 특히 AI는 짧은 시간 안에 대량의 콘텐츠를 생성할 수 있다는 점에서 플랫폼 운영 부담을 키우고 있다. 기존에는 사람이 직접 작성해야 했던 후기나 댓글을 AI가 자동 생성하면서 특정 상품이나 식당, 서비스에 대한 여론을 인위적으로 형성하는 사례가 늘어날 가능성이 커졌기 때문이다. 후기와 리뷰 기반 플랫폼일수록 영향은 더욱 크다. 온라인 쇼핑몰과 배달앱, 숙박 플랫폼은 이용자 후기와 평점이 구매 결정에 직접적인 영향을 미치는 구조다. 실제 이용 경험이 아닌 AI 생성 콘텐츠가 대량 유입될 경우 플랫폼 전체 신뢰도가 흔들릴 수 있다는 우려가 나오고 있다. 블로그와 커뮤니티 중심 플랫폼 역시 상황은 비슷하다. 검색 최적화(SEO)를 노린 AI 생성 글이 빠르게 늘어나면서 실제 경험 기반 정보와 광고성 콘텐츠를 구분하기 어려워지고 있다는 지적이다. 특히 맛집과 여행, 육아, IT 제품 리뷰 등 정보 탐색 수요가 높은 분야를 중심으로 AI 활용 사례가 확대되고 있는 것으로 알려졌다. 플랫폼 기업들은 대응 체계 마련에 나서고 있다. 단순 키워드 반복이나 문장 패턴 탐지 수준을 넘어 작성 이력과 활동 패턴, 계정 신뢰도 등을 종합적으로 분석하는 방식으로 AI 생성 콘텐츠 탐지 기술을 고도화하고 있는 것이다. 단순히 글 내용만 보는 것이 아니라 실제 이용자가 얼마나 정상적인 활동 패턴을 보였는지, 지속적으로 콘텐츠를 생산해왔는지 등을 종합적으로 판단 기준에 반영하고 있다. AI 검색 환경에서 창작자 신뢰도와 활동 패턴을 중요하게 보고 있는 것이다. 생성형 AI 확산은 플랫폼 산업의 핵심 가치였던 '사용자 경험 기반 정보'의 의미까지 흔들고 있다. 플랫폼들이 AI 생성 콘텐츠 범람 속에서 얼마나 신뢰를 유지할 수 있을지가 향후 경쟁력을 좌우할 핵심 요소로 떠오르고 있다. 김상범 네이버 검색 플랫폼 부문장은 "글 단위로 보는 것이 아니라 실제로 이 글을 쓴 사람이 네이버에서 얼마나 정상적인 패턴으로 활동을 했는가, 정상적인 패턴으로 글을 썼는가가 그 글을 선택하는 기준 중 하나가 되고 있다"며 네이버의 플랫폼 관리 전략에 대해 설명했다.2026-05-30 08:00:00
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 사상 최악의 기후재난, 네팔 대홍수가 묻는 것](https://image.ajunews.com/content/image/2026/08/31/20260831101315475035_518_323.jpg)