검색결과 총 5건
-
"내 글에 낙인 찍나"…AI 워터마크, '투명성'인가 '감시'인가
[경제일보] “내가 직접 쓴 글인데 인공지능(AI)이 일부 손봤다는 이유만으로 AI 글로 분류되는 것 아닌가.” 생성형 AI를 업무와 학업에 활용하는 이용자들 사이에서 이런 우려가 커지고 있다. 글로벌 AI 기업 앤트로픽(Anthropic)이 자사의 AI 서비스 ‘클로드(Claude)’가 생성한 텍스트에 사람이 눈으로 확인하기 어려운 식별 패턴을 넣기 시작하면서다. 단순한 기능 업데이트로만 보기 어려운 이유는 이 기술이 앞으로 AI 콘텐츠의 ‘신분증’ 역할을 할 가능성이 있기 때문이다. 지금까지 AI 생성 여부는 별도의 탐지 프로그램을 통해 추정하는 방식이 중심이었다. 앞으로는 AI가 콘텐츠를 만들어내는 순간부터 식별 정보가 함께 따라붙는 구조로 바뀔 수 있다. 앤트로픽은 지난 2일부터 새로 출시되는 클로드 모델의 텍스트에 보이지 않는 워터마크를 적용하고 있다. 기존 모델에도 순차적으로 적용할 계획이며, 유럽연합(EU)뿐 아니라 전 세계 서비스에 적용한다. API(응용프로그램 인터페이스), 클로드 코드 등 개발자용 서비스에도 같은 원칙이 적용된다. ◆ 왜 갑자기 AI 글에 ‘도장’을 찍나 출발점은 유럽연합의 ‘AI법(EU AI Act·유럽연합 인공지능법)’이다. EU AI법 제50조는 AI로 생성된 콘텐츠가 사람이나 다른 콘텐츠인 것처럼 오인되지 않도록 AI 생성·변조 콘텐츠를 기계가 식별할 수 있는 방식으로 표시하도록 하는 투명성 의무를 담고 있다. 이 규정은 지난 2일부터 적용되기 시작했다. AI가 만든 콘텐츠가 허위정보나 사칭 등에 악용되는 것을 막고 정보의 출처를 보다 명확하게 하려는 취지다. 다만 EU가 특정한 하나의 ‘워터마크’ 기술을 의무화한 것은 아니다. 워터마크나 메타데이터, 콘텐츠 출처 인증 등 기술적으로 가능한 방법을 활용해 AI 생성 여부를 식별할 수 있도록 하는 것이 핵심이다. 앤트로픽은 이 가운데 텍스트 자체에 보이지 않는 통계적 패턴을 심는 방식을 선택했다. 앤트로픽이 이를 전 세계에 적용한 것은 유럽과 비유럽 지역의 서비스를 별도로 운영하기보다 하나의 모델과 시스템으로 대응하기 위한 것으로 풀이된다. ◆ 사람 눈에는 안 보이는데 어떻게 찾나 앤트로픽이 사용하는 방식은 글에 ‘AI 작성’이라는 문구를 붙이는 기존의 표시와 다르다. AI가 문장을 생성할 때 특정 단어나 토큰(인공지능이 문장을 생성할 때 사용하는 최소 단위)의 선택 확률을 미세하게 조정해 통계적인 패턴을 만들어내는 방식이다. 사람 눈에는 일반적인 문장과 차이가 없지만 별도의 탐지 기술을 이용하면 해당 패턴을 찾아낼 수 있다. 구글 딥마인드가 개발한 ‘SynthID Text(AI가 생성한 텍스트를 식별하는 기술)’와 같은 방식이 대표적이다. AI가 다음 단어를 선택하는 과정에 일정한 패턴을 남겨 생성 여부를 판별하는 방식이다. 다만 이 기술을 ‘완벽한 AI 탐지기’로 봐서는 안 된다. 워터마크가 발견됐다고 해서 글 전체를 AI가 작성했다는 뜻은 아니며, 반대로 워터마크가 발견되지 않았다고 해서 사람이 100% 작성했다는 의미도 아니다. 앤트로픽 역시 기술의 한계를 인정하고 있다. ◆ “내가 쓴 글인데 왜 AI 글인가” 이용자들의 반발은 바로 이 지점에서 나온다. AI에게 글 전체를 작성하도록 한 것이 아니라 직접 쓴 글의 오탈자를 수정하거나 문장을 다듬고, 번역하거나 일부 표현을 고치는 데 AI를 활용하는 경우가 대표적이다. 미국 커뮤니티 사이트 ‘레딧(Reddit)’ 등에서는 앤트로픽의 발표 이후 “AI를 사용했다는 사실과 AI가 글의 저자라는 것은 다른 문제”라는 의견이 이어졌다. 일부 유료 이용자는 구독 취소를 거론했고, 실제로 다른 AI 서비스로 옮기겠다는 이용자도 나타났다. 반면 AI 사용 사실을 투명하게 밝히는 것은 오히려 필요한 조치라는 반론도 나온다. 특히 논란이 되는 것은 학교와 직장이다. 대학이 과제물의 AI 사용을 금지하거나 기업이 업무 결과물의 AI 사용 여부를 관리할 경우 워터마크가 새로운 판단 기준으로 활용될 수 있기 때문이다. 앤트로픽은 이에 대해 워터마크가 ‘저자’를 증명하는 기술이 아니라고 설명한다. 사람이 작성한 글을 일부만 가볍게 수정하거나 AI가 작성한 글을 사람이 크게 다시 작성하는 경우에는 식별 성능이 떨어질 수 있다는 것이다. ◆ “AI 표시”와 “AI 낙인” 사이 문제는 AI 활용 방식이 이미 ‘AI가 쓴 글’과 ‘사람이 쓴 글’로 깔끔하게 나뉘지 않는다는 데 있다. 사람이 아이디어를 내고 AI에게 초안을 만들게 한 뒤 다시 사람이 고칠 수도 있고, 사람이 작성한 글을 AI가 교정할 수도 있다. 번역과 요약, 자료 정리처럼 인간의 작업을 보조하는 용도로 AI를 사용하는 경우도 많다. 그런데 워터마크 하나만으로 이 과정을 모두 ‘AI 콘텐츠’로 묶어버리면 실제 창작 과정과 다른 판단이 내려질 가능성이 있다. AI 사용 여부와 부정행위 여부, 저작권 침해 여부는 서로 다른 문제이기 때문이다. 워터마크의 실효성도 논쟁거리다. 가벼운 편집이나 복사·붙여넣기에도 일부 흔적이 남도록 설계됐지만, 대규모 재작성이나 번역 등을 거치면 식별 성능이 떨어질 수 있다. 이미 해외 개발자 커뮤니티에서는 워터마크를 우회하거나 탐지를 어렵게 만드는 방법에 대한 논의도 나타나고 있다. 연구자들 역시 텍스트 워터마크의 견고성과 탐지 정확도에 한계가 있을 수 있다고 지적한다. 결국 ‘워터마크를 심는 AI’와 ‘워터마크를 지우는 기술’의 경쟁으로 이어질 가능성도 배제할 수 없다. ◆ 클로드에서 끝나지 않을 가능성 앤트로픽의 결정은 특정 서비스의 기능 변경에 그치지 않을 가능성이 높다. EU AI법의 투명성 의무는 특정 기업이 아니라 해당 규정의 적용을 받는 AI 시스템 전반을 대상으로 하기 때문이다. EU 집행위원회도 AI 생성 콘텐츠의 표시와 식별을 위한 실천강령을 마련하고 있다. 따라서 앞으로 주요 AI 기업들이 비슷한 기술을 도입할 경우 AI가 만든 콘텐츠에는 생성 과정에서부터 디지털 흔적이 남는 것이 새로운 표준이 될 수 있다. 관건은 그 흔적을 어떻게 사용할 것인가다. 학교가 워터마크를 이유로 과제를 일괄적으로 부정행위로 판단하거나 기업이 채용 과정에서 AI 사용 여부만으로 지원자를 평가한다면 기술의 본래 취지와 다른 문제가 발생할 수 있다. AI 워터마크 논쟁의 본질은 결국 ‘AI를 표시할 것인가’가 아니다. AI가 어디까지 개입했을 때 그것을 AI 콘텐츠라고 부를 것인가에 있다. AI가 인간의 작업을 대체하는 단계를 넘어 인간과 함께 결과물을 만드는 도구로 자리 잡은 상황에서 ‘AI 사용’과 ‘AI 작성’을 같은 의미로 취급해서는 안 된다는 지적도 나온다. 한편 투명성을 높이겠다는 취지는 분명하다. 하지만 식별 기술이 사회적 기준보다 앞서가면 투명성을 위한 표시가 또 다른 낙인이 될 수도 있다. 앞으로 AI 워터마크가 신뢰를 높이는 ‘디지털 출처 표시’로 자리 잡을지, 아니면 AI를 사용하는 사람을 구분하는 새로운 꼬리표가 될지는 기술보다 이를 해석하고 활용하는 사회의 기준에 달려 있다.
2026-08-17 13:54:56
-
-
-
-
노후의 경제활동을 다시 설계해야 한다
많은 어르신들에게 ‘일’은 여전히 분명한 형태로 이해된다. 몸을 움직이고, 시간을 들이고, 누군가의 일을 대신해주고, 그 대가로 품삯을 받는 것. 이 노동관은 오랜 세월 한국 사회를 지탱해온 매우 현실적인 감각이다. 특히 어려운 시절을 통과해온 세대일수록 그 인식은 더 강하다. 그래서 유튜브, SNS, 창작 플랫폼, AI를 활용해 자신의 경험이나 취향, 지식을 수익으로 바꾼다는 발상은 어딘가 비현실적이거나 비효율적인 이야기처럼 들리기 쉽다. 하지만 시대는 이미 달라졌다. 이제 경제활동은 반드시 육체노동이나 전통적인 고용의 형태로만 이루어지지 않는다. 무엇을 알고 있는가, 무엇을 겪어왔는가, 어떤 시선으로 세상을 바라보는가도 충분히 가치가 될 수 있다. 평생 장사를 한 사람은 손님을 보는 눈을 전할 수 있고, 수십 년 동안 가정을 꾸려온 사람은 관계를 유지하는 현실적 지혜를 이야기할 수 있다. 한 직업에서 오래 버틴 사람은 초보자에게 교과서보다 훨씬 실질적인 조언을 줄 수 있다. 오래 살아낸 사람의 경험은 그 자체로 이미 콘텐츠이자 자산이다. 문제는 그 자산이 아직 노동으로 인식되지 않는다는 데 있다. 말해주기, 기록하기, 보여주기, 설명하기, 취향을 나누기, 판단 기준을 전달하기 같은 행위는 여전히 ‘진짜 일’ 바깥에 있는 것으로 여겨진다. 그러나 플랫폼 경제는 바로 그런 경험의 전환 위에서 움직인다. 누군가에게는 사소해 보이는 생활의 요령이, 다른 누군가에게는 가장 필요한 정보가 될 수 있다. 한 사람에게는 그저 지나온 세월일 뿐인 기억이, 또 다른 사람에게는 돈을 내고서라도 듣고 싶은 통찰이 될 수 있다. 여기서 AI와 디지털 플랫폼의 역할이 중요해진다. 과거에는 자신의 경험을 밖으로 꺼내려면 글을 잘 써야 했고, 영상을 만들려면 편집 기술이 필요했으며, 사람을 모으려면 별도의 조직과 비용이 들었다. 이제는 상황이 달라졌다. AI는 말로 풀어낸 생각을 글로 정리해주고, 짧은 영상의 대본과 구성까지 도와주며, 플랫폼은 개인이 작은 청중과 만날 수 있는 통로를 제공한다. 다시 말해, 예전보다 훨씬 적은 비용과 훨씬 낮은 진입장벽으로 자기 삶을 시장과 연결할 수 있게 됐다. 물론 모두가 곧바로 성공적인 창작자나 수익형 운영자가 되는 것은 아니다. 이 문제를 지나치게 낙관적으로만 보는 것도 경계해야 한다. 그러나 분명한 사실은 있다. 노후의 경제활동을 여전히 단기 알바와 일용직, 보조적 노동의 틀 안에서만 생각하는 것은 너무 좁은 접근이라는 점이다. 고령층에게 필요한 것은 단지 일자리를 나눠주는 것이 아니라, 자신이 가진 삶의 경쟁력을 새로운 시장 언어로 번역해주는 일이다. “내가 해온 일도 자산이 될 수 있다”는 인식의 전환이 먼저 일어나야 한다. 고령화 사회가 진짜로 준비해야 할 것은 여기서부터다. 어르신들에게 더 많은 일을 시킬 것인가가 아니라, 이미 가진 경험을 어떻게 사회와 시장 안에서 다시 작동하게 만들 것인가. 그것이 가능해질 때 노후는 단지 버티는 시간이 아니라 다시 발화하는 시간이 될 수 있다. 그리고 그 순간 AI와 플랫폼은 비로소 인간과 윈윈하는 기술이 된다. 이제 남은 질문은 더 구체적이다. 그렇다면 사회는 어떤 방식으로 어르신들의 경험을 디지털 자산으로 전환하도록 도와야 하는가. 교육은 어떻게 달라져야 하며, 플랫폼은 얼마나 더 쉬워져야 하고, 정책은 무엇을 바꿔야 하는가. 이 논의는 더 이상 선택이 아니다. 고령화와 AI가 동시에 진행되는 시대라면, 어르신의 경험을 낭비하지 않는 사회 설계가 곧 미래 경쟁력이 될 것이기 때문이다.
2026-04-26 17:00:00