검색결과 총 9건
-
-
-
"내 글에 낙인 찍나"…AI 워터마크, '투명성'인가 '감시'인가
[경제일보] “내가 직접 쓴 글인데 인공지능(AI)이 일부 손봤다는 이유만으로 AI 글로 분류되는 것 아닌가.” 생성형 AI를 업무와 학업에 활용하는 이용자들 사이에서 이런 우려가 커지고 있다. 글로벌 AI 기업 앤트로픽(Anthropic)이 자사의 AI 서비스 ‘클로드(Claude)’가 생성한 텍스트에 사람이 눈으로 확인하기 어려운 식별 패턴을 넣기 시작하면서다. 단순한 기능 업데이트로만 보기 어려운 이유는 이 기술이 앞으로 AI 콘텐츠의 ‘신분증’ 역할을 할 가능성이 있기 때문이다. 지금까지 AI 생성 여부는 별도의 탐지 프로그램을 통해 추정하는 방식이 중심이었다. 앞으로는 AI가 콘텐츠를 만들어내는 순간부터 식별 정보가 함께 따라붙는 구조로 바뀔 수 있다. 앤트로픽은 지난 2일부터 새로 출시되는 클로드 모델의 텍스트에 보이지 않는 워터마크를 적용하고 있다. 기존 모델에도 순차적으로 적용할 계획이며, 유럽연합(EU)뿐 아니라 전 세계 서비스에 적용한다. API(응용프로그램 인터페이스), 클로드 코드 등 개발자용 서비스에도 같은 원칙이 적용된다. ◆ 왜 갑자기 AI 글에 ‘도장’을 찍나 출발점은 유럽연합의 ‘AI법(EU AI Act·유럽연합 인공지능법)’이다. EU AI법 제50조는 AI로 생성된 콘텐츠가 사람이나 다른 콘텐츠인 것처럼 오인되지 않도록 AI 생성·변조 콘텐츠를 기계가 식별할 수 있는 방식으로 표시하도록 하는 투명성 의무를 담고 있다. 이 규정은 지난 2일부터 적용되기 시작했다. AI가 만든 콘텐츠가 허위정보나 사칭 등에 악용되는 것을 막고 정보의 출처를 보다 명확하게 하려는 취지다. 다만 EU가 특정한 하나의 ‘워터마크’ 기술을 의무화한 것은 아니다. 워터마크나 메타데이터, 콘텐츠 출처 인증 등 기술적으로 가능한 방법을 활용해 AI 생성 여부를 식별할 수 있도록 하는 것이 핵심이다. 앤트로픽은 이 가운데 텍스트 자체에 보이지 않는 통계적 패턴을 심는 방식을 선택했다. 앤트로픽이 이를 전 세계에 적용한 것은 유럽과 비유럽 지역의 서비스를 별도로 운영하기보다 하나의 모델과 시스템으로 대응하기 위한 것으로 풀이된다. ◆ 사람 눈에는 안 보이는데 어떻게 찾나 앤트로픽이 사용하는 방식은 글에 ‘AI 작성’이라는 문구를 붙이는 기존의 표시와 다르다. AI가 문장을 생성할 때 특정 단어나 토큰(인공지능이 문장을 생성할 때 사용하는 최소 단위)의 선택 확률을 미세하게 조정해 통계적인 패턴을 만들어내는 방식이다. 사람 눈에는 일반적인 문장과 차이가 없지만 별도의 탐지 기술을 이용하면 해당 패턴을 찾아낼 수 있다. 구글 딥마인드가 개발한 ‘SynthID Text(AI가 생성한 텍스트를 식별하는 기술)’와 같은 방식이 대표적이다. AI가 다음 단어를 선택하는 과정에 일정한 패턴을 남겨 생성 여부를 판별하는 방식이다. 다만 이 기술을 ‘완벽한 AI 탐지기’로 봐서는 안 된다. 워터마크가 발견됐다고 해서 글 전체를 AI가 작성했다는 뜻은 아니며, 반대로 워터마크가 발견되지 않았다고 해서 사람이 100% 작성했다는 의미도 아니다. 앤트로픽 역시 기술의 한계를 인정하고 있다. ◆ “내가 쓴 글인데 왜 AI 글인가” 이용자들의 반발은 바로 이 지점에서 나온다. AI에게 글 전체를 작성하도록 한 것이 아니라 직접 쓴 글의 오탈자를 수정하거나 문장을 다듬고, 번역하거나 일부 표현을 고치는 데 AI를 활용하는 경우가 대표적이다. 미국 커뮤니티 사이트 ‘레딧(Reddit)’ 등에서는 앤트로픽의 발표 이후 “AI를 사용했다는 사실과 AI가 글의 저자라는 것은 다른 문제”라는 의견이 이어졌다. 일부 유료 이용자는 구독 취소를 거론했고, 실제로 다른 AI 서비스로 옮기겠다는 이용자도 나타났다. 반면 AI 사용 사실을 투명하게 밝히는 것은 오히려 필요한 조치라는 반론도 나온다. 특히 논란이 되는 것은 학교와 직장이다. 대학이 과제물의 AI 사용을 금지하거나 기업이 업무 결과물의 AI 사용 여부를 관리할 경우 워터마크가 새로운 판단 기준으로 활용될 수 있기 때문이다. 앤트로픽은 이에 대해 워터마크가 ‘저자’를 증명하는 기술이 아니라고 설명한다. 사람이 작성한 글을 일부만 가볍게 수정하거나 AI가 작성한 글을 사람이 크게 다시 작성하는 경우에는 식별 성능이 떨어질 수 있다는 것이다. ◆ “AI 표시”와 “AI 낙인” 사이 문제는 AI 활용 방식이 이미 ‘AI가 쓴 글’과 ‘사람이 쓴 글’로 깔끔하게 나뉘지 않는다는 데 있다. 사람이 아이디어를 내고 AI에게 초안을 만들게 한 뒤 다시 사람이 고칠 수도 있고, 사람이 작성한 글을 AI가 교정할 수도 있다. 번역과 요약, 자료 정리처럼 인간의 작업을 보조하는 용도로 AI를 사용하는 경우도 많다. 그런데 워터마크 하나만으로 이 과정을 모두 ‘AI 콘텐츠’로 묶어버리면 실제 창작 과정과 다른 판단이 내려질 가능성이 있다. AI 사용 여부와 부정행위 여부, 저작권 침해 여부는 서로 다른 문제이기 때문이다. 워터마크의 실효성도 논쟁거리다. 가벼운 편집이나 복사·붙여넣기에도 일부 흔적이 남도록 설계됐지만, 대규모 재작성이나 번역 등을 거치면 식별 성능이 떨어질 수 있다. 이미 해외 개발자 커뮤니티에서는 워터마크를 우회하거나 탐지를 어렵게 만드는 방법에 대한 논의도 나타나고 있다. 연구자들 역시 텍스트 워터마크의 견고성과 탐지 정확도에 한계가 있을 수 있다고 지적한다. 결국 ‘워터마크를 심는 AI’와 ‘워터마크를 지우는 기술’의 경쟁으로 이어질 가능성도 배제할 수 없다. ◆ 클로드에서 끝나지 않을 가능성 앤트로픽의 결정은 특정 서비스의 기능 변경에 그치지 않을 가능성이 높다. EU AI법의 투명성 의무는 특정 기업이 아니라 해당 규정의 적용을 받는 AI 시스템 전반을 대상으로 하기 때문이다. EU 집행위원회도 AI 생성 콘텐츠의 표시와 식별을 위한 실천강령을 마련하고 있다. 따라서 앞으로 주요 AI 기업들이 비슷한 기술을 도입할 경우 AI가 만든 콘텐츠에는 생성 과정에서부터 디지털 흔적이 남는 것이 새로운 표준이 될 수 있다. 관건은 그 흔적을 어떻게 사용할 것인가다. 학교가 워터마크를 이유로 과제를 일괄적으로 부정행위로 판단하거나 기업이 채용 과정에서 AI 사용 여부만으로 지원자를 평가한다면 기술의 본래 취지와 다른 문제가 발생할 수 있다. AI 워터마크 논쟁의 본질은 결국 ‘AI를 표시할 것인가’가 아니다. AI가 어디까지 개입했을 때 그것을 AI 콘텐츠라고 부를 것인가에 있다. AI가 인간의 작업을 대체하는 단계를 넘어 인간과 함께 결과물을 만드는 도구로 자리 잡은 상황에서 ‘AI 사용’과 ‘AI 작성’을 같은 의미로 취급해서는 안 된다는 지적도 나온다. 한편 투명성을 높이겠다는 취지는 분명하다. 하지만 식별 기술이 사회적 기준보다 앞서가면 투명성을 위한 표시가 또 다른 낙인이 될 수도 있다. 앞으로 AI 워터마크가 신뢰를 높이는 ‘디지털 출처 표시’로 자리 잡을지, 아니면 AI를 사용하는 사람을 구분하는 새로운 꼬리표가 될지는 기술보다 이를 해석하고 활용하는 사회의 기준에 달려 있다.
2026-08-17 13:54:56
-
알리바바 'Wan3.0' 베타 공개…AI 영상 생성, 짧은 클립 넘어 제작 도구로
[경제일보] 알리바바가 생성형 인공지능(AI) 영상 생성 모델의 한계를 길이와 입력 방식 측면에서 동시에 넓히고 있다. 최대 30초 영상 생성에 텍스트뿐 아니라 이미지·영상·오디오, 웹페이지와 문서까지 참조할 수 있도록 기능을 확장하면서 단순한 영상 제작 도구를 넘어 콘텐츠 제작 전반을 자동화하는 방향으로 기술 고도화에 나섰다. 11일 알리바바는 영상 생성 모델 'Wan3.0' 베타 버전을 공개하고 공개 베타 테스트를 시작했다고 밝혔다. 사용자는 알리바바 클라우드의 AI 개발 플랫폼 '모델스튜디오'와 AI 네이티브 클라우드 플랫폼 'Qwen 클라우드'를 통해 테스트를 신청할 수 있다. Wan3.0의 가장 큰 변화는 생성할 수 있는 영상의 길이다. 기존 AI 영상 생성 모델이 수초에서 최대 15초 안팎의 짧은 영상을 만드는 데 초점을 맞췄다면 Wan3.0은 클립 하나를 최대 30초까지 생성할 수 있도록 했다. 알리바바의 이전 모델인 Wan2.7-Video가 지원했던 최대 15초와 비교하면 생성 가능한 영상 길이가 두 배로 늘었다. 영상 길이가 길어지면서 AI 영상 제작의 활용 범위도 넓어질 것으로 전망된다. 짧은 장면 하나를 만드는 데 그치지 않고 인물의 움직임이나 카메라 이동이 이어지는 장면을 하나의 클립으로 구성할 수 있기 때문이다. 알리바바는 사용자가 입력한 프롬프트를 분석해 적절한 영상 길이를 추천하는 기능과 기존 영상의 시간적 흐름을 이어 영상을 확장하는 기능도 Wan3.0에 적용했다. 단순히 영상 생성 시간을 늘리는 것만으로는 실제 콘텐츠 제작에 활용하기 어렵다는 점에서 입력 방식도 확대했다. Wan3.0은 텍스트와 이미지뿐 아니라 영상과 오디오를 함께 참조할 수 있으며 웹페이지, PDF, 파워포인트 프레젠테이션 등 문서 자료도 영상 제작을 위한 입력 자료로 활용할 수 있다. 예를 들어 기업이 제품 소개 자료나 프레젠테이션을 보유하고 있다면 이를 기반으로 마케팅 영상을 만들 수 있고, 교육 기관은 문서 형태의 교육 자료를 영상 콘텐츠로 전환할 수 있다. 영상 제작자가 기존 촬영본이나 이미지, 음성 자료를 제공해 새로운 장면을 구성하는 방식도 가능하다. AI 영상 생성 시장의 경쟁이 단순히 '얼마나 그럴듯한 영상을 만드는가'에서 '사용자가 가진 자료를 얼마나 정확하게 영상으로 전환할 수 있는가'로 이동하고 있다는 점도 주목된다. 영상 제작 과정에서는 새로운 이미지를 만들어내는 것보다 기존 캐릭터나 제품, 브랜드의 특징을 유지하면서 여러 장면을 연결하는 것이 중요한 경우가 많기 때문이다. Wan3.0은 이 같은 문제를 해결하기 위해 시각적 일관성 확보에도 초점을 맞췄다. AI 영상에서 반복적으로 지적돼온 인물의 얼굴이나 의상, 소품 등이 장면마다 달라지는 현상을 줄이고 참조 자료에 포함된 캐릭터와 제품의 세부적인 특징을 유지하도록 설계했다. 화면 구성과 음성의 일관성도 주요 기능으로 제시됐다. 알리바바는 인물의 표정과 움직임을 자연스럽게 표현하고 다국어 음성을 생성하는 동시에 소프트웨어 사용자 인터페이스(UI)와 모션 그래픽 등 상대적으로 구현하기 까다로운 요소도 안정적으로 생성할 수 있다고 설명했다. 알리바바가 영상 생성 모델을 지속적으로 고도화하는 것은 생성형 AI 경쟁의 무게중심이 텍스트와 이미지에서 영상으로 이동하고 있기 때문이다. 영상은 텍스트나 이미지보다 생성에 필요한 연산량이 많고 시간적 일관성까지 유지해야 하는 만큼 AI 모델의 기술 수준을 가늠하는 분야로 꼽힌다. 특히 글로벌 빅테크와 AI 기업들이 영상 생성 모델의 품질과 길이, 입력 방식 등을 경쟁적으로 개선하면서 영상 생성 AI의 활용 범위도 점차 전문 콘텐츠 제작 영역으로 확대되고 있다. 짧은 영상을 단순히 만들어주는 수준을 넘어 기존 콘텐츠를 분석하고 새로운 영상으로 재구성하는 제작 도구로 발전하고 있는 것이다. 알리바바 역시 Wan 시리즈를 통해 이 시장을 공략하고 있다. Wan 시리즈는 2023년 7월 처음 공개된 이후 이미지와 영상 생성 기능을 지속적으로 고도화해왔다. Wan3.0에서는 영상 길이를 늘리는 동시에 멀티모달 참조 입력과 시각적 일관성 강화에 집중하면서 실제 제작 환경에서의 활용성을 높이는 데 초점을 맞췄다. AI 영상 생성 시장에서도 앞으로는 생성 품질뿐 아니라 기존 제작 과정에 얼마나 자연스럽게 편입될 수 있는지가 경쟁력을 좌우할 전망이다. 알리바바가 Wan3.0을 통해 영상 생성 시간을 늘리고 참조 입력 범위를 확대한 것도 이 같은 제작 환경의 변화를 겨냥한 것으로 풀이된다. 알리바바 관계자는 "'Wan3.0'은 영화 제작자의 제작 과정 효율화, 숏폼 드라마와 소셜 미디어 콘텐츠 제작, 기업의 텍스트·이미지 기반 마케팅 및 교육 영상 제작을 지원하는 등 다양한 산업 영역에서 활용될 수 있도록 설계됐다"며 "또한 자율주행차와 로보틱스 시스템 학습에 필요한 사실적인 시뮬레이션 영상을 생성할 수 있어 기술 개발자에게도 유용한 도구로 활용될 수 있다"고 말했다.
2026-08-11 11:25:24
-
"실제 사람 아닙니다"…AI 얼굴이 바꾸는 인터넷의 모습
[경제일보] 유튜브, SNS 광고, 쇼핑몰, 게임 영상, 뉴스 기사, SNS 프로필 사진 등 인터넷에서 우리는 하루에도 수십개의 얼굴과 마주한다. 다만 그 얼굴이 모두 실제 사람이라고 장담하기는 어렵다. 생성형 인공지능(AI)의 발전으로 AI가 만든 얼굴이 인터넷 곳곳을 빠르게 점령하고 있기 때문이다. 과거 AI가 만든 인물 이미지는 어색했다. 손가락 개수가 맞지 않거나 피부 표현이 부자연스러웠고, 어딘가 기계적인 느낌을 지울 수 없었다. 하지만 생성형 AI 기술이 발전하면서 이제는 전문가들도 실제 사람과 구분하기 어려운 수준에 도달했다는 평가가 나온다. AI가 만든 얼굴이 더 이상 미래의 이야기가 아닌 현재 진행형이 된 것이다. 25일 시장조사업체 더 비즈니스 리서치 컴퍼니에 따르면 글로벌 가상 인플루언서 시장 규모는 지난해 112억 달러(약 15조원)에서 오는 2030년 626억 달러(약 86조원)까지 성장할 전망이다. 연평균 성장률만 40%를 웃돌며 AI 얼굴이 이미 하나의 거대한 시장으로 성장하고 있다. 사람이 아닌 AI가 만든 얼굴이 하나의 산업으로 자리 잡고 있는 것이다. 인터넷에서 AI 얼굴을 마주하는 것은 생각보다 어렵지 않다. 쇼핑몰에 접속하면 AI 모델이 착용한 옷을 보게 되고, SNS에서는 AI 인플루언서가 광고를 진행한다. 유튜브에서는 AI가 만든 얼굴이 등장하는 썸네일이 넘쳐난다. 게임 속 캐릭터 역시 AI 기술을 활용해 더욱 사실적으로 구현되고 있다. AI가 만든 얼굴은 이미 우리의 일상 깊숙이 들어왔다. 특히 패션과 뷰티 업계의 변화가 두드러진다. AI 모델은 실제 모델을 섭외하거나 촬영할 필요가 없다. 국가별로 다른 얼굴을 제작할 수 있고, 원하는 연령과 스타일을 자유롭게 구현할 수도 있다. 새로운 제품이 출시되면 즉시 이미지를 제작할 수 있다는 점도 강점이다. 비용과 시간을 동시에 줄일 수 있어 기업들의 도입이 빠르게 확대되고 있다. 유튜브와 숏폼 콘텐츠 시장도 마찬가지다. 클릭률을 높이기 위한 AI 썸네일 활용 사례가 늘어나고 있으며, AI가 생성한 뉴스 콘텐츠와 영상도 빠르게 증가하고 있다. 생성형 AI 기술이 고도화되면서 실제 촬영한 영상과 AI가 만든 영상의 경계도 점점 희미해지고 있다. 해당 변화는 글로벌 빅테크들의 정책 변화에서도 확인된다. 유튜브는 최근 AI 콘텐츠를 활용한 저품질 콘텐츠, 이른바 'AI 슬롭'에 대한 규제를 강화하고 있으며 틱톡과 메타 역시 AI 생성 콘텐츠 표시 정책을 도입하고 있다. AI 콘텐츠가 그만큼 빠르게 증가하고 있다는 의미다. 플랫폼 기업들이 이용자의 혼란을 줄이기 위해 AI 콘텐츠를 구분하기 시작한 것이다. AI 얼굴의 가장 큰 특징은 더 이상 구분하기 어렵다는 점이다. 과거에는 AI 이미지 특유의 부자연스러움이 존재했다면 최근에는 GPT 이미지 생성 기능과 미드저니, 플럭스, 클링 등 생성형 AI 모델의 발전으로 실제 사람과 구분이 어려울 정도의 결과물을 만들어내고 있다. AI가 만든 광고 모델과 실제 사람이 등장한 광고를 일반 이용자가 구분하기 어려운 사례도 적지 않다. AI 얼굴의 확산은 단순히 기술의 발전을 넘어 인터넷 속 '사람'의 의미를 바꾸고 있다. 인터넷에서 사람을 본다는 행위 자체가 달라지고 있는 것이다. 이제 우리는 실제 사람과 AI가 만든 얼굴을 구분하지 못한 채 콘텐츠를 소비하고 있을지도 모른다. AI가 사람을 닮아가는 시대는 이미 지난 것으로 분석된다. 이제는 사람이 AI를 사람이라고 받아들이기 시작한 시대로, 인터넷 속 얼굴은 더 이상 사람만의 영역이 아니게 됐다.
2026-07-25 08:00:00
-
-
-
맛집 리뷰도 쇼핑 후기도 AI가 쓴다…플랫폼 '진짜 사용자' 찾기 전쟁
[경제일보] 생성형 인공지능(AI) 확산으로 온라인 플랫폼들이 새로운 골칫거리를 안게 됐다. 쇼핑 후기와 맛집 리뷰, 블로그 글, 커뮤니티 댓글까지 AI가 자동 생성한 콘텐츠가 빠르게 늘어나면서 플랫폼 신뢰도가 흔들릴 수 있다는 우려가 커지고 있다. 특히 생성형 AI가 실제 사람과 유사한 문체와 감정 표현까지 구현하면서 기존 매크로 홍보글보다 탐지가 어려워지고 있어 플랫폼 업계 전반에 비상이 걸린 분위기다. 30일 업계에 따르면 최근 온라인 쇼핑몰과 배달앱, 숙박 플랫폼, 포털 커뮤니티 등에서는 생성형 AI를 활용한 후기·댓글 작성 사례가 급증하고 있는 것으로 알려졌다. 단순 반복 문장이 많았던 기존 광고성 리뷰와 달리 생성형 AI는 자연스러운 말투와 구체적인 상황 묘사까지 가능해 실제 이용자 경험과 구분하기 어려운 수준까지 발전하고 있는 것으로 알려졌다. 특히 AI는 짧은 시간 안에 대량의 콘텐츠를 생성할 수 있다는 점에서 플랫폼 운영 부담을 키우고 있다. 기존에는 사람이 직접 작성해야 했던 후기나 댓글을 AI가 자동 생성하면서 특정 상품이나 식당, 서비스에 대한 여론을 인위적으로 형성하는 사례가 늘어날 가능성이 커졌기 때문이다. 후기와 리뷰 기반 플랫폼일수록 영향은 더욱 크다. 온라인 쇼핑몰과 배달앱, 숙박 플랫폼은 이용자 후기와 평점이 구매 결정에 직접적인 영향을 미치는 구조다. 실제 이용 경험이 아닌 AI 생성 콘텐츠가 대량 유입될 경우 플랫폼 전체 신뢰도가 흔들릴 수 있다는 우려가 나오고 있다. 블로그와 커뮤니티 중심 플랫폼 역시 상황은 비슷하다. 검색 최적화(SEO)를 노린 AI 생성 글이 빠르게 늘어나면서 실제 경험 기반 정보와 광고성 콘텐츠를 구분하기 어려워지고 있다는 지적이다. 특히 맛집과 여행, 육아, IT 제품 리뷰 등 정보 탐색 수요가 높은 분야를 중심으로 AI 활용 사례가 확대되고 있는 것으로 알려졌다. 플랫폼 기업들은 대응 체계 마련에 나서고 있다. 단순 키워드 반복이나 문장 패턴 탐지 수준을 넘어 작성 이력과 활동 패턴, 계정 신뢰도 등을 종합적으로 분석하는 방식으로 AI 생성 콘텐츠 탐지 기술을 고도화하고 있는 것이다. 단순히 글 내용만 보는 것이 아니라 실제 이용자가 얼마나 정상적인 활동 패턴을 보였는지, 지속적으로 콘텐츠를 생산해왔는지 등을 종합적으로 판단 기준에 반영하고 있다. AI 검색 환경에서 창작자 신뢰도와 활동 패턴을 중요하게 보고 있는 것이다. 생성형 AI 확산은 플랫폼 산업의 핵심 가치였던 '사용자 경험 기반 정보'의 의미까지 흔들고 있다. 플랫폼들이 AI 생성 콘텐츠 범람 속에서 얼마나 신뢰를 유지할 수 있을지가 향후 경쟁력을 좌우할 핵심 요소로 떠오르고 있다. 김상범 네이버 검색 플랫폼 부문장은 "글 단위로 보는 것이 아니라 실제로 이 글을 쓴 사람이 네이버에서 얼마나 정상적인 패턴으로 활동을 했는가, 정상적인 패턴으로 글을 썼는가가 그 글을 선택하는 기준 중 하나가 되고 있다"며 네이버의 플랫폼 관리 전략에 대해 설명했다.
2026-05-30 08:00:00
-