검색결과 총 9건
-
-
"내 글에 낙인 찍나"…AI 워터마크, '투명성'인가 '감시'인가
[경제일보] “내가 직접 쓴 글인데 인공지능(AI)이 일부 손봤다는 이유만으로 AI 글로 분류되는 것 아닌가.” 생성형 AI를 업무와 학업에 활용하는 이용자들 사이에서 이런 우려가 커지고 있다. 글로벌 AI 기업 앤트로픽(Anthropic)이 자사의 AI 서비스 ‘클로드(Claude)’가 생성한 텍스트에 사람이 눈으로 확인하기 어려운 식별 패턴을 넣기 시작하면서다. 단순한 기능 업데이트로만 보기 어려운 이유는 이 기술이 앞으로 AI 콘텐츠의 ‘신분증’ 역할을 할 가능성이 있기 때문이다. 지금까지 AI 생성 여부는 별도의 탐지 프로그램을 통해 추정하는 방식이 중심이었다. 앞으로는 AI가 콘텐츠를 만들어내는 순간부터 식별 정보가 함께 따라붙는 구조로 바뀔 수 있다. 앤트로픽은 지난 2일부터 새로 출시되는 클로드 모델의 텍스트에 보이지 않는 워터마크를 적용하고 있다. 기존 모델에도 순차적으로 적용할 계획이며, 유럽연합(EU)뿐 아니라 전 세계 서비스에 적용한다. API(응용프로그램 인터페이스), 클로드 코드 등 개발자용 서비스에도 같은 원칙이 적용된다. ◆ 왜 갑자기 AI 글에 ‘도장’을 찍나 출발점은 유럽연합의 ‘AI법(EU AI Act·유럽연합 인공지능법)’이다. EU AI법 제50조는 AI로 생성된 콘텐츠가 사람이나 다른 콘텐츠인 것처럼 오인되지 않도록 AI 생성·변조 콘텐츠를 기계가 식별할 수 있는 방식으로 표시하도록 하는 투명성 의무를 담고 있다. 이 규정은 지난 2일부터 적용되기 시작했다. AI가 만든 콘텐츠가 허위정보나 사칭 등에 악용되는 것을 막고 정보의 출처를 보다 명확하게 하려는 취지다. 다만 EU가 특정한 하나의 ‘워터마크’ 기술을 의무화한 것은 아니다. 워터마크나 메타데이터, 콘텐츠 출처 인증 등 기술적으로 가능한 방법을 활용해 AI 생성 여부를 식별할 수 있도록 하는 것이 핵심이다. 앤트로픽은 이 가운데 텍스트 자체에 보이지 않는 통계적 패턴을 심는 방식을 선택했다. 앤트로픽이 이를 전 세계에 적용한 것은 유럽과 비유럽 지역의 서비스를 별도로 운영하기보다 하나의 모델과 시스템으로 대응하기 위한 것으로 풀이된다. ◆ 사람 눈에는 안 보이는데 어떻게 찾나 앤트로픽이 사용하는 방식은 글에 ‘AI 작성’이라는 문구를 붙이는 기존의 표시와 다르다. AI가 문장을 생성할 때 특정 단어나 토큰(인공지능이 문장을 생성할 때 사용하는 최소 단위)의 선택 확률을 미세하게 조정해 통계적인 패턴을 만들어내는 방식이다. 사람 눈에는 일반적인 문장과 차이가 없지만 별도의 탐지 기술을 이용하면 해당 패턴을 찾아낼 수 있다. 구글 딥마인드가 개발한 ‘SynthID Text(AI가 생성한 텍스트를 식별하는 기술)’와 같은 방식이 대표적이다. AI가 다음 단어를 선택하는 과정에 일정한 패턴을 남겨 생성 여부를 판별하는 방식이다. 다만 이 기술을 ‘완벽한 AI 탐지기’로 봐서는 안 된다. 워터마크가 발견됐다고 해서 글 전체를 AI가 작성했다는 뜻은 아니며, 반대로 워터마크가 발견되지 않았다고 해서 사람이 100% 작성했다는 의미도 아니다. 앤트로픽 역시 기술의 한계를 인정하고 있다. ◆ “내가 쓴 글인데 왜 AI 글인가” 이용자들의 반발은 바로 이 지점에서 나온다. AI에게 글 전체를 작성하도록 한 것이 아니라 직접 쓴 글의 오탈자를 수정하거나 문장을 다듬고, 번역하거나 일부 표현을 고치는 데 AI를 활용하는 경우가 대표적이다. 미국 커뮤니티 사이트 ‘레딧(Reddit)’ 등에서는 앤트로픽의 발표 이후 “AI를 사용했다는 사실과 AI가 글의 저자라는 것은 다른 문제”라는 의견이 이어졌다. 일부 유료 이용자는 구독 취소를 거론했고, 실제로 다른 AI 서비스로 옮기겠다는 이용자도 나타났다. 반면 AI 사용 사실을 투명하게 밝히는 것은 오히려 필요한 조치라는 반론도 나온다. 특히 논란이 되는 것은 학교와 직장이다. 대학이 과제물의 AI 사용을 금지하거나 기업이 업무 결과물의 AI 사용 여부를 관리할 경우 워터마크가 새로운 판단 기준으로 활용될 수 있기 때문이다. 앤트로픽은 이에 대해 워터마크가 ‘저자’를 증명하는 기술이 아니라고 설명한다. 사람이 작성한 글을 일부만 가볍게 수정하거나 AI가 작성한 글을 사람이 크게 다시 작성하는 경우에는 식별 성능이 떨어질 수 있다는 것이다. ◆ “AI 표시”와 “AI 낙인” 사이 문제는 AI 활용 방식이 이미 ‘AI가 쓴 글’과 ‘사람이 쓴 글’로 깔끔하게 나뉘지 않는다는 데 있다. 사람이 아이디어를 내고 AI에게 초안을 만들게 한 뒤 다시 사람이 고칠 수도 있고, 사람이 작성한 글을 AI가 교정할 수도 있다. 번역과 요약, 자료 정리처럼 인간의 작업을 보조하는 용도로 AI를 사용하는 경우도 많다. 그런데 워터마크 하나만으로 이 과정을 모두 ‘AI 콘텐츠’로 묶어버리면 실제 창작 과정과 다른 판단이 내려질 가능성이 있다. AI 사용 여부와 부정행위 여부, 저작권 침해 여부는 서로 다른 문제이기 때문이다. 워터마크의 실효성도 논쟁거리다. 가벼운 편집이나 복사·붙여넣기에도 일부 흔적이 남도록 설계됐지만, 대규모 재작성이나 번역 등을 거치면 식별 성능이 떨어질 수 있다. 이미 해외 개발자 커뮤니티에서는 워터마크를 우회하거나 탐지를 어렵게 만드는 방법에 대한 논의도 나타나고 있다. 연구자들 역시 텍스트 워터마크의 견고성과 탐지 정확도에 한계가 있을 수 있다고 지적한다. 결국 ‘워터마크를 심는 AI’와 ‘워터마크를 지우는 기술’의 경쟁으로 이어질 가능성도 배제할 수 없다. ◆ 클로드에서 끝나지 않을 가능성 앤트로픽의 결정은 특정 서비스의 기능 변경에 그치지 않을 가능성이 높다. EU AI법의 투명성 의무는 특정 기업이 아니라 해당 규정의 적용을 받는 AI 시스템 전반을 대상으로 하기 때문이다. EU 집행위원회도 AI 생성 콘텐츠의 표시와 식별을 위한 실천강령을 마련하고 있다. 따라서 앞으로 주요 AI 기업들이 비슷한 기술을 도입할 경우 AI가 만든 콘텐츠에는 생성 과정에서부터 디지털 흔적이 남는 것이 새로운 표준이 될 수 있다. 관건은 그 흔적을 어떻게 사용할 것인가다. 학교가 워터마크를 이유로 과제를 일괄적으로 부정행위로 판단하거나 기업이 채용 과정에서 AI 사용 여부만으로 지원자를 평가한다면 기술의 본래 취지와 다른 문제가 발생할 수 있다. AI 워터마크 논쟁의 본질은 결국 ‘AI를 표시할 것인가’가 아니다. AI가 어디까지 개입했을 때 그것을 AI 콘텐츠라고 부를 것인가에 있다. AI가 인간의 작업을 대체하는 단계를 넘어 인간과 함께 결과물을 만드는 도구로 자리 잡은 상황에서 ‘AI 사용’과 ‘AI 작성’을 같은 의미로 취급해서는 안 된다는 지적도 나온다. 한편 투명성을 높이겠다는 취지는 분명하다. 하지만 식별 기술이 사회적 기준보다 앞서가면 투명성을 위한 표시가 또 다른 낙인이 될 수도 있다. 앞으로 AI 워터마크가 신뢰를 높이는 ‘디지털 출처 표시’로 자리 잡을지, 아니면 AI를 사용하는 사람을 구분하는 새로운 꼬리표가 될지는 기술보다 이를 해석하고 활용하는 사회의 기준에 달려 있다.
2026-08-17 13:54:56
-
-
-
SKT, 앤트로픽 '글래스윙' 합류…AI 보안 역량 높인다
[경제일보] SK텔레콤이 미국 인공지능(AI) 기업 앤트로픽의 글로벌 AI 보안 협력체 ‘프로젝트 글래스윙’에 합류했다. 고성능 사이버보안 AI 모델을 활용해 통신망과 AI 인프라의 취약점을 선제적으로 찾고 대응 체계를 강화하겠다는 전략이다. SK텔레콤은 앤트로픽의 보안 특화 AI 모델 ‘클로드 미토스(Claude Mythos)’ 조기 접근 권한을 확보했다고 4일 밝혔다. 아시아 통신사 가운데 프로젝트 글래스윙 참여를 공식 발표한 것은 SK텔레콤이 처음이다. 프로젝트 글래스윙은 앤트로픽이 지난 4월 공개한 고성능 보안 AI 모델 미토스를 활용해 소프트웨어 취약점을 탐지하고 대응 체계를 구축하는 글로벌 협력 프로그램이다. 미토스는 대규모 코드와 시스템을 분석해 사람이 놓칠 수 있는 보안 결함을 찾아내는 데 특화된 모델이다. 앤트로픽은 미토스가 악용될 경우 경제와 공공안전, 국가안보에 심각한 위협이 될 수 있다고 보고 있다. 이에 따라 일반 공개 대신 검증된 기업과 기관에만 접근 권한을 제공하고 있다. 초기에는 미국과 영국 중심의 일부 기업·기관에 제한적으로 제공됐고, 최근 참여 대상이 15개국 이상 150개 신규 기관으로 확대됐다. 글래스윙에는 구글, 마이크로소프트, 아마존웹서비스(AWS), 애플, 엔비디아 등 글로벌 기술 기업들이 참여한 것으로 알려졌다. 통신사 중에서는 미국 버라이즌과 AT&T 등이 참여해온 것으로 전해진다. SK텔레콤은 이번 참여를 통해 기존 회원사들이 확보한 취약점 탐지 결과와 대응 정보를 공유받고, 이를 자사 통신·AI 인프라 보안 강화에 활용할 계획이다. 통신망은 국민 생활과 산업 전반에 연결된 핵심 인프라인 만큼, 보안 취약점 탐지와 사전 대응 체계가 중요하다. 이번 합류는 SK텔레콤의 AI 사업 전략과도 맞닿아 있다. SK텔레콤은 AI 데이터센터, AI 에이전트, 피지컬 AI 등 풀스택 AI 사업을 확대하고 있다. AI 서비스가 통신망과 클라우드, 데이터센터, 고객 데이터와 연결될수록 보안은 단순 지원 기능이 아니라 사업 신뢰도를 좌우하는 핵심 조건이 된다. 다만 고성능 보안 AI를 실제 운영에 적용하기 위해서는 취약점 탐지 결과를 내부 보안 체계와 어떻게 연결하느냐가 중요하다. AI가 발견한 결함을 검증하고 우선순위를 정해 패치하는 절차, 민감 정보 관리, 외부 협력사와의 정보 공유 기준도 함께 정교해져야 한다. SK텔레콤은 “위험 요소를 선제적으로 방어해 핵심 인프라와 서비스 보안을 강화하고, 수천만 국민의 일상을 함께하는 통신·AI 인프라 운영 기업으로서 대한민국 디지털 안보 강화에 기여하겠다”고 밝혔다.
2026-06-04 11:27:57
-
KISA, 앤트로픽 '미토스' 쓴다…AI로 사이버 취약점 찾는다
[경제일보] 한국인터넷진흥원(KISA)이 앤트로픽의 인공지능(AI) 사이버보안 협력체 ‘프로젝트 글래스윙’에 참여한다. 전문가 수준의 취약점 탐지 능력을 갖춘 AI 모델을 활용해 국내 사이버 위협 대응 역량을 높일 수 있을지 주목된다. 3일 과학기술정보통신부에 따르면 KISA는 앤트로픽의 프로젝트 글래스윙에 합류해 ‘클로드 미토스 프리뷰’ 접근 권한을 확보했다. KISA는 국내 사이버 침해사고 대응과 정보보호 정책 지원을 맡는 핵심 기관이다. 프로젝트 글래스윙은 앤트로픽이 고성능 사이버보안 AI 모델을 검증된 기관에 제한적으로 제공해 주요 소프트웨어와 시스템의 취약점을 선제적으로 찾아내도록 하는 협력 프로그램이다. 앤트로픽은 지난 4월 약 50개 기관을 대상으로 프로젝트를 시작했고, 이번에 15개국 이상 150개 신규 기관으로 대상을 확대했다. 전체 참여 규모는 약 200곳으로 늘어나는 구조다. 핵심 모델인 클로드 미토스 프리뷰는 대규모 코드베이스와 시스템에서 보안 취약점을 찾아내는 데 특화된 AI 모델이다. 코드 분석, 바이너리 테스트, 엔드포인트 보안 점검, 침투 테스트 등에 활용될 수 있다. 앤트로픽은 초기 파트너들이 미토스를 활용해 수 주 만에 ‘높음’ 또는 ‘치명적’ 등급의 보안 결함 1만건 이상을 발견했다고 밝혔다. 이번 확대에는 전력, 수도, 의료, 통신, 하드웨어 등 핵심 인프라 분야 기관과 기업도 포함됐다. 이들 분야는 공격을 받을 경우 특정 기업 피해를 넘어 국가 안보와 사회 기반 서비스에 영향을 줄 수 있다. AI가 보안 취약점을 더 빠르게 찾아내는 시대가 열리면서 방어 기술도 같은 속도로 고도화해야 한다는 판단이 반영된 것으로 풀이된다. 국내에서는 KISA 외에 삼성전자, SK하이닉스, SK텔레콤 등 주요 기업의 참여 가능성도 거론된다. 다만 일부 기업은 아직 공식 확인이 어렵거나 확정된 바 없다는 입장을 밝힌 것으로 알려졌다. 이에 따라 실제 국내 참여 기업 명단은 앤트로픽의 개별 통보와 기업별 절차가 마무리된 뒤 더 분명해질 전망이다. 이번 KISA 참여는 AI 보안 대응이 국제 공조 단계로 들어섰다는 점에서 의미가 있다. AI가 악성코드 작성이나 취약점 공격에 악용될 수 있다는 우려가 커지는 만큼, 방어 진영도 고성능 AI를 활용해 취약점을 먼저 찾고 패치하는 체계를 갖출 필요가 커지고 있다. 다만 미토스 같은 고성능 보안 AI는 방어에 유용한 만큼 오용 가능성도 함께 안고 있다. 발견된 취약점 정보를 어떻게 관리하고, 민간 기업과 어떤 방식으로 공유하며, 실제 패치까지 얼마나 빠르게 연결하느냐가 성과를 가를 핵심 변수가 될 전망이다.
2026-06-03 13:10:34
-
AI가 월스트리트 피치북 쓰고 신용평가하는 시대...한국 금융당국은 대비하고 있는가
[경제일보] 미국 월가의 풍경이 빠르게 바뀌고 있다. 과거에는 새벽까지 불이 꺼지지 않던 투자은행(IB)의 회의실에서 애널리스트와 회계사, 변호사들이 수백 장의 투자제안서(Pitch Book)를 만들었다. 기업 인수합병(M&A) 자료와 신용평가 메모, 리스크 분석 보고서와 회계 결산서는 오랜 경험을 가진 금융 전문가들의 영역이었다. 그러나 이제 그 작업을 인공지능(AI)이 대신하기 시작했다. 미국 월스트리트저널(WSJ)에 따르면 AI 개발사인 Anthropic(앤트로픽)은 최근 금융권 전용 AI 에이전트 10종을 공개했다. 투자제안서 작성, 회계 결산, 신용평가 메모 초안 작성 등 금융권 핵심 업무를 자동화하는 기능들이다. 이는 단순한 챗봇 서비스가 아니다. 금융산업의 두뇌 노동 자체를 AI가 대체하기 시작했다는 신호다. 이 변화의 속도는 생각보다 훨씬 빠르다. 금융은 원래 보수적인 산업으로 알려져 있다. 규제가 많고 리스크 관리가 중요하기 때문이다. 그런데도 AI 도입 속도가 빠른 이유는 명확하다. 데이터 규모가 방대하고 반복 업무가 많으며 비용 절감 효과가 즉각적으로 나타나기 때문이다. AI는 인간처럼 피로하지 않고, 24시간 문서를 읽고 요약하며, 수천 개 데이터를 동시에 분석할 수 있다. 특히 생성형 AI는 단순 계산을 넘어 문서 작성과 논리 구성까지 수행하기 시작했다. 앤트로픽의 행보는 단순한 기술 발표가 아니다. 그것은 AI 산업의 전장이 소비자 서비스에서 기업용(B2B) 산업으로 이동하고 있음을 보여준다. AI 산업 초창기에는 챗GPT와 같은 대중 서비스가 중심이었다. 그러나 이제 핵심은 기업 업무 자동화다. 특히 금융은 AI 기업들에게 가장 매력적인 시장 중 하나다. 수익 규모가 크고, 고객 충성도가 높으며, 성공 사례가 만들어질 경우 산업 전체로 확산 속도가 빠르기 때문이다. 앤트로픽은 이미 금융 특화 서비스인 ‘클로드 포 파이낸셜 서비스’를 통해 골드만삭스, 씨티그룹, 시타델, AIG 등 대형 금융사를 고객으로 확보했다. 또 금융 IT 기업인 FIS와 협력해 금융범죄 탐지 AI 시스템 개발에 나섰고, 월가 금융회사들과 함께 15억 달러 규모의 합작법인까지 설립했다. AI 기업이 이제 금융 인프라 자체를 장악하려는 단계로 들어간 것이다. 이 과정에서 가장 중요한 변화는 AI의 역할이 ‘보조 도구’에서 ‘업무 대행자’로 이동하고 있다는 점이다. 과거 AI는 이메일 초안 작성이나 간단한 검색 지원 정도에 머물렀다. 그러나 이제는 투자은행의 피치북 제작과 신용평가 메모 작성, 회계 결산 등 고난도 업무에 투입되고 있다. 인간 전문가가 하던 핵심 지식 노동을 AI가 대신하기 시작한 것이다. 이것은 금융업의 구조 자체를 바꿀 가능성이 있다. 투자은행의 주니어 애널리스트 수요는 줄어들 수 있다. 회계법인의 단순 감사 업무도 축소될 수 있다. 반면 AI 모델을 검증하고 리스크를 통제하는 새로운 직무는 늘어날 것이다. 금융산업은 이제 사람 중심 조직에서 인간과 AI가 함께 움직이는 하이브리드 조직으로 전환되고 있다. 특히 주목해야 할 것은 AI가 단순 효율화 수준을 넘어 금융 의사결정 영역까지 침투하고 있다는 사실이다. 신용평가와 리스크 분석은 금융의 핵심 권한이다. 누구에게 돈을 빌려주고, 어떤 기업을 투자 대상으로 판단할 것인가를 결정하는 일이다. 만약 AI가 그 판단 과정의 상당 부분을 맡게 된다면 금융의 권력 구조 자체가 바뀔 가능성이 있다. 미국 금융권은 이미 전면전에 들어갔다. JPMorgan Chase 의 제이미 다이먼 회장은 “은행 내부에 AI 전담 부서를 운영하고 있으며 수백 개 활용 사례가 진행 중”이라고 공개적으로 밝혔다. 리스크 관리, 금융사기 탐지, 마케팅, 디자인, 회의 기록, 문서 검토 등 거의 모든 분야에 AI가 투입되고 있다는 의미다. 이는 단순한 기술 실험이 아니다. 월가는 이미 AI를 차세대 금융 인프라로 보고 있다. 과거 인터넷이 금융산업을 바꿨다면, 이제 AI는 금융업의 사고 체계 자체를 바꾸고 있다. 인간이 데이터를 읽고 판단하던 시대에서 AI가 데이터를 읽고 인간이 최종 승인하는 구조로 이동하고 있는 것이다. 문제는 한국이다. 한국 금융권도 AI 도입을 이야기하고 있다. 은행과 증권사, 보험사들이 생성형 AI 파일럿 프로젝트를 진행 중이고 일부 챗봇 서비스도 운영하고 있다. 그러나 아직은 개념검증(PoC) 단계에 머물러 있는 경우가 많다. 조직 전체를 AI 중심으로 재설계하려는 전략은 부족하다. 금융당국 역시 규제와 보안 이슈에 초점을 맞추고 있을 뿐, AI 금융 시대의 산업 구조 변화에 대한 국가 전략은 아직 뚜렷하지 않다. 더 큰 문제는 속도다. 미국은 이미 AI 전담 조직을 만들고 금융업 전체를 재편하고 있는데, 한국은 여전히 시범 사업과 규제 검토 수준에 머무르는 경우가 적지 않다. 그러나 AI 산업은 속도의 게임이다. 초기 시장을 선점한 기업이 데이터와 경험을 축적하며 압도적 우위를 갖게 된다. 한국 금융권이 지금처럼 느리게 대응할 경우 글로벌 금융 경쟁력 자체가 약화될 가능성이 있다. 특히 우려되는 부분은 데이터 주권 문제다. 금융 데이터는 국가 경제의 핵심 자산이다. 만약 국내 금융회사들이 해외 AI 플랫폼에 지나치게 의존하게 되면 한국 금융의 핵심 정보와 의사결정 구조가 외국 기술기업에 종속될 위험도 있다. 단순한 편의성 문제가 아니라 금융 안보의 문제다. 금융당국도 이제는 사고를 바꿔야 한다. AI를 단순히 규제 대상이나 소비자 보호 차원에서만 볼 것이 아니라 국가 금융 경쟁력 차원에서 접근해야 한다. 첫째, 금융 AI 전문 인력을 체계적으로 양성해야 한다. 둘째, 금융권의 AI 실증 사업을 과감히 허용하는 규제 혁신이 필요하다. 셋째, 국내 AI 기업과 금융회사 간 협업 생태계를 구축해야 한다. 넷째, 금융 데이터 보안과 주권을 지킬 수 있는 국가 차원의 전략 플랫폼도 고민해야 한다. 물론 AI에는 위험도 존재한다. 잘못된 데이터 학습은 금융 사고를 초래할 수 있고, 알고리즘 편향은 신용 차별 문제를 낳을 수 있다. AI 기반 금융사기가 오히려 더 정교해질 가능성도 있다. 그래서 중요한 것은 무조건적인 낙관도, 막연한 공포도 아니다. 핵심은 통제 가능한 혁신이다. 도덕경에는 “변화에 앞서 움직이는 자가 흐름을 얻는다”는 뜻의 지혜가 담겨 있다. 산업혁명의 역사는 결국 먼저 준비한 자의 역사였다. 인터넷 시대에 뒤처진 기업들이 사라졌듯이, AI 금융 시대에도 대응하지 못한 금융회사는 경쟁력을 잃을 가능성이 크다. 지금 월스트리트에서는 AI가 피치북을 만들고 신용평가 문서를 작성하고 있다. 이것은 먼 미래의 이야기가 아니다. 이미 시작된 현재의 변화다. 그리고 그 변화는 한국 금융산업의 문 앞까지 와 있다. 문제는 하나다. 한국 금융당국과 금융권은 과연 이 거대한 변화에 제대로 대비하고 있는가.
2026-05-10 09:19:55
-
-