2026.09.01 화요일
검색
'플랫폼책임' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버 'AI 클린봇 3.0' 가동…기사 맥락 읽어 2차 가해 차단 [경제일보] 네이버(대표 최수연)가 인공지능(AI)을 활용한 악성 댓글과의 전쟁을 새로운 국면으로 이끌고 있다. 단순히 욕설이나 비속어를 거르는 수준을 넘어 기사 본문의 맥락까지 파악해 2차 가해와 생명 경시성 댓글을 집중 차단하는 'AI 클린봇 3.0'을 29일 공개했다. 기술의 방패로 인간의 존엄성을 지키려는 포털의 노력이 한층 더 정교해졌다. 이번 업그레이드의 핵심은 맥락 이해다. 기존 클린봇이 댓글 자체의 단어나 문장에 집중했다면 3.0 버전은 댓글 내용과 함께 기사의 제목과 본문을 종합적으로 분석한다. 같은 단어라도 기사의 맥락에 따라 그 의미와 악의성이 완전히 달라질 수 있다는 점에 착안한 것이다. 예를 들어 사회적 참사 관련 기사에 달린 조롱성 댓글이나 자살 관련 기사에서 생명 경시를 조장하는 표현을 AI가 기사 내용과 연관 지어 탐지하고 차단한다. 이는 악성 댓글이 갈수록 교묘해지는 현실에 대응하기 위한 필연적 진화다. 단순히 욕설이나 키워드를 차단하는 방식은 기호나 신조어를 활용한 우회 악플 앞에 한계를 보였다. 2019년 처음 등장한 AI 클린봇이 키워드 기반 탐지에서 시작해 2020년 문장 맥락 분석으로 발전했고 이제는 기사 전체의 맥락을 읽는 수준까지 고도화됐다. 네이버의 이번 조치는 기술적 노력에만 그치지 않는다. 이미 정치 선거 기사의 댓글을 제공하지 않고 악성 댓글이 일정 기준을 넘는 기사의 댓글창을 자동 비활성화하는 등 정책적 수단을 병행해왔다. 여기에 한국인터넷자율정책기구(KISO)의 혐오표현 가이드라인을 반영하는 등 사회적 합의를 기술에 녹여내려는 시도도 계속되고 있다. 김수향 네이버 리더는 "네이버는 욕설 비속어는 물론 새롭게 생긴 혐오 비하 차별 표현을 탐지하기 위해 클린봇 성능을 지속 강화하고 있다"며 "생명 경시 조장과 피해자 유족 조롱 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정"이라고 밝혔다. 한편 이것이 악성 댓글과의 전쟁에서 완전한 승리를 의미하지는 않는다. 기술의 방패가 정교해질수록 악의의 창은 더 날카로운 방식으로 허점을 파고들기 마련이다. 하지만 중요한 것은 방향성이다. 표현의 자유라는 가치 뒤에 숨어 타인의 고통을 즐기고 상처를 후벼 파는 행위를 더 이상 방치하지 않겠다는 플랫폼의 의지가 기술로 구현되고 있다는 점이다. 기술이 인간의 악의를 완전히 근절할 수는 없겠지만 최소한의 안전망을 제공하고 공동체의 건강성을 지키는 역할은 수행할 수 있다. 이번 AI 클린봇 3.0은 그 가능성을 보여주는 또 하나의 의미 있는 진보로 평가된다.2026-04-29 11:14:59
-
'안심'이라던 안전결제마저 '먹통'… 1조원대 중고거래 사기, 플랫폼은 '나 몰라라' [경제일보] 중고 거래 플랫폼 시장이 급성장하면서 관련 소비자 피해가 봇물 터지듯 쏟아지고 있다. 특히 사기 예방을 위해 도입된 ‘안전 결제’ 시스템마저 허점을 드러내며 이용자와 플랫폼 간의 서비스 책임 공방으로 양상이 변하고 있다. 시장 규모는 눈덩이처럼 불어나고 있지만 플랫폼의 대응은 여전히 미흡하다는 지적이 나온다. 7일 국회 정무위원회 이양수 의원이 한국소비자원으로부터 제출받은 자료에 따르면 지난해 주요 플랫폼(당근마켓·번개장터·중고나라)을 대상으로 한 피해구제 신청은 175건으로, 3년 전(18건) 대비 10배 가까이 폭증했다. 과거 개인 간 ‘직거래 사기’에 국한됐던 피해 유형이, 최근에는 플랫폼의 안전 결제 시스템을 이용하고도 대금을 돌려받지 못하는 새로운 형태로 진화하고 있다. 실제로 120만원 상당의 피규어를 안전 결제로 구매한 한 이용자는 판매자로부터 “정산이 보류됐다”는 말을 듣고 상품을 반품했으나 정작 자신이 지불한 돈은 돌려받지 못하는 황당한 일을 겪었다. 이는 판매자가 허위로 정산 보류를 주장하며 물건만 가로채는 신종 사기 수법으로 플랫폼의 분쟁 조정 시스템이 제대로 작동하지 않고 있음을 방증한다. 경찰청 자료에 따르면 지난해 직거래 사기 피해액은 8741억원으로 전년 대비 3배 이상 폭증하며 1조원 시대를 눈앞에 뒀다. 시장 규모가 커질수록 사기 수법은 더욱 교묘해지고 있지만 플랫폼들은 여전히 ‘개인 간 거래 중개자’라는 입장 뒤에 숨어 책임을 회피하고 있다는 비판을 피하기 어렵다. 이양수 의원은 “중고 거래 시장이 급성장하고 있음에도 소비자를 보호할 안전망은 사실상 방치된 상태”라며 “플랫폼이 책임을 회피하지 못하도록 실질적인 대책을 마련해야 한다”고 강조했다. 전문가들은 현재의 중고 거래 플랫폼이 가진 ‘구조적 한계’를 지적한다. 대부분의 플랫폼은 통신판매중개업자로 등록되어 있어 거래 과정에서 발생하는 문제에 대한 법적 책임이 제한적이다. 결제 대금을 보관하는 ‘에스크로’ 역할을 수행하면서도 분쟁 발생 시에는 ‘당사자 간 해결’을 원칙으로 내세우는 ‘책임의 공백’이 존재하는 것이다. 해외 사례와 비교하면 이러한 차이는 더욱 명확하다. 미국의 이베이(eBay)나 일본의 메루카리(Mercari) 등 글로벌 플랫폼들은 정교한 분쟁 조정 프로그램과 자체 보상 시스템을 통해 사기 피해를 최소화하고 있다. 특히 가짜 안전 결제 페이지로 유도하는 외부 링크 차단 기술이나 AI 기반의 사기 거래 패턴 분석 시스템을 고도화하여 예방에 주력한다. 결국 해법은 ‘플랫폼의 법적 책임 강화’와 ‘기술적 안전망 구축’이라는 두 가지 축으로 모아진다. 정부와 국회는 플랫폼이 단순 중개자를 넘어 거래 안전을 보장하는 ‘준(準)금융기관’으로서의 책임을 지도록 법적 근거를 마련해야 한다. 피해 발생 시 플랫폼의 보상 책임을 명확히 규정하고 분쟁 조정 절차를 의무화하는 것이 시급하다. 아울러 플랫폼 스스로 AI 기술을 활용해 사기 거래를 선제적으로 차단하는 노력을 기울여야 한다. 사기 이력이 있는 계정을 차단하고 의심스러운 거래 패턴을 실시간으로 감지하며 외부 링크를 통한 결제 유도를 원천적으로 막는 기술적 투자가 이루어져야 한다. 마지막으로 중고 거래는 단순한 물건 거래를 넘어 자원의 순환과 합리적 소비를 실천하는 중요한 사회적 행위다. 1조원에 육박하는 사기 시장을 이대로 방치한다면 어렵게 쌓아 올린 중고 거래 생태계 전체가 붕괴될 수 있다. 이제는 플랫폼 기업들이 사회적 책임을 통감하고 소비자들이 ‘안심’하고 거래할 수 있는 투명한 시스템을 구축하는 데 사활을 걸어야 할 때다.2026-04-07 07:44:58
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 수출 68.7% 증가, 숫자가 너무 좋아서 더 걱정되는 이유](https://image.ajunews.com/content/image/2026/09/01/20260901104454687091_518_323.jpg)