네이버 'AI 클린봇 3.0' 가동…기사 맥락 읽어 2차 가해 차단

[경제일보] 네이버(대표 최수연)가 인공지능(AI)을 활용한 악성 댓글과의 전쟁을 새로운 국면으로 이끌고 있다. 단순히 욕설이나 비속어를 거르는 수준을 넘어 기사 본문의 맥락까지 파악해 2차 가해와 생명 경시성 댓글을 집중 차단하는 'AI 클린봇 3.0'을 29일 공개했다. 기술의 방패로 인간의 존엄성을 지키려는 포털의 노력이 한층 더 정교해졌다.

이번 업그레이드의 핵심은 맥락 이해다. 기존 클린봇이 댓글 자체의 단어나 문장에 집중했다면 3.0 버전은 댓글 내용과 함께 기사의 제목과 본문을 종합적으로 분석한다. 같은 단어라도 기사의 맥락에 따라 그 의미와 악의성이 완전히 달라질 수 있다는 점에 착안한 것이다. 예를 들어 사회적 참사 관련 기사에 달린 조롱성 댓글이나 자살 관련 기사에서 생명 경시를 조장하는 표현을 AI가 기사 내용과 연관 지어 탐지하고 차단한다.

이는 악성 댓글이 갈수록 교묘해지는 현실에 대응하기 위한 필연적 진화다. 단순히 욕설이나 키워드를 차단하는 방식은 기호나 신조어를 활용한 우회 악플 앞에 한계를 보였다. 2019년 처음 등장한 AI 클린봇이 키워드 기반 탐지에서 시작해 2020년 문장 맥락 분석으로 발전했고 이제는 기사 전체의 맥락을 읽는 수준까지 고도화됐다.

네이버의 이번 조치는 기술적 노력에만 그치지 않는다. 이미 정치 선거 기사의 댓글을 제공하지 않고 악성 댓글이 일정 기준을 넘는 기사의 댓글창을 자동 비활성화하는 등 정책적 수단을 병행해왔다. 여기에 한국인터넷자율정책기구(KISO)의 혐오표현 가이드라인을 반영하는 등 사회적 합의를 기술에 녹여내려는 시도도 계속되고 있다.

김수향 네이버 리더는 "네이버는 욕설 비속어는 물론 새롭게 생긴 혐오 비하 차별 표현을 탐지하기 위해 클린봇 성능을 지속 강화하고 있다"며 "생명 경시 조장과 피해자 유족 조롱 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정"이라고 밝혔다.

한편 이것이 악성 댓글과의 전쟁에서 완전한 승리를 의미하지는 않는다. 기술의 방패가 정교해질수록 악의의 창은 더 날카로운 방식으로 허점을 파고들기 마련이다.

하지만 중요한 것은 방향성이다. 표현의 자유라는 가치 뒤에 숨어 타인의 고통을 즐기고 상처를 후벼 파는 행위를 더 이상 방치하지 않겠다는 플랫폼의 의지가 기술로 구현되고 있다는 점이다. 기술이 인간의 악의를 완전히 근절할 수는 없겠지만 최소한의 안전망을 제공하고 공동체의 건강성을 지키는 역할은 수행할 수 있다. 이번 AI 클린봇 3.0은 그 가능성을 보여주는 또 하나의 의미 있는 진보로 평가된다.