李 대통령 "딥페이크 악용되면 심각한 문제…대비책 있어야"

이재명 대통령은 16일 이른바 '딥페이크' 영상의 악용 실태를 "심각한 문제"라고 지적하며 대응책 마련을 주문했다.

이 대통령은 이날 청와대 영빈관에서 열린 방송미디어통신위원회(방미통위) 등의 업무보고에서 "요즘 인공지능(AI) 창작물인지 실제 상황인지 구분이 어려울 정도로 너무 실제 영상과 유사하다"며 이같이 말했다.

이 대통령은 "표시를 안 해주면 사람들에게 일종의 증거로 작동한다"며 "사람들한테 신뢰감이 높아서 표시를 안 하면 심한 오해가 유발될 것 같다"고 지적했다.

이어 "인공지능 창작물이 가지는 위험성이 현실화하고 있어서 여기에 대한 대비책이 있어야 할 것 같다"며 표시 의무와 관련한 규제 현황을 점검했다.

이 대통령은 이 과정에서 "얼마 전에 인공지능으로 만든 그림으로 누군가를 이상하게 만든 게 꽤 시끄러웠다"고 언급했다.

이는 최근 발생한 이언주 더불어민주당 의원이 음란 이미지 합성 범죄로 피해를 본 사건을 의미하는 것으로 해석된다.

김종철 방미통위 위원장은 이 대통령의 지시와 관련, "유통단계에서 규제하기 위한 법안이 준비되고 있다"고 했고, 류제명 과학기술정보통신부 2차관도 "이용자들이 생성형 AI 표시를 훼손하거나 삭제하지 못하도록 하는 법안이 제안돼 있다"고 보고했다.

이에 이 대통령은 "국회에서 하고 있다고 말하면 안 되고 정부 기관에서 어떻게 할지 방향을 명확히 정한 다음에 협력을 구하든지 해야 한다"며 적극적 역할을 당부했다.