정교해진 ‘AI 검문소’…선거법은 ‘AI 선거운동 금지’

행안부-국과수, 딥페이크 탐지 모델 시연…"가짜 영상·음성 92% 식별"
정부 '방패' 확보에도 선관위는 원천 봉쇄…"정치 신인 가로막는 과잉 규제"

윤호중 행정안전부 장관이 10일 오후 서울 종로구 정부서울청사에서 AI 딥페이크 탐지 분석 모델 시연과 관련해 발언을 하고 있다. /박성일 기자

정부가 딥페이크 기술을 이용한 가짜 뉴스를 잡아내는 탐지 기술을 확보했음에도 중앙선거관리위원회가 인공지능(AI)을 활용한 선거운동 자체를 전면 금지하면서 '과잉 규제' 논란이 이어지고 있다.

행정안전부와 국립과학수사연구원은 10일 정부서울청사에서 'AI 딥페이크 탐지 분석 모델' 시연회를 열고, 오는 6월 제9회 전국동시지방선거에 이 기술을 본격 적용한다고 밝혔다.

이번에 개발된 모델은 약 231만건 데이터를 학습해 생성형 AI로 만든 조작 영상과 음성을 약 92%의 정확도로 판별해낸다. 기존 모델이 얼굴 영역 중심으로 분석했던 것과 달리 배경과 신체 등 영상 전체를 분석하며, 영상과 음성을 함께 분석해 특정 구간만 조작된 경우도 탐지한다.

하지만 이러한 기술적 방어막에도 불구하고 현행 공직선거법(제82조의8)은 선거일 90일 전부터 AI 기술을 이용한 가상의 음향, 이미지, 영상 등을 활용한 선거운동을 전면 금지하고 있다. 지난 5일부터 이미 모든 AI 기반 선거 콘텐츠의 제작과 유포가 막힌 상태다.

정치권과 선거 현장에서는 딥페이크와 일반적인 생성형 AI 활용을 구분하지 않는 규제 방식에 대한 문제 제기가 나온다. 한 선거캠프 관계자는 "딥페이크처럼 유권자를 오인하게 할 수 있는 콘텐츠와 단순 홍보 제작 과정에서의 AI 활용은 성격이 다른데 규제가 이를 구분하지 않고 있다"며 "허위 사실이 아니라면 일반적인 AI 이미지나 콘텐츠까지 규제 대상에 포함하는 것이 적절한지 의문"이라고 말했다.

특히 자본과 조직력이 부족한 정치 신인들에게 AI는 효율적인 홍보 수단인데, 이를 막는 것은 '기울어진 운동장'을 만드는 격이라는 지적도 나온다. 이에 정치권에서도 제도 개선 논의가 이어지고 있다. 장철민 더불어민주당 의원 등은 악의적인 딥페이크 조작은 엄단하되 통상적인 선거 홍보 과정에서의 생성형 AI 활용은 허용하는 내용의 공직선거법 개정안을 발의한 상태다.

행안부는 이번 탐지 모델을 중앙선관위에 제공해 선거 기간 의심되는 영상이나 음성의 조작 여부를 신속히 판별할 수 있도록 지원할 계획이다. 허위 정보 확산 속도가 빠른 선거 기간 특성을 고려해 선관위가 자체적으로 딥페이크 여부를 확인하고 필요한 조치를 취할 수 있도록 한다는 설명이다.

윤호중 행안부 장관은 이날 시연회에서 "딥페이크는 민주주의를 흔들 수 있는 새로운 정보 범죄"라며 "AI가 가짜뉴스를 만드는 '나쁜 AI'가 아니라 민주주의를 지키는 '방패'가 돼야 한다"고 말했다.