선거철 뒤덮은 ‘딥페이크’… 팩트체크·선제차단 나선 플랫폼

선관위와 'AI 허위정보 대응' 집중
정치인 합성 게시물·숏폼 대량 확산
22대 총선 때 비해 삭제 요청 25배↑
사후삭제 한계… "공조체계 강화를"

6·3 지방선거를 앞두고 선거 관련 딥페이크 게시물 삭제 요청 건수가 1만건에 육박했다. 이에 글로벌 SNS 플랫폼들은 생성형 AI 기반 허위정보 차단에 총력을 기울이고 있다. 특히 딥페이크를 이용한 정치인 합성 영상 등이 SNS와 숏폼 플랫폼을 중심으로 빠르게 확산되자 플랫폼들은 '선거 안전망' 역할을 자처했다.

28일 중앙선거관리위원회 등에 따르면 지난 25일 기준 6·3 지방선거 관련 딥페이크 게시물 삭제 요청 건수는 9956건으로 집계됐다. 이는 2024년 제22대 국회의원 총선거 당시 388건이었던 것과 비교하면 25배 이상 늘어난 것이다.

이처럼 최근 생성형 AI 기술 고도화로 전문 기술 없이도 실제와 구분하기 어려운 이미지와 영상을 제작할 수 있게 되면서 허위정보 확산 속도도 빨라지고 있다. 특히 짧은 영상 중심의 SNS와 숏폼 플랫폼을 통해 콘텐츠가 급속도로 공유되며 선거 공정성을 훼손할 수 있다는 우려가 더욱 커졌다.

플랫폼 업계는 선거철 AI 허위정보 대응 체계 강화에 집중하고 있다. 먼저 틱톡은 최근 지방선거를 앞두고 중앙선관위와 핫라인을 구축, 선거 허위정보 대응 정책도 공개했다. AI로 생성·편집된 콘텐츠에는 라벨 부착을 의무화하고 정치 광고와 정치 목적 모금 활동도 전면 금지하는 것이 골자다.

이 뿐만 아니라 틱톡은 신뢰·안전(T&S) 조직을 중심으로 한국어 전담 인력을 운영하며 선거 관련 정책 위반 콘텐츠를 집중 모니터링하고 있다. 허위정보와 딥페이크 콘텐츠 대응을 위해 자동 탐지 시스템과 외부 신고 체계를 병행하고 있으며 정책 위반 콘텐츠 상당수를 이용자 신고 이전 단계에서 선제 차단하고 있다. 회사 측은 글로벌 기준 정책 위반 콘텐츠의 약 99%를 선제적으로 삭제하고 있다고 밝혔다.

유튜브는 AI 딥페이크 탐지 및 삭제 요청 기능 확대에 집중하고 있다. 최근에는 실제 인물 얼굴과 음성을 무단 합성한 콘텐츠에 대한 대응 범위를 일반 사용자까지 확대한 바 있다. 기존에는 정치인·공인·크리에이터 중심으로 운영됐지만, 생성형 AI 기술 확산에 따라 일반 이용자 피해 가능성까지 고려해 정책 범위를 넓힌 것이다.

페이스북과 인스타그램 운영사인 메타는 AI 생성 정치 콘텐츠에 대한 투명성 정책과 팩트체크 체계를 강화하고 있다. 이를 위해 선거 광고주에게 AI 활용 여부 공개를 의무화하고 있으며 AI 기반으로 생성되거나 수정된 정치 광고에는 별도 고지를 요구한다. 또 메타는 글로벌 팩트체크 네트워크(IFCN) 소속 기관들과 협력해 허위정보 검증 체계를 운영 중이다. AI 기반 허위정보 확산 가능성이 높은 콘텐츠에 대해서는 유통 범위를 줄이는 방식의 대응도 병행하고 있다. 특히 선거 기간에는 전담 조직을 중심으로 허위정보와 외부 개입 시도를 집중 모니터링한다.

이 같은 대응책에도 일각에서는 생성형 AI 기술 발전 속도가 플랫폼 탐지 기술을 앞지르고 있다는 우려가 나온다. 허위 콘텐츠가 SNS와 숏폼 플랫폼을 통해 짧은 시간 안에 대량 확산되는 만큼 사후 삭제 중심 대응만으로는 한계가 있다는 지적이다.

플랫폼업계 한 관계자는 "생성형 AI 기술 수준이 빠르게 높아지면서 사람이 진위를 구분하기 어려운 사례가 급증하는데, 플랫폼 측이 AI 탐지 기술을 고도화하고 있음에도 기술 발전 속도를 완전히 따라가기 쉽지 않다"며 "단순 사후 삭제를 넘어 AI 콘텐츠 출처 표시와 플랫폼 간 공조 체계를 강화하는 방향으로 대응이 확대될 필요가 있다"고 말했다.