경찰, 선거위협 ‘딥페이크’ 탐지 소프트웨어 개발

최신 AI 탑재해 진위 여부 탐지율 80%
"증거자료보다 수사 방향 설정 활용"

경찰청 국가수사본부가 개발한 '딥페이크 탐지 소프트웨어' 시연 결과. /경찰청

경찰이 4·10 총선을 앞두고 딥페이크(AI를 활용한 영상·이미지·음성 조작물) 진위 여부를 판별할 수 있는 '딥페이크 탐지 소프트웨어'를 개발했다고 5일 밝혔다. 경찰은 공정 선거를 위협하는 딥페이크 범죄 단속을 위해 해당 소프트웨어를 적극 활용할 방침이다.

경찰청 국가수사본부(국수본)에 따르면 국수본이 개발한 '딥페이크 탐지 소프트웨어'는 페이스 스왑(Face Swap) 등 딥페이크 의심 영상을 시스템에 업로드하면 통상 5~10분 내 분석 작업을 완료해 가짜 여부를 판별한다.

또 판별이 끝남과 동시에 수사에 활용할 수 있는 결과보고서를 즉시 작성하는 기능도 탑재돼 있다.

기존에 활용하던 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 한국인을 대상으로 합성된 영상에 대해 탐지율이 떨어지는 문제점이 있었다.

이에 국수본은 이 같은 문제점을 개선한 '딥페이크 탐지 소프트웨어'를 자체 개발했다.

서양인 위주의 데이터 대신 한국인 등 아시아 계열 인종 데이터 520만 점을 소프트웨어에 녹여냈고, 최신 인공지능(AI) 모델을 적용해 소프트웨어의 진위 여부 탐지율을 약 80%까지 끌어올렸다.

국수본 관계자는 "딥페이크 탐지 소프트웨어의 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 것"이라며 "향후 더욱 정확한 탐지가 이뤄지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.