딥페이크 잡는 AI, 수사현장 ‘게임체인저’로

행안부·국과수, AI 분석모델 공식 감정 업무 개시…대선·성범죄 영상 판별
대조 영상 없이 조작 여부 식별…감정 기간 단축, 디지털 수사 범위 확대

변준석 행정안전부 국립과학수사연구원 디지털과장(오른쪽)이 7월 29일 정부세종청사에서 '딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과'에 대해 기자질문에 답변하고 있다. /행정안전부

딥페이크 영상과 음성을 인공지능(AI)으로 판별하는 기술이 수사에 공식 적용됐다. 눈으로는 구분이 어려운 조작 콘텐츠를 AI가 자동 분석해 허위 영상과 디지털 성범죄 등에 대한 빠르고 정밀한 판단을 가능케 했다.

행정안전부(행안부)와 국립과학수사연구원(국과수)은 AI 기반의 '딥페이크 불법 콘텐츠 탐지 분석모델'을 개발해 지난 5월부터 공식 감정 업무에 투입했다고 30일 밝혔다. 국과수는 현재까지 경찰의 의뢰를 받은 15건의 딥페이크 의심 사건에 대해 총 60건의 영상·음성 증거물을 분석해 결과를 제공했다.

지난 제21대 대선 당시 특정 후보가 하지 않은 발언을 한 것처럼 보이게 조작된 영상이 퍼졌을 때, 국과수는 분석모델로 딥페이크 여부를 신속히 판별해 수사기관에 감정 결과를 제공했다. 중앙선거관리위원회에도 모델을 제공해 온라인에 퍼진 불법 선거 콘텐츠 1만여 건을 탐지·삭제하는 데 이바지했다.

분석모델은 디지털 성범죄 대응에도 활용됐다. SNS에서 확보한 지인의 얼굴을 나체 이미지에 합성해 유포한 사건에서, 국과수는 AI 분석모델을 활용해 얼굴 경계의 미세한 왜곡 등 조작 흔적을 포착, 딥페이크 영상을 입증했다. 해당 감정 결과는 수사 착수와 불법 영상 삭제의 결정적 증거로 활용됐다.

분석모델은 AI가 영상·음성의 미세한 합성 흔적을 자동 탐지해 딥페이크 여부를 판단한다. 기존 위변조 감정이 동일 기종의 대조 파일을 필요로 했던 것과 달리, 이번 기술은 대조 데이터 없이도 조작 여부를 판별할 수 있다. 분석모델은 영상 69만건, 음성 162만건 등 총 231만건의 데이터를 기반으로 딥러닝 학습을 거쳤다. 분석 정확도는 영상 94.98%, 음성 86.2%에 이른다.

국립과학수사연구원 관계자가 29일 정부세종청사에서 '딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과'에 대해 시연을 하고 있다. /행정안전부

변준석 국과수 디지털과장은 "이번 모델은 기존 위변조 분석의 한계를 극복한 기술"이라며 "대조 영상 없이도 조작 여부를 판별할 수 있어, 온라인에 무작위로 유포되는 딥페이크 콘텐츠 감정에 획기적인 전환점이 될 것"이라고 말했다.

감정 처리 속도도 대폭 향상됐다. 기존 위변조 분석은 대조 영상 확보와 구조·메타데이터 비교 등 수작업이 많아 평균 일주일에서 최대 20일 가까이 걸렸다. 반면, 이번 AI 모델은 자동 분석이 가능해 짧은 시간 내 감정 결과를 도출할 수 있다. 국과수 관계자는 "딥페이크 영상이 긴급 대응이 필요한 사건에서 활용될 수 있도록 감정 시간을 획기적으로 줄였다"고 설명했다.

행안부와 국과수는 이번 딥페이크 분석모델과 2023년 개발된 '보이스피싱 음성 분석모델'과 연계해 딥페이크 여부뿐 아니라 특정인의 실제 목소리와 유사성까지 판별하는 이중 분석 체계로 활용할 예정이다. 이와 함께 향후 분석모델을 디지털증거물인증시스템(DAS)에 통합해 수사기관이 직접 활용할 수 있도록 지원하고, 여성가족부·방송통신위원회 등 유관기관으로 기술 확산을 추진할 계획이다.

배일권 행안부 공공지능데이터국장은 "AI 기반의 과학수사 기술은 국민의 안전과 사회 신뢰를 지키는 데 핵심 역할을 할 것"이라며 "앞으로도 범죄 대응 역량을 강화해 국민이 체감하는 정책 성과를 만들겠다"고 말했다.