경찰, 딥페이크 범죄 ‘AI 3중 대응’…올해 419명 검거

조작 여부 불분명하면 과학수사 영상분석관이 추가 검증
생성형 AI 프로그램·편집 전 원본까지 확보해 범행 재구성

본 이미지는 AI 로 생성된 이미지입니다.본 이미지는 AI 로 생성된 이미지입니다.

경찰이 인공지능(AI)을 활용한 딥페이크 범죄에 대응하기 위해 탐지 소프트웨어와 전문 영상분석·AI 디지털 포렌식을 결합한 '3중 대응체계'를 가동하고 있다.

13일 경찰청 국가수사본부에 따르면 경찰은 올해 1~7월 허위영상물 범죄 피의자 419명을 검거해 이 가운데 17명을 구속했다.

경찰은 우선 딥페이크 탐지 소프트웨어로 얼굴 생성·교체 여부와 눈 깜빡임·혈류 변화 등 생물학적 특징, 파일 메타데이터 등을 분석해 합성 여부를 판별한다. 조작 여부가 불분명하면 과학수사 영상분석관이 전문 프로그램을 이용해 추가 검증한다.

지난 3월에는 해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다는 신고가 잇따르자 유포 영상을 분석해 동일한 특징을 확인하고 20대 남성을 구속 송치했다.

또 SNS를 통해 성착취 허위영상물을 제작·판매한 20대 남성을 수사하는 과정에서는 AI 포렌식을 활용해 영상 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진을 확보했다. 경찰은 이를 토대로 제작 의뢰자의 혐의도 수사하고 있다.

AI 포렌식은 어떤 프로그램으로 어느 부분을 조작했는지 분석해 제작부터 유포까지 범행 과정을 재구성하는 방식이다.

딥페이크 탐지 소프트웨어는 개발 이후 1636건의 수사에 활용됐으며, 올해는 선거범죄 등 다른 분야에서도 72건 사용됐다. 경찰은 향후 허위정보 유포와 전기통신금융사기 등 AI 악용 범죄 전반으로 적용 범위를 확대할 계획이다.

경찰청 국가수사본부는 "시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 말했다.