법원까지 속았는데…공소청 ‘AI 조작 증거’ 검증 무방비

오는 10월 2일 출범하는 공소청이 수사기관에 대한 사법통제 기능을 강화하는 가운데 정작 기소 판단의 토대가 되는 증거의 진위를 가려낼 인공지능(AI) 조작 검증 체계는 미비한 것으로 나타났다. 6일 아시아투데이 취재를 종합하면 법무부가 지난 4일 입법예고한 '공소청과 그 소속기관 직제 제정안'은 검사의 수사권 폐지 이후 공소청의 역할을 사법통제와 공소유지 중심으로 재편하는데 방점이 찍혔다. 수사기관의 사건 처리 과정을 보다 면밀히 점검하는 동시에 공판 역량을 강화해 수사·기소 분리에 따른 공백을 보완하겠다는 취지다. 문제는 사법통제와 공소유지의 토대가 되는 증거 자료의 신뢰성이 AI 기술의 발달로 위협받고 있다는 점이다. 생성형 AI를 활용하면 카카오톡 대화는 물론 사진·영상·음성까지 실제와 구분하기 어려울 정도로 정교하게 조작할 수 있다. 실제로 AI로 조작된 증거 자료가 경찰과 검찰의 판단을 왜곡하고 법원까지 속이는 사례가 등장하고 있다. 부산지검 동부지청은 지난 2월 3억원대 투자사기 혐의를 받던 피의자 A씨가 AI로 조작한 증거를 법원에 제출해 구속을 면한 사실을 밝혀냈다. A씨는 피해자들에게 변제할 능력이 있는 것처럼 보이기 위해 잔액이 23원에 불과한 계좌 잔액증명서를 9억원이 들어 있는 것처럼 조작했고, 법원은 이를 근거로 구속영장을 기각했다. 이후 피해 변제가 이뤄지지 않자 검찰이 보완수사에 나섰고, A씨를 위조사문서행사 등 혐의로 구속 기소했다. 대구지검은 지난 7월 AI로 카카오톡 대화 등을 조작한 증거 자료를 수사기관에 제출한 B씨를 위계공무집행방해 등 혐의로 구속 기소했다. B씨는 C씨 명의로 비대면 대출을 받았다가 사기 혐의로 수사를 받게 되자 AI로 조작한 증거 자료를 경찰에 제출했다. 경찰은 이를 근거로 B씨를 불송치했고, C씨는 오히려 무고 혐의로 재판에 넘겨졌다. 조작 사실은 재판 과정에서 C씨 측이 실제 대화 내용을 복원하면서 드러나기 시작했다. 이후 검찰이 보완수사에 착수해 조작 정황을 확인하면서 B씨 범행의 전모가 밝혀졌다. 이처럼 조작된 증거 자료가 수사 초기부터 '진짜 증거'로 받아들여지면 증거 검증 체계가 강화돼야 한다는 의견이 제기된다. 하지만 공소청 출범을 앞둔 대검찰청(대검)에는 AI를 활용한 증거 조작 여부를 판단할 별도의 지침이나 검증 기준이 마련돼 있지 않은 것으로 확인됐다. 증거 조작 여부를 가려낼 기술 개발에는 속도를 내고 있지만, 이를 일선 사건에 적용할 통일된 기준과 절차는 아직 마련되지 않은 것이다. 대검은 현재 과학수사부를 중심으로 딥페이크 이미지·동영상과 AI 합성 음성 등을 판별하기 위한 탐지 기술 개발이 진행 중인 단계다. 대검은 2024년 딥페이크 이미지 탐지를 위한 데이터베이스 구축과 관련 탐지 기술 개발을 완료한 데 이어 지난해에는 딥페이크 합성 동영상 탐지 기술 개발을 마쳤다. 올해는 생성형 AI로 만들어진 가짜 영상의 위변조 여부를 판별하는 탐지 프로그램을 개발 중이다. 내년까지 기술을 고도화해 '딥페이크 동영상 탐지 시스템'을 완성한 뒤 오는 2028년부터 실제 사건에 적용하는 방안을 검토하고 있다. 음성 분야에서는 지난해 실제 사람의 목소리와 AI가 생성한 음성을 구별하는 '합성 음성 탐지 기술' 개발을 완료했다. 올해는 음성의 일부만 조작됐는지까지 판별할 수 있는 정밀 탐지 기술을 개발하고 있으며, 내년까지 '딥페이크 음성 탐지 시스템'을 완성해 2028년부터 실제 사건에 도입할 예정이다. 결국 AI 조작 증거가 이미 수사와 재판 과정에서 현실적인 위협으로 등장한 것과 달리 이를 체계적으로 가려낼 기술과 기준이 일선 사건에 안착하기까지는 일정한 시차가 불가피한 상황이다. 한 재경지검 검사는 "육안만으로 증거 자료의 AI 조작 여부를 판단하기 어려워지고 있다"며 "수사 과정에서 어떤 경우에 AI 조작 가능성을 의심하고, 이를 어떤 절차와 기준에 따라 검증할 것인지 구체적인 방안을 고민해야 할 때다"라고 말했다. 대검 관계자는 "현재 진행 중인 기술의 개발이 완료되면 보완수사요구 과정에서 적극적으로 활용할 계획"이라고 밝혔다.