교실에 퍼지는 ‘딥페이크 범죄’…신종 학폭 떠오르나

딥페이크 관련 범죄 최근 3년간 평균 152건
경찰청, 범죄 추이 주시 및 집중단속 방침

기사와 관련 없는 이미지. /게티이미지

지난 11일 오전 10시 12분께 인천 미후홀구 한 중학교에 경찰이 출동했다. '중학교 학생이 여학생들의 사진을 찍고 합성해 인터넷에 올렸다'는 신고를 접수한 경찰이 범인으로 추정되는 학생을 찾기 위해 학교를 찾아온 것이다.

학교 관계자를 통해 인적사항을 확인한 경찰은 A군을 교무실로 불러 사실관계를 물으며 범행 여부를 추궁했다.

A군의 휴대전화에서 문제의 사진이 나오지 않자 경찰은 A군을 설득했고, 30여분 만에 '딥페이크 어플'을 이용해 합성한 사진을 모르는 사람에게 텔레그램으로 전송한 사실이 있다는 진술을 확보하는데 성공했다.

또 다른 사진들은 유포하지 않고 지웠다는 A군의 추가 진술을 듣고 여죄 가능성이 크다고 판단한 경찰은 성폭력범죄의 처벌 등에 관한 특례법 위반(허위영상물 등의 반포) 혐의로 A군을 임의동행해 검거했다.

디지털 기기에 친숙한 10대들을 중심으로 딥페이크 등 인공지능(AI) 기술을 이용한 범죄가 잇따르고 있다. 수사 당국은 이같이 AI 기술을 악용한 범죄가 사이버 학교폭력으로 진화하고 있는 상황을 주시하며 집중단속을 통해 선제 대처한다는 방침이다.

12일 경찰청에 따르면 최근 3년간 경찰청에서 집계한 딥페이크 관련 범죄 건수는 매년 평균 152건을 기록 중이다. 2021년 156건에 머물렀던 딥페이크 관련 범죄는 지난해 160건을 기록했으며, 올해 10월 기준 140건 발생했다.

딥페이크 관련 공식 통계는 영상 편집물·가공물 등을 상대방 의사에 반해 배포한 이들을 처벌하는 내용의 성폭력처벌법 개정안이 2020년 6월 제정되면서 2021년부터 집계가 시작됐다.

경찰청. /박성일 기자

최근에는 이러한 범죄를 저지른 청소년이 법원에서 실형을 선고받고 법정구속되는 일도 발생하고 있다.

춘천지법 원주지원 형사1부는 지난 3월 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작·배포), 모욕 교사 등 혐의로 기소된 A군(16)에게 징역 장기 2년·단기 1년 8개월을 선고했다. A군은 선고 이후 곧바로 법정구속됐다.

A군은 지난해 5월 SNS에서 찾아낸 B양(17)의 사진을 성명불상자에게 보내 '나체사진과 합성해 달라'고 한 뒤 딥페이크 사진을 전송받아 일명 '지인 능욕' 사진을 게시하고 배포한 혐의로 재판에 넘겨졌다.

B양은 A군과 같은 학원에 다녔지만, 서로 알지 못하는 사이였던 것으로 드러났다.

경찰청은 최근 AI 기술이 급격히 발달함에 따라 딥페이크가 예전보다 쉬워졌고, 그런 만큼 범죄 위협이 증가하고 있다고 판단하고 있다.

또 딥페이크 성범죄 신고를 접수하면 즉각 수사에 착수함과 동시에 피해자보호 조치를 실시하며 적극 대처하고 있다.

경찰청 관계자는 "딥페이크 범죄는 아무 연관이 없는 사람에 대해 허위 사실을 결부시키게 돼 그 어떤 범죄보다도 피해자들에게 심리적 충격을 가하므로 그 위협성은 심각하다고 할 수 있다"라며 "경찰은 딥페이크 범죄 위협의 심각성에 대해 예의주시하고 있으며, 집중단속을 통해 해당 범죄에 선제적으로 대처함과 동시에 관련 기술에 대한 분석을 병행할 예정"이라고 말했다.

이어 "심리상담, 법률상담 등을 제공하는 기관에 연계해 국선변호인 선임 신청, 방송통신심의위원회에 대한 삭제차단 요청 등 피해자보호에도 적극 나서고 있다"고 덧붙였다.