정부,인공지능으로 아동·청소년 온라인 성착취물 대응 강화

중앙디성센터,아동·청소년 성착취물 탐지·신고 과정 최초 공개
인공지능 도입 후 삭제 지원 처리량 약 9.7배 증가…6개월간 9만6210건

중앙디지털성범죄피해자지원센터/성평등가족부

성평등가족부와 중앙디성센터는 10일 한국여성인권진흥원에서 AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템의 작동 과정을 취재진에게 공개했다.

이날 공개된 인공지능 기반 아동·청소년 온라인 성착취 탐지·신고 시스템은 사회관계망서비스와 랜덤채팅앱 등에서 성착취물과 유인정보를 24시간 자동 수집·분석한다. 탐지된 자료는 담당자가 검토한 뒤 유포 현황을 확인하고 플랫폼 등에 신고하거나 삭제를 요청하는 방식으로 운영된다.

정부가 인공지능 기반 탐지·신고 시스템을 도입해 지난 4월부터 9월까지 6개월간 아동·청소년 성착취물 9만 6210건의 삭제를 지원한 것으로 나타났다.

중앙디성센터 종사자 1인당 하루 평균 삭제 요청 처리 건수도 20.8건에서 202.1건으로 늘어 도입 전보다 약 9.7배 증가했다.이는 지난해 1년간 수작업으로 삭제를 지원한 4만5438건의 두 배를 넘는 규모다.

지난해까지는 삭제 지원 업무가 대부분 종사자의 수작업으로 이뤄졌다. 인공지능 시스템 도입 뒤에는 약 2만 개 사이트의 삭제 요청부터 처리 이력 관리까지 자동화됐고 특히 해외 기관과 콘텐츠 전송망 사업자의 연계로 우회 접속 주소에 대한 대량 삭제 요청도 가능해졌다. 건당 처리 시간은 1분 이내로 단축됐다.

이에 따라 종사자가 성착취물에 직접 노출되는 빈도가 줄어 심리적 부담을 덜고 피해자 지원 업무에 더 집중할 수 있게 됐다. 이와 함께 미국 국립실종학대아동방지센터와 클라우드플레어의 응용 프로그램 인터페이스 연계로 우회 접속 주소에 대한 대량 자동 삭제 요청도 가능해졌다.

자료/성평등가족부

이에 성평등부는 한국여성인권진흥원과 함께 인공지능 탐지 체계를 고도화하고 과학기술정보통신부와 협력해 내년까지 시스템 성능 개선과 탐지 플랫폼 확대를 추진할 계획이다.

아울러 대규모 데이터를 학습한 인공지능 모델로 탐지와 판별 정확도를 높이는 한편, 중앙디지털성범죄피해자지원센터의 AI 기술을 지역 현장까지 확대해 디지털 성범죄 피해자 지원을 강화할 방침이다.

또한 피해 청소년에게 지원 정보를 제공하는 인공지능 챗봇을 도입해 지역 디지털성범죄피해자지원센터에는 피해 영상물 분석·유포 감시·삭제 요청 소프트웨어를 보급한다. 내년 지역센터 시범 운영을 목표로 민감정보를 외부로 보내지 않는 처리 방식과 얼굴·문자 인식 기능을 개발할 계획이다.

원민경 성평등부 장관은 "기술 환경 변화에 따라 빠르게 진화하는 디지털 성범죄에 강력하고 신속하게 대응하려면 정부 차원의 기술적 대응이 필수적"이라며 "앞으로 인공지능 등 최신 기술을 현장에 적극 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 최선을 다하겠다"고 말했다.