서울시, ‘디지털 성범죄’ 영상 자동검색→삭제 기술 만든다

서울기술연구원, AI 기반 검색 기술 2023년 상반기까지 개발 예정

서울시청 전경. /박성일 기자

서울시와 서울기술연구원이 인공지능(AI)을 활용해 디지털 성범죄 피해 영상물을 찾고 삭제까지 지원하는 기술 개발·도입에 나선다.

7일 시에 따르면 해당 기술은 디지털 성범죄 피해 영상물을 자동으로 찾아내 삭제 요청까지 한번에 지원하며 유해사이트 확산도 방지하는 식으로 개발 예정이다. 비디오·오디오·텍스트 데이터를 복합적으로 분석해내 영상 속 피해자의 얼굴 뿐 아니라 움직임, 오디오의 주파수나 대화 내용까지 파악할 수 있다.

기존에는 피해자의 얼굴만을 파악하는 ‘안면매칭’ 기법만을 이용해 영상 검색 정확도가 떨어졌다고 시는 설명했다. 서울기술연구원은 이를 개선하고자 AI를 기반으로 머신러닝과 딥러닝 기술을 활용해 데이터를 종합적으로 분석 가능하게 할 계획이다.

아울러 영상을 삭제해도 시간이 지나면 다시 확산하는 디지털 성범죄 특성을 고려해 디지털 성범죄 유해사이트 자동 검색 기능도 개발한다.

서울기술연구원은 이같은 내용의 기술 개발을 오는 2023년 상반기 내에 마무리짓고 시가 운영 중인 디지털성범죄 안심지원센터(센터)의 피해 영상 추적 시스템으로 운용할 방침이다.

한편 시는 지난 3월 센터를 개관하고 상담부터 피해영상 삭제·심리치료 등을 지원하고 있다. 시는 서울기술연구원에서 이번에 개발하는 기술을 추가 도입하면 디지털 성범죄 피해 영상물 재확산을 막고 보다 빠른 삭제 지원이 가능할 것으로 기대하고 있다.

임성은 서울기술연구원장은 “날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이라며 “AI 삭제지원시스템 개발을 성공적으로 마무리하고 24시간 가동될 수 있도록 해 디지털 성범죄 없는 ‘안심 서울’을 만들도록 노력할 것”이라고 밝혔다.