음란물 추천하는 페이스북…미성년자도 무방비 노출

관련 키워드 검색 안했어도 추천
미성년자 대상 필터링 없어
친구·연령대 기반 알고리즘 탓
여성 특정부위 사진 무분별 확산

#40대 직장인 A씨는 최근 페이스북 피드를 보다가 음란 사진을 보고 불쾌감을 느꼈다. 페이스북이 여성 특정 신체 부위를 찍은 사진을 섬네일로 사용한 ‘페이스북 그룹’을 추천 그룹으로 노출했기 때문이다. A씨는 평소 페이스북을 잘 이용하지 않는 데다 페이스북에서 여성 신체 부위나 음란 관련 키워드를 검색하지 않았다.

페이스북이 개인 사용자 계정에 음란 게시물이 올라오는 페이스북 그룹을 추천하고 있다. 아동·계정에 대한 성인물 필터링 기능도 없어 19세 미만 미성년자에게도 무방비 노출된다.

페이스북 그룹은 페이스북의 자체 커뮤니티다. 공개 그룹과 비공개 그룹으로 나뉜다. 비공개 그룹은 그룹장이 가입을 허가해야 입장할 수 있다. 운영자에 한해 게시물을 올릴 수 있는 ‘페이스북 페이지’와 달리 그룹 참여자 모두 게시물을 올릴 수 있다.

29일 A씨 페이스북 피드에는 ‘야밤에 보기 좋은 영화 만화 19금’, ‘외로운 유부들의 정보공유 커뮤니티’ ‘섹시 19 움짤 저장소’ ‘응답하라 화류계’ 등 음란 관련 공개·비공개 그룹이 추천 그룹으로 노출되고 있다. 페이스북 피드는 사용자가 팔로우하는 페이스북 사용자나 페이지와 가입한 그룹의 글·사진·동영상이 노출되는 공간이다. 페이스북에 접속하면 보이는 첫 화면이기도 하다.

페이스북은 사용자 친구, 위치, 연령 등을 고려해 알고리즘에 따라 그룹을 추천한다. 문제는 사용자의 의지와 상관없이 음란 그룹을 추천한다는 점이다. 사용자가 음란 관련 게시물 또는 그룹, 페이지에 ‘좋아요’를 누르지 않아도 페이스북 친구가 가입했거나 주변 지역 또는 비슷한 연령대에서 인기 있는 그룹이라면 추천 그룹에 뜬다. 음란 콘텐츠를 접하려면 검색 또는 팔로우 같은 능동적인 행위를 해야 하는 구글·네이버 등 포털이나 인스타그램 등 다른 SNS(소셜네트워크서비스)와 달리 강제적으로 음란 사진에 노출되는 셈이다.

페이스북 추천 그룹은 알고리즘에 따라 △친구가 가입한 그룹 △사용자가 가입했거나 최근 방문한 그룹 △사용자 위치와 관련됐거나 근처에서 인기 있는 그룹 △페이스북 게시물·동영상·이벤트 및 기타 콘텐츠에 남긴 교류 △좋아요를 누르거나 교류한 페이지 등의 기준으로 노출돼 사용자에게 가입을 유도한다.

페이스북은 AI(인공지능)와 인력이 두 차례에 걸쳐 콘텐츠 모니터링을 진행하고 있다. AI 기반으로 나체 사진 등을 인식해 검열한 뒤 AI가 맥락을 파악하지 못하거나 애매한 경우 콘텐츠 리뷰어가 직접 판단한다. 한국어를 포함한 50개 이상의 언어로 사용자 커뮤니티에서 들어오는 신고 게시물에 대한 리뷰 및 지원을 진행한다.

커뮤니티 규정 위반 콘텐츠를 게시하거나 그룹 멤버의 규정 위반 게시물을 승인하는 등 관리자가 위반한 경우 해당 콘텐츠를 삭제하거나 그룹을 비활성화한다. 커뮤니티 규정에 따르면 성인 나체 이미지 및 성적 행위 등을 포함한 불쾌한 콘텐츠를 허용하지 않는다. 이에 해당하지 않을 경우 불쾌한 게시물로 분류되지 않아 검열 대상에서 제외된다. 커뮤니티 규정을 교묘하게 피해 올린 게시물에는 대처하지 못한다는 게 문제다.

이현숙 탁틴내일 대표는 “청소년들이 SNS를 통해 지속적으로 음란물에 노출되면 성에 대한 의미 해석과 상상을 음란물로 해 자의적으로 받아들일 위험이 있다”며 “디지털 성 착취가 심해진 상황에서 정부 차원의 법 제정과 주요 플랫폼들의 모니터링 강화 필요하다”고 지적했다.

페이스북 코리아 관계자는 “청소년 대상으로 유해한 그룹을 필터링하는 기능이 없지만 청소년에게 유해한 그룹이면 모든 사용자에게 유해한 그룹”이라며 “콘텐츠 기반으로 규정을 위반했는지 해로운지 판단해 콘텐츠를 내리거나 게시를 중지하고 있다”고 설명했다.