음란물 추천하는 페북 AI알고리즘…왜?

구체적 기준 공개불가…콘텐츠마다 제각각
나체사진 삭제 조치했다가 다시 올려
"기업 사회적 책임 강화 및 법제도 마련해야"

/제공=아시아투데이

페이스북이 19세 미만 미성년자에게도 음란물이 올라오는 ‘페이스북 그룹’을 추천하면서 AI 알고리즘에 의문이 제기되고 있다. 성인용 사진이나 그룹 이름을 미성년자를 대상으로 필터링하지 않은 채 그대로 노출하고 있기 때문이다. 정부 차원의 법적 제도 마련과 기업의 사회적 책임을 강화해야 한다는 목소리가 나온다.

29일 아시아투데이 취재 결과 페이스북에서는 여성 특정 신체 부위를 강조한 사진이나 동영상 등 성인 콘텐츠를 공유하는 페이스북 그룹이 추천되고 있다. 공개 그룹과 비공개 그룹 모두 추천된다. 공개 그룹은 관리자 승인이 없이 누구나 게시물을 볼 수 있다. 비공개 그룹은 공개 그룹보다 접근성이 떨어지지만 높은 수위의 성인 게시물이 올라올 것으로 추정된다. 가입 멤버 수도 적지 않다. 비공개 그룹 ‘19금 섹시 사진 그리고 유부 or 돌싱 일탈’의 멤버 수는 4만여명에 달한다.

성인 게시물 제재에 명확한 기준이 없는 것으로 추정된다. AI 알고리즘이 1차 모니터링에서 거르지 못한 여성 상반신 노출 사진을 ‘콘텐츠 리뷰어’가 검열해 삭제 조치했다가 사진이 게재된 페미니스트 그룹의 이의신청을 받고 다시 올린 사례가 있다. 원칙상 나체 이미지나 성적 행위 등을 허용하지 않으나 경우에 따라 나체 사진을 용인한 사례다.

페이스북은 국가별 성인물 유포 상황에 맞는 현지화 작업을 하지 않고 있다. 한국에서만 적용하는 규정이 따로 없고 콘텐츠마다 세부적으로 다르게 적용한다. AI 알고리즘을 공개 불가하다는 입장이다. 페이스북 관계자는 “누가 봐도 적절하지 않은 콘텐츠를 올렸을 때 3시간에서 4시간 30분 사이 삭제 조치했다”며 “AI가 리뷰해 필터링하는 시간보다 이용자 신고 시그널이 올라가면 AI가 이를 우선으로 리뷰한다”고 말했다.

전문가들은 AI가 데이터를 기반으로 알고리즘을 짠 사람에 따라 다르게 작용해 완벽할 수 없다며 도덕적 의식과 제도적 장치를 강화해야 한다고 지적했다. 강홍렬 카이스트 교수는 “콘텐츠가 많아 1차적으로 AI가 걸러야 하지만 어떤 알고리즘이나 규칙을 기반으로 지시에 따르는지 알 수 없다”며 “사람이 개입할 수밖에 없어 중립성 유지가 불가능하다. 기업이 도덕적 의식을 갖춰야 문제를 해결할 수 있다”고 설명했다.

조진경 십대여성인권센터 대표는 “페이스북이 각종 인터넷이나 모바일 애플리케이션 서비스의 로그인 연동 아이디로 쓰일 만큼 주요 플랫폼이 된 상황에서 AI가 제대로 학습할 때까지 기다릴 수 없다”며 “정부가 규제 방안을 만들고 감시해 기업이 책임질 수 있게 해야 한다. 유해물 유포를 방어할 수 있는 기술적 조치를 전담할 기구도 필요하다”고 주장했다.

조명희 한국사이버성폭력대응센터 대표도 “페이스북이 차단이나 이용 정지 등 제재 방식뿐 아니라 콘텐츠 공유에 대한 경고나 안내 등을 통해 올바른 콘텐츠 문화가 정착할 수 있도록 유도해야 한다”며 “정부에서도 음란물 유포와 불법 촬영물 유통 사이트 운영자를 처벌할 수 있는 법안을 마련하는 게 필요하다”고 말했다.