|
13일 업계에 따르면 전날 네이버에 올라온 김용호 자살 뉴스 관련 기사에는 댓글이 여전히 활성화 되어있다. 댓글 중 "진작 죽었어야 할 악의 축"등의 댓글이 달려있어 자살 분위기 조성이 우려되는 상황이다. 네이버는 지난달 26일부터 AI가 자살 관련 내용으로 인식한 기사에는 댓글과 추천 스티커를 제외한다고 밝혔다. 대신 해당 기사의 본문 하단부에 "당신은 소중한 사람입니다"라는 내용의 자살 예방 배너를 올린다. 포털의 사회적 책무를 다한다는 설명이다.
네이버의 자살 뉴스는 AI를 이용해 필터링 되고 있다. AI시스템은 먼저 댓글 데이터 세트를 학습한 후 지정된 명령어에 따라 댓글을 거르게 된다. 최병호 고려대학교 인공지능연구소 교수에 따르면 "(네이버의 AI 필터기술은) 어렵지 않은 기술인데 예를 들면 기사를 모아 특정 키워드, 맥락, 내용 등으로 필터링 된다"고 전했다. 이어 자살 뉴스 댓글을 막는것이 AI 필터링만으로 완벽하긴 어렵다는 입장을 전했다. 그는 "데이터를 기반으로 맥락 및 키워드를 적용해 걸러내는게 어렵다"며 "이 방식은 욕설 필터링 구조와 똑같은데 욕설도 필터링해도 빠져나가는 일이 있듯 이것도 필터링 기술에 따라 다르다"고 설명했다. 이어 "키워드라면 모든 키워드를 다 정리해서 특정 이름에 대해 걸러지게 해야는데 정리 과정에서 빠질수도 있다"고 말했다. 그러면서 "(네이버)이용자들도 AI가 필터링 한다는 것을 알기 때문에 필터링 되지 않는 초성이나 다른 방식으로 (작성) 할수도 있어 모니터링을 하며 접근해야 완전히 걸러낼 수 있다"고 덧붙였다.
|
이상근 서강대학교 교수는 "현재 네이버가 사회적 책무를 다하고 있다고 보기 어렵다"며 "2018년부터 댓글 막는다는 얘기가 계속 이어졌는데 여전히 그대로다"라고 설명했다. 이어 "기술로 댓글 필터링이 잘 안되면 모든 댓글을 막으면 되는데 현재 댓글이
미끼역할을 해주니까 옛날에 하던 방식을 고수하는 것"이라며 "(네이버가)이 방식이 비용대비 효과가 좋으니까 없애기 싫은것"이라고 설명했다. 그러면서 "사회적 책무도 잘 지켜지지 않고 있다"라고 입장을 전했다.
