네이버, 생명 경시·2차 가해 댓글 집중 차단…‘AI 클린봇 3.0’ 업그레이드

생명 경시 조장, 사고 피해자, 유족 혐오성 댓글 집중 차단
"맥락에 따라 정확하게 악의적 의도 탐지"

AI클린봇 3.0./네이버

네이버는 29일부터 'AI 클린봇 3.0' 업그레이드 버전을 적용한다고 밝혔다. 자살·사망 등 생명 경시를 조장하는 댓글과 사건·사고 피해자 및 유족을 향한 혐오성 댓글을 집중 차단하는 방식이다.

이번 업그레이드는 댓글 내용뿐 아니라 기사 제목과 본문을 함께 분석해 맥락을 파악한다. 같은 단어라도 기사 주제에 따라 악의적 의도를 다르게 판단할 수 있게 됐다.

네이버는 2019년 업계 최초로 AI 클린봇을 도입했다. 초기에는 욕설·비속어 같은 악성 키워드를 자동 탐지하는 수준이었다. 2020년에는 문장 맥락 분석 기능을 추가해 욕설이 없어도 모욕적 표현을 걸러냈다. 이후 성적 불쾌감 유발, 혐오·비하·차별 표현, 기호·문자를 활용한 우회 악플까지 탐지 범위를 넓혔다. 2023년에는 한국인터넷자율정책기구(KISO) 혐오표현 가이드라인을 반영했다.

김수향 네이버 리더는 "새롭게 생기는 혐오·비하·차별 표현을 탐지하기 위해 클린봇 성능을 계속 강화하고 있다"고 말했다.

네이버는 올해 정치·선거 섹션 본문 하단 댓글을 제공하지 않고 있다. 악성 댓글이 일정 기준을 넘으면 해당 기사의 댓글 서비스를 자동으로 비활성화한다.