틱톡, 선거철 허위정보·AI 생성물 대응 강화…“99% 선제 삭제”

/틱톡

글로벌 숏폼 플랫폼 틱톡이 오는 6월 지방선거를 앞두고 허위 정보와 생성형 인공지능(AI) 기반 조작 콘텐츠 대응 강화에 나섰다. 정치 광고와 정치 목적 모금 활동도 전면 금지하며 플랫폼 내 선거 공정성과 정치적 중립성 강화에 집중하겠다고 밝혔다.

20일 틱톡은 '선거 신뢰·공정성을 위한 플랫폼 안전' 온라인 브리핑을 열고 선거 무결성 대응 체계 및 플랫폼 운영 정책을 공개했다. 이날 브리핑에는 제드 호너 틱톡 오세아니아&동북아 고위험 정책 총괄과 김희수 틱톡 오세아니아&동북아 신뢰와안전 정책 매니저 등이 참석했다.

틱톡의 선거 대응 전략은 크게 ▲유해 콘텐츠 차단 ▲신뢰 가능한 정보 접근 지원 ▲전문가·규제기관 협업 기반 안전 체계 고도화 등 세 가지 축으로 운영된다.

우선 선거 관련 허위 정보 차단을 위해 투표 장소·자격·방식 등 선거 절차와 관련해 이용자를 오도할 수 있는 허위 정보와 특정 집단의 투표 참여를 방해하는 콘텐츠를 삭제한다. 실제와 다른 투표율 정보 유포나 특정 집단의 투표권 제한 주장 등도 제재할 방침이다. 틱톡 관계자는 "기만적 행위와 조작 콘텐츠도 엄격히 규제하며 거와 관련된 폭력 조장 콘텐츠와 혐오 표현 역시 금지 대상"이라고 설명했다.

생성형 AI로 제작한 콘텐츠(AIGC) 관리 기준도 더욱 강화했다. 사실처럼 보이는 AI 생성 콘텐츠는 AI 제작 사실을 명확히 표시하는 라벨 부착이 의무화된다. 다만 라벨이 있다고 해서 콘텐츠 업로드가 허용되는 것은 아니다. 틱톡 관계자는 "커뮤니티 가이드라인이나 국내법 위반 여부를 종합 검토해 필요시 삭제 조치를 진행한다"고 말했다.

정치 콘텐츠 운영 원칙도 공개했다. 틱톡은 추천 알고리즘이 정치 성향이나 특정 후보 지지 여부를 기준으로 콘텐츠를 노출하거나 배제하지 않도록 운영하고 있다고 밝혔다. 선거 관련 콘텐츠 역시 동일한 커뮤니티 가이드라인을 일관되게 적용한다는 방침이다.

정부기관·정당·정치인 계정에 대한 별도 제한 정책도 운영 중이다. 틱톡은 해당 계정에 정치 광고와 정치 목적 모금 활동을 허용하지 않으며, 크리에이터 수익화 프로그램 참여도 제한하고 있다고 설명했다.

중앙선거관리위원회와의 협업도 확대한다. 틱톡은 선관위 공식 계정을 통해 사전투표 안내와 선거 제도 관련 콘텐츠를 제공하고 있으며, 일부 게시물은 최대 5000만회 이상의 조회수를 기록했다고 밝혔다.

뿐만 아니라 앱 내 선거 정보 제공 기능도 운영 중이다. 이용자가 선거 관련 키워드를 검색하면 공신력 있는 출처와 선관위 정보로 연결되는 배너를 함께 제공해 잘못된 정보 노출 가능성을 줄이기 위함이다.

틱톡 관계자는 "최근 커뮤니티 가이드라인 집행 보고서 기준 삭제 콘텐츠의 99%는 이용자 신고 이전에 선제적으로 제거됐다"며 "삭제 콘텐츠의 86%는 조회수 발생 이전 단계에서 차단됐다"고 말했다.

이어 "선거 관련 허위 정보 대응을 위해 별도 TF를 운영 중"이라며 "사안에 따라 수 시간 또는 1시간 이내 조치가 이뤄지는 경우도 있다"고 신속한 대응을 강조했다.