EU, 머스크 AI 그록 ‘딥페이크 생성 논란’ 조사 착수

X의 디지털서비스법(DSA)상 의무 이행 여부 검토

26일(현지시간) 미국 플로리다주 마이애미에서 아이패드 화면 속 X 게시물에 그록 이매진 홈페이지 링크가 띄워져 있다./AFP 연합

유럽연합(EU)이 일론 머스크의 소셜미디어 플랫폼 X(옛 트위터)에서 인공지능(AI) 챗봇 그록이 왜곡된 성적 이미지를 무분별하게 유포한 사태에 관해 26일(현지시간) 공식 조사에 착수했다.

유럽 규제 당국은 X가 이용자에게 어떤 게시물을 노출할지를 결정하는 역할을 그록에 맡기는 시스템으로 전환하겠다고 밝힌 후 해당 추전 시스템을 대상으로 실시 중인 별도의 조사를 확대했다고 AP통신이 26일 보도했다.

특히 인터넷 이용자를 유해 콘텐츠로부터 보호하기 위한 EU의 포괄적인 규정인 '디지털서비스법(DSA)'에 따른 의무를 그록이 제대로 이행하고 있는지를 살펴볼 방침이다.

27개 회원국으로 구성된 EU 집행위원회는 "X가 조작된 노골적 성적 이미지와 같은 불법 콘텐츠의 확산을 억제하기 위해 EU의 디지털 규정이 요구하는 조치를 충분히 취했는지 조사하고 있다"고 밝혔다.

집행위는 조사 대상에 아동 성 학대물에 해당할 수 있는 콘텐츠도 포함된다고 설명했다. 그러면서 "위험이 이미 현실화됐으며 이로 인해 EU 시민들이 심각한 피해에 노출됐다"고 지적했다.

X 대변인은 "우리는 X를 모든 사람에게 안전한 플랫폼으로 만들기 위해 최선을 다하고 있다"며 "아동 성 착취, 동의 없는 노출, 원하지 않는 성적 콘텐츠에 대해서는 무관용 정책을 시행하고 있다"고 밝혔다.

머스크의 AI 개발사 xAI가 지난해 출시한 그록의 AI 이미지 생성·편집 툴에서는 최근 이용자가 게시한 이미지를 수정해 달라는 요청을 대거 허용했다.

그 과정에서 사진 속 사람들의 복장을 노출이 과한 것으로 조작하거나 아동 성착취물을 생성했고 이같은 성적 이미지가 무방비로 확산되도록 허용하면서 전 세계적으로 반발이 일었다.

이번 조사는 X에서 제공하는 그록 서비스만을 대상으로 하고 그록 웹사이트와 앱은 포함되지 않는다. 이는 DSA가 가장 규모가 큰 온라인 플랫폼에만 적용되기 때문이다.

조사 기한은 정해져 있지 않으며 결과는 X가 대책을 마련하기로 약속하는 선에서 끝날 수 있고 막대한 벌금 부과로 이어질 수도 있다.

EU는 DSA를 위반한 플랫폼에 전 세계 연 매출의 6％까지를 과징금으로 부과할 수 있다.

집행위는 지난해 12월 DSA에 따른 투명성 의무를 위반한 혐의로 X에 1억2000만 유로(약 2070억원)의 과징금을 부과했다.