|
11일(현지시간) 로이터와 현지 매체 등에 따르면 메우티아 하피드 인도네시아 통신디지털부 장관은 전날 성명을 통해 "AI 기술을 이용한 가짜 음란물로부터 여성과 아동, 대중을 보호하기 위해 그록 애플리케이션에 대한 접근을 일시적으로 차단했다"고 발표했다.
하피드 장관은 "비동의 성적 딥페이크 관행은 디지털 공간에서 시민의 인권과 존엄성, 안전을 해치는 심각한 위반 행위"라고 규정했다. 인도네시아 정부는 엑스(X·옛 트위터) 관계자들을 소환해 이 문제를 논의할 예정이다. 인도네시아는 엄격한 반(反)포르노 법을 시행하고 있어 온라인상의 음란물 공유를 강력히 처벌하고 있다.
실제로 머스크의 AI 스타트업 xAI가 개발한 그록은 최근 사용자가 입력한 인물 사진에서 옷을 제거하거나 성적인 자세로 변형하는 등 악용 사례가 속출하며 뭇매를 맞았다. 특히 미성년자를 대상으로 한 성착취물 생성까지 가능했던 것으로 드러나면서 파장이 커졌다.
인도네시아의 이번 차단 조치는 유럽과 아시아 각국 규제 당국이 그록의 성적 콘텐츠에 대한 조사에 착수한 가운데 나온 것으로, 향후 다른 국가들의 규제 정책에도 영향을 미칠지 주목된다. 가디언은 영국 등 일부 국가에서는 엑스(X) 자체에 대한 금지 가능성까지 거론되고 있다고 전했다.
비판이 거세지자 xAI는 지난 9일 이미지 생성 및 편집 기능을 유료 가입자에게만 제한하겠다고 밝혔다. 머스크는 "그록을 이용해 불법 콘텐츠를 만드는 자는 불법 콘텐츠를 직접 업로드한 것과 동일한 처벌을 받게 될 것"이라고 경고했다.
하지만 국제사회는 이 조치가 미봉책에 불과하다고 비판한다. 키어 스타머 영국 총리실 대변인은 "불법 이미지 생성 기능을 유료 서비스로 전환한 것에 불과하다"며 "이는 성폭력 피해자들을 모욕하는 행위이자 해결책이 아니다"라고 맹비난한 바 있다. 앤서니 앨버니지 호주 총리 역시 "동의 없는 성적 착취에 생성형 AI를 사용하는 것은 혐오스럽다"며 소셜 미디어의 사회적 책임을 강조했다.
국제적 비판에도 불구하고 xAI 측의 반응은 냉소적이다. 로이터는 이번 사안에 대한 논평을 요청했지만 xAI는 "레거시 미디어의 거짓말"이라는 자동 응답 메시지만을 보내왔다고 전했다.
