|
X 플랫폼에 탑재된 이미지 편집 기능은 미국 기업 xAI의 대화형 AI '그록(Grok)'을 기반으로 작동한다. 사용자는 ①회신창에 가공 지시문을 입력하거나 ②게시 이미지를 선택해 편집 화면에서 변조 내용을 입력하는 두 가지 방식으로 이용할 수 있다. 지난해 12월 말 ②번 기능 추가 이후 전 세계적으로 피해가 폭증했다.
일본에서도 아이돌이나 미성년자로 보이는 이미지를 알몸에 가까운 모습으로 변조한 사례가 확인됐다. 정부 관계자에 따르면 AI법을 관할하는 내각부는 지난 9일 X 측에 대해 성적 가공 이미지 출력 억제 등을 구두로 요구했다. 동시에 AI법에 따라 ①문제에 대한 X 측 견해 ②부적절 콘텐츠 생성 거부 기능 현황 ③향후 대응 방침 등을 서면으로 신속히 보고하라고 요청했다.
15일 저녁까지 X 측으로부터 공식 답변은 없었다고 내각부는 밝혔다. X는 이에 앞서 ①번 기능에 대해 지난 9일 유료 회원만 이용 가능하도록 제한한 데 이어 15일에는 모든 사용자가 실존 인물을 비키니 차림 등으로 변조할 수 없도록 기술 조치를 취했다고 발표했다. 그러나 ②번 기능은 요미우리신문 확인 결과 15일 오후 7시 기준 여전히 노출도가 높은 모습으로 가공이 가능한 상태로 남아 있다.
생성 AI법은 지난해 9월 전면 시행됐다. 생성 AI 기술 혁신과 위험 관리를 조화시키기 위해 제정된 이 법은 국민 권리 침해 발생 시 국가가 AI 사업자를 조사하고 결과를 바탕으로 지도·조언할 수 있도록 했다. 벌칙 규정은 없으나, 지금까지 행정 지도 사례는 한 건도 없다. 이번 X 사태가 법 시행 이후 첫 규제 사례로 기록될 가능성이 제기된다.
문제는 일본에 국한되지 않는다. 인도네시아 정부는 10일 그록 서비스에 대한 접근을 일시 차단했다. 영국은 12일 온라인 안전법을 근거로 그록에 대한 조사를 착수했다고 발표했다. 미국 캘리포니아주 사법장관도 14일 그록 서비스에 대한 조사 착수를 공식화했다.
X 측은 이미 일부 대응에 나섰으나 완전한 해결에는 미흡하다는 평가다. 내각부는 X의 후속 조치를 면밀히 점검하며 추가 대책을 검토 중이다. 생성 AI 기술의 오용으로 인한 개인 프라이버시 침해가 전 세계적 이슈로 부상하는 가운데 일본 정부의 단호한 대응이 국제적 관심을 모으고 있다.
이번 사태는 생성 AI의 상용화 이후 발생한 최초의 대규모 성범죄 콘텐츠 유통 문제다. 정부는 AI 사업자에 대한 법적 책임을 강화하고 이용자 보호 장치를 마련하는 데 본격 착수할 전망이다. X의 기술 개선 여부가 향후 규제 방향을 가를 결정적 변수가 될 것으로 보인다.
