인공지능 창작물에 워터마크 부착 의무화도 제안
|
사이버 안전위원회는 경고와 함께 챗GPT 또는 이미지, 음성, 비디오 생성기와 같은 챗봇 사용자의 안전 개선을 위해 업계가 취할 방법도 제시했다.
위원회는 첫 번째로 생성된 콘텐츠가 AI를 사용해 만들었다는 것을 표시하는 워터마크를 모든 창작물에 자동으로 포함하자고 제안했다. 로고와 같이 눈에 보이는 데이터나 보이지 않거나 들리지 않는 데이터를 디지털 멀티미디어 콘텐츠에 삽입하자는 것이다.
또 다른 제안은 모든 플랫폼에 더 나은 연령 감지 기능을 도입하는 것이다. 위원회는 생일 입력과 같은 간단한 연령 확인 장치는 간단히 우회할 수 있다면서 어린이가 유해한 콘텐츠를 생성하거나 악용할 가능성을 줄이기 위해 구체적인 보호 장치를 마련해야 한다고 주장했다.
그러나 위원회는 AI가 불법적인 콘텐츠를 제작하는 도구로 이용될 수 있는 상당한 위험도 있지만 성적인 착취로부터 아동을 보호할 수 있는 엄청난 잠재력도 가지고 있다면서 이번 경고가 업체를 겁주기 위한 것이 아니라고 덧붙였다.
생성 AI를 이용한 사이버 성범죄는 이미 광범위하게 퍼진 것으로 보인다. 줄리 그랜트 사이버 안전위원회 위원은 "생성 AI와 관련된 온라인 피해 신고 건수는 아직 적지만 우려할 만한 수준"이라고 지적하고 "기술이 더욱 정교해지고 널리 보급됨에 따라 앞으로 유사한 사례가 폭증할 것"이라고 말했다.
그랜트 위원은 특히 AI를 사용해 아동 성적 학대 자료를 생성하는 범죄자들이 늘어나면서, 착취와 학대를 당하는 실제 아동을 찾는 것이 더 어려워지고 있다고 우려했다. 피해자 식별 전문가가 진짜와 가짜를 구분할 수 없게 되어 아동 학대 조사가 복잡해질 수 있기 때문이다. 그는 "거대 기술중심 기업 업계는 지금 일어나고 있는 일을 무시해서는 안 된다. 이 문제를 제대로 해결하지 못하면 우리의 집단적 안전과 복지가 위태로워질 것"이라고 경고했다.
하지만 전문가들은 생성 인공지능 플랫폼이 대부분 외국에 있기 때문에 누가 안전 조치를 시행하고 유지 관리할 책임이 있는지에 대한 의문이 제기되고 있다고 지적했다.
닉 수저 호주 퀸즐랜드 공과대학 법학과 교수는 "외국에 있는 대규모 기술 기업에 적용되는 규정이나 감독 절차가 호주인을 위해서도 작동하도록 강제하는 실질적인 방법은 아직 없다"면서 "미국 기술 기업이 하는 일에 호주 정부가 정확히 어떤 영향을 미칠 것인지에 대해 국제적인 권력 투쟁이 벌어지고 있다"고 말했다.
