|
지난 8월, 미국 캘리포니아의 한 가족이 10대 아들의 자살 원인이 챗GPT라고 주장하며 오픈AI를 상대로 소송을 제기한 바 있다. 회사 측은 부모 통제 기능을 강화할 것을 약속했으며 이날 새로운 자녀 보호 기능을 출시했다.
부모는 자신의 챗GPT 계정에서 이메일 초대로 자녀의 계정을 연결할 수 있다. 연결된 자녀의 계정에는 더 강력한 콘텐츠 필터링이 적용돼 폭력적, 성적 내용 등 민감한 콘텐츠의 노출을 제한할 수 있다.
또 부모가 원할 경우 일부 필터를 비활성화할 수 있으며, 자녀는 스스로 이러한 내용을 변경할 수 없다.
자녀의 대화 내용이 위험하다고 판단되는 경우 해당 내용을 사람이 직접 검토하게 되며 이메일, 메시지나 앱의 푸시 알람을 통해 부모에게 경고한다. 다만 채팅 기록은 볼 수는 없다.
오픈AI는 사용자 나이를 자동으로 예측하는 시스템을 개발 중이며, 해당 시스템이 도입되면 미성년자에게 적합한 설정으로 자동 적용될 것이라고 설명했다.
다만 자녀가 언제든지 계정 연결을 해제할 수 있다는 점은 한계로 지적된다. 또 필터링이나 제어가 완벽하지 못하며, 의도적으로 우회하려는 시도를 막을 수 있는 장치는 부족하다는 지적이 있다.
