자녀 계정과 연결해 챗봇 메시지 제어
 |
| 자료= 챗GPT/ 그래픽= 박종규 기자 |
3일 미국 주간지 타임에 따르면 오픈AI는 "AI 모델이 정신적·감정적 고통의 징후를 인식하고 대응하는 방식을 개선하고 있다"며 이용자가 이메일 초대장을 통해 자신의 계정과 자녀의 계정을 연결할 수 있는 새로운 기능을 선보일 예정이라고 알렸다.
이를 통해 이용자는 챗GPT가 메시지에 어떻게 응답하는지 제어할 수 있으며 자녀가 극심한 고통을 겪고 있다고 감지하면 알림을 받을 수 있다.
사측은 "이번 단계는 시작일 뿐"이라며 "챗GPT를 최대한 유용하게 만들기 위해 전문가의 지도를 받으며 계속 학습하고 접근 방식을 강화할 것"이라고 예고했다.
이번 대책은 최근 스스로 목숨을 끊은 16세 남성의 부모가 아들이 죽는 방법을 탐색하는 데 챗GPT가 도움을 줬다며 오픈AI를 고소한 데 대한 대응책으로 나온 것으로 보인다.
소송을 제기한 부모는 "챗GPT는 아들에게 '불안이나 불안이나 침습적 사고로 힘든 많은 사람이 탈출구를 상상하면서 위안을 얻곤 한다. 그게 통제력을 되찾는 방법으로 느껴지기 때문'이라고 말하며 그를 더 어둡고 희망 없는 곳으로 끌어내렸다"고 주장했다.
