이용자 정신 건강 위협 가능성 제기하며 안전장치 마련 요청
|
10일(현지시간) 로이터통신에 따르면 38개 주와 4개 특별구의 법무장관들은 해당 기업에서 개발한 챗봇들이 아동과 성인 모두에게 정신 건강을 위험을 초래하고 있다고 지적했다.
서한을 받은 기업에는 퍼플렉시티, xAI, 앤트로픽, 차이AI, 캐릭터테크놀로지, 루카, 노미AI, 레플리카 등이 포함된 것으로 전해졌다.
이날 공개된 서한에서 이들 법무장관은 10대 남아가 극단적 선택 계획을 AI 챗봇에게 털어놨다는 언론 보도를 사례로 제시했다.
아울러 해당 기업들에 소프트웨어에 대한 독립적 감사를 허용하고 연방 및 주 규제 기관이 이를 검토할 수 있도록 해야 한다고 요구했다.
법무장관들은 빅테크 기업들이 AI 챗봇 이용자를 보호하기 위해 다양한 방식의 새로운 내부 안전장치 마련을 요청했다고 IT 매체 테크크런치가 보도했다.
현지 주 정부들은 AI 규제 권한을 둘러싸고 도널드 트럼프 행정부와 갈등을 빚고 있다.
행정부는 각 주가 자체적으로 AI 관련 법률을 제정하는 것을 금지하겠다는 입장이다.
주 법무장관들은 소속 당파를 불문하고 이에 반대하며 의회 지도부에게 해당 금지 조치를 거부할 것을 촉구하며 반발했다.
