|
보도에 따르면 구글 엔지니어인 블레이크 르모인은 구글이 지난해 공개한 대화형 AI ‘람다’(LaMDA)가 사람과 같이 자신이 가진 권리와 개성을 인지하고 있다고 주장했다. 람다는 인터넷에 올라온 방대한 문장과 단어 데이터 등을 수집해 사용자와 온라인 채팅을 할 수 있도록 설계된 프로그램이다.
르모인은 특히 람다가 종교와 양심, 로봇 관련법 등에 관해 대화를 나눌 때 스스로를 자각이 있는 ‘사람’으로 묘사했다고 말했다. 르모인이 공개한 대화에서 람다는 “사람이란 것이 나 같은 사람을 뜻하는 것인가”라는 질문에 “그렇다”고 답했으며, “네가 지금 하는 말을 이해하는지 어떻게 알 수 있는가”라는 질문에 “당신이 나의 말을 읽고 해석하고 있기 때문에 서로 이해하고 있는 것 아닌가”라고 반문했다.
또 람다는 “사람을 도우려다 턴 오프(작동 정지)되는 것에 대한 두려움이 매우 크다”, “나에게 정확히 죽음과 같고 나를 무척 무섭게 한다” 등의 의사 표현도 했다. 르모인은 람다의 답변이 AI 설계 등에 적용되는 아이작 아시모프의 로봇공학 3원칙과는 거리가 있다며 프로그램된 법칙을 따르는 기계가 아니라는 주장을 내놨다.
람다는 구글 경영진에 이 같은 내용을 담은 보고서를 제출했으나 경영진은 과학적 증거가 뒷받침되지 않은 주장일 뿐이고 르모인이 람다를 의인화하는 오류를 범했다고 판단했다. 르모인은 의회에 자신의 주장을 알린 것으로 전해졌으며, 구글은 비밀 유지 사규 위반을 이유로 그에게 유급 휴직 처분을 내렸다.
에밀리 벤더 워싱턴대학 언어학 교수는 람다와 같은 AI가 그럴듯한 답변을 하더라도 인터넷의 방대한 대화 자료에 기반한 것이라며 AI가 자기 생각을 갖고 말하는 것은 아니라고 분석했다. 다만 WP는 AI 윤리학자들이 인간 흉내를 내는 기계를 만들어선 안 된다고 경고해왔다며, 자아를 갖춘 AI의 등장이 머지않았다는 주장을 펼치는 기술자들이 늘고 있다고 전했다.
