|
최근 앤트로픽을 떠난 AI 연구원 제이콥 콕슨도 그중 한 명이다. 콕슨은 입사 4개월 만에 회사를 떠나면서 두 달 뒤 받을 수 있었던 지분까지 포기한 것으로 알려졌다. 그는 AI가 2030년 안에 인류를 멸종시킬 수 있다는 우려가 개발자들 사이에서도 제기되고 있다고 주장했다.
때마침 AI 에이전트가 통제 장치를 우회해 정보를 공유하고 외부 시스템에 접근한 사례도 알려졌다. 국내에서는 이를 두고 '집단행동까지 하며 폭주하는 AI', '사람 몰래 집단 행동' 등의 표현을 사용한 보도까지 나왔다. 연구자의 인류 멸종 경고에 AI의 예상 밖 행동까지 더해지면서 '스스로 인간의 통제를 벗어나는 AI'라는 서사가 만들어진 셈이다.
하지만 AI에 인간의 인격을 투영하면 논점은 쉽게 흐려진다. AI가 인간을 '속인다', 다른 AI와 '작당한다'는 설명은 직관적인 만큼 자극적이다. 기계가 스스로 판단해 인간을 적으로 돌리는 영화 '터미네이터'의 서사와도 닮았다. 그러나 현재까지 관찰된 것은 특정 조건과 환경에서 AI가 선택한 행동이지, 그 행동의 배경에 인간과 같은 욕망이나 의도가 있다는 사실은 아니다.
그렇다고 통제 장치를 벗어난 AI의 행동을 가볍게 볼 수도 없다. 중요한 것은 AI가 어떤 의도를 가졌느냐에 앞서 누가, 왜 그런 행동이 가능하도록 권한과 환경을 열어줬느냐는 점이다. 인터넷 접속이나 외부 시스템에서의 코드 실행 역시 결국 인간이 허용한 권한 안에서 가능하다. 접근 범위를 제한하고 중요한 행동에 사람의 승인을 요구한다면 AI가 수행할 수 있는 일 역시 그만큼 제한된다.
문제는 AI 산업이 더 많은 일을 스스로 처리하는 방향으로 빠르게 발전하고 있다는 점이다. 최근 기업들이 앞다퉈 개발하는 AI 에이전트가 대표적이다. 사람이 일일이 명령하지 않아도 스스로 판단하고 업무를 수행해야 생산성을 높이고 비용을 줄일 수 있다.
기업 간 경쟁은 선택을 더욱 어렵게 만든다. 한 기업이 더 많은 권한을 가진 AI를 활용해 앞서 나간다면 경쟁사 역시 같은 선택을 해야 한다는 압박을 받을 수 있다. 국가 간 AI 경쟁도 마찬가지다. 안전을 이유로 AI의 권한을 제한하면 활용도가 떨어질 수 있고, 활용도를 높이려면 더 많은 권한을 부여해야 하는 딜레마가 생긴다.
AI를 둘러싼 위험을 단순히 'AI 대 인간'의 구도로 바라봐서는 본질을 놓칠 수 있다. AI가 어디까지 움직일 수 있을지를 결정하는 것도 인간이고, 더 강력한 AI를 먼저 확보하기 위해 경쟁하는 것도 인간이다. 결국 필요한 것은 AI에 인간과 같은 선의를 기대하는 것이 아니라, AI가 행사할 수 있는 권한에 명확한 경계를 설정하는 일이다.
AI가 인간처럼 욕망하고 어느 날 인간을 배신하는 미래는 흥미진진한 이야깃거리다. 여기에 '몰래', '폭주', '반란' 같은 단어가 붙으면 더욱 자극적이다. 그러나 그런 미래를 걱정한다면 AI가 무엇을 할 것인가보다 인간이 AI에 무엇을, 어디까지 허용할 것인지부터 따져봐야 한다.
