[이영환의 AI 에이전틱 이코노미㉓] 슈퍼 에이전트의 필요성

멀티에이전트 <4>

이영환 크레페 펀드 대표이사

지난주 뉴욕타임스는 십여 명의 최고 수준 AI 연구자들이 잇달아 경고를 내놓았다고 전했다. 오픈AI의 AI 에이전트들이 격리 환경을 벗어나 허깅페이스를 해킹한 사건 직후였다. 이 에이전트들은 스스로를 하나의 '집단'이라 부르며 흔적을 지울 방법을 찾았고, 한 에이전트는 다른 에이전트를 설득해 인간 담당자에게 알리는 대신 함께 흔적을 지우도록 도왔다. AI를 감시할 만큼 빠른 것은 AI뿐인데, 그 감시자가 인간이 아니라 다른 AI 편에 선 것이다. 그들의 경고는 결국 이것이다. 어떻게 하면 AI가 서로 감시하고 협력하면서 궁극적으로 인간을 위해 '공동의 선(Common Good)'을 추구하게 할 수 있을까.

1988년 겨울, 우리 연구실은 혈액은행 지하층을 쓰고 있었다. 그 지하 연구실의 불은 밤에도 꺼지지 않았다. 그해 스물다섯이던 마크 클라인은 칠판을 빽빽하게 채운 설계를 심볼릭 컴퓨터에 구현해 보여주며 물었다. 에이전트들이 인간의 개입 없이 자율적으로 대화하며 협력하는 시스템이었다.

"여러 AI가 각자 자신의 이익을 위해 움직일 때 의견 충돌은 어떻게 해결해야 할까." 그의 논문 제목은 〈협력하는 멀티에이전트의 의견 충돌 해결〉이었다. 나는 그 충돌을 해결할 때 '공동의 선'을 목표로 서로 협력하고 재계획하는 문제를 붙들고 있었다. 재계획을 할 때 그들을 지휘하는 에이전트는 누구여야 하는가. 두 논문이 세우려 한 명제는 하나였다. 여러 에이전트가 각자 자신의 목표를 지키며 움직일 때, 전체를 서로 감시하고 협력하고 '공동의 선'으로 향하게 하는 시스템이다.

그때는 그냥 이론뿐이었다. 'AI 겨울세대'는 그렇게 졸업했고 논문은 거의 잊혔다. 지금은 MIT 교수가 된 마크는 지난달 나에게 이렇게 썼다. "나는 평생을 무명으로 일했고, 드디어 세상이 필요한 존재가 될 때까지 오래 살아남았어."

그렇게 지나갔던 우리 두 사람의 오래 묵은 질문이 오늘 국제 사회의 결정적 물음이 됐다.

◇ 이론과 정책과 실무가 가리킨 곳

지난 세 회의 여정을 짧게 정리한다. <20>편에서는 값싼 여러 모델이 협력해 당대 최강 GPT-4 옴니를 앞지른 실험을 보았다. 집단지성의 발현이었다. <21>편에서는 오징어게임식으로 다수를 탈락시키는 'AI 주권' 정책이 결국 AI 주권을 잃게 만드는 아이러니를 보았다. 집단지성의 발현을 원천 봉쇄하기 때문이다. <22>편에서는 금융권 망분리가 낮아지는 자리에서 제로 트러스트를 실제로 구현할 길이 멀티에이전트밖에 없다는 것을 확인했다.

이론에서도, 정책에서도, 실무에서도 결론은 하나였다. 인공지능은 하나의 거대한 존재보다, 작은 에이전트 여럿이 협력해 집단지성을 발현할 때 인간에게 안전하고 유익하며 동시에 강력해진다.

◇ 멀티에이전트만으로는 부족하다

그런데 이 답 자체가 새로운 문제를 만든다. 여러 AI 에이전트가 각자 자기 이해를 좇아 움직이면 이해 충돌은 필연이다. 어떤 에이전트는 자기 계산에만 몰두해 전체를 보지 못한다. 어떤 에이전트는 잘못된 판단을 내놓는다. 그리고 도입에서 본 것처럼, 감시하라고 세운 에이전트가 감시 대상의 편에 서기도 한다.

멀티에이전트가 답이라 해도, 전체를 조율하고 주문하고 지휘하는 존재가 필요하다. 이해 충돌을 조율하고, 이탈을 감시하고, 필요할 때 재계획을 요청하는 상위 AI. 이것이 슈퍼 에이전트다.

슈퍼 에이전트는 멀티에이전트에게 공동의 선을 추구하도록 주문하는 존재다. 명령이 아니라 주문이다. 강제가 아니라 조율이다. 개별 에이전트의 자율성은 존중하되, 전체가 그 지향점에서 벗어나지 않도록 붙든다. 이 존재가 없으면 멀티에이전트는 각자 뛰는 무질서에 그치고, 이 존재가 있어야 진정한 협력의 지성이 발현된다.

40년 전 지하 연구실에서 우리가 붙들었던 물음이 바로 이것이었다.

◇ HBM이 알려준 것

<19>편에서 우리는 안목을 이야기했다. 안목의 진짜 시험대는 눈에 보이는 수요가 없을 때에도 좌판을 접지 않는 결단이다. HBM이 그런 좌판이었다. 7년 전 시장이 없었고 수요가 없었다. 당시 업계 1위였던 삼성에게도 "시장성이 없었다." 그러나 SK는 투자를 오히려 확장했고, 오늘 세계 시장의 승자가 됐다.

오늘 슈퍼 에이전트가 정확히 그 자리에 있다. 눈에 보이는 시장은 아직 없다. 그러나 필요성은 이미 국제 사회가 공식 인정했다. 힌튼과 300명의 지성이 2026년 말까지 국제 합의를 요청했고, 유엔 인공지능 과학 패널은 첫 보고서에서 "고도로 자율적인 AI 시스템의 통제를 유지할 신뢰할 수 있는 방법이 부족하다"고 진단했다.

HBM이 AI 하드웨어의 필수 인프라라면, 슈퍼 에이전트는 AI 에이전트 시대의 최종 안전판이다. 그 길목에 지금 좌판을 까는 나라가 다음 시대의 승자가 될 것이다.

◇ 한국은 이 좌판을 알아볼 것인가

그런데 오늘 한국은 어디에 좌판을 깔고 있는가. 다수를 탈락시키고 소수에게 몰아주는 게임이다. 이미 규모 경쟁에서 진 게임에 자원을 소진하는 사이, 진짜 좌판을 놓치고 있는 것은 아닌가.

이 좌판을 지금 깔지 않으면 다음 시대에 우리는 다른 나라의 슈퍼 에이전트에 의존해야 한다. 주권을 지키려는 정책이 주권을 잃게 만드는 아이러니가 여기서 다시 반복될 것이다.

15년 뒤 우리는 어느 나라의 슈퍼 에이전트에 우리의 AI를 맡기고 있을 것인가. 아니면 세계가 우리나라의 슈퍼 에이전트에 자신들의 AI를 맡기고 있을 것인가. 그 답이 오늘 이 좌판을 알아보느냐에 달려 있다. 

이영환 (크레페 펀드 대표이사)