[박재형 칼럼] 인공지능과 디지털 권위주의

박재형 재미 정치학자

미국 백악관은 이달 초 구글, 마이크로소프트 등 인공지능(AI) 분야를 선도하는 기술 대기업, 일명 '빅테크'의 최고경영자(CEO)를 초청해 AI 혁신과 책임에 대해 논의했다. 이날 카멀라 해리스 부통령이 주재한 회의에 잠시 들렀던 조 바이든 대통령은 트위터에 올린 글에서도 책임감 있는 혁신과 함께 무엇보다 AI에 의한 위험의 최소화가 필요하다고 강조했다. 

백악관에 빅테크 CEO들이 모이기 바로 전, 'AI의 대부'로 유명한 제프리 힌턴 박사가 AI 발전으로 인한 위험을 경고하며 자신이 몸담아 온 회사인 구글에서 퇴사한다고 발표했다. 이보다 앞서서는 일론 머스크 테슬라 CEO 등 AI 전문가, 업계 관계자 등 1,000여 명이 AI 개발의 잠정 중단을 주장하고 나섰다. 

인터넷, 디지털 등 기술 전문가를 대상으로 한 미국 퓨 리서치 센터(Pew Research Center)의 설문 조사 결과, 응답자 중 거의 절반인 49퍼센트가 앞으로 10년 동안 기술의 이용이 민주주의에 부정적인 영향을 미칠 것이라고 답했다. 반면에 기술이 민주주의를 발전시킬 것이라는 응답은 소수에 그쳤다. 

이처럼 많은 전문가가 과학기술이 민주주의에 미치는 영향을 우려하는 이유는 무엇일까? 러시아, 중국 등 권위주의 국가들에서는 국민에 대한 사회적 통제뿐만 아니라 다른 국가의 민주주의에 영향을 미치기 위해 감시기술·인공지능·빅데이터를 자신들에게 유리하게 이용하는 능력을 급속히 발전시켰다. 

누구에게나 개방적이고 검열 없는 인터넷 환경, 그리고 AI와 같은 혁신적인 기술의 급속한 발달은 국가 권력의 감시와 통제에 최고의 기회가 될 수 있다. 실제로 이미 대규모 데이터와 첨단 인공지능 기술의 결합은 정부가 국민을 감시·통제하고 영향력을 행사하는 데 과거에는 없던 훌륭한 수단이 되고 있다.

예를 들어 인공지능 기반 감시 기술은 지난 10년간 비약적으로 발달해 새로운 경지에 도달했다. 이메일, 전화, 문자 메일, 메신저 애플리케이션, 소셜미디어, 온라인 결제 등 모든 전자 통신이 감시의 대상이 되었다. 검색 기록, 추적 도구 및 소셜 로그인을 통해 모든 개인의 데이터를 수집·분석할 수 있다. 

인공지능 알고리즘은 이러한 데이터를 바탕으로 심리학적인 분석도 제공한다. 얼굴·음성·동작 인식 등 인공지능 기반 감시 기술이 발전하면서 공공장소 감시 카메라 망(網)도 함께 등장해 현실 속 개인을 추적할 수 있다. 다른 기술의 발전과 마찬가지로 예측 분석과 함께 감시 도구를 이용해 정부는 보안·안전을 이유로 대중을 통제하고 대중의 행동을 예측해 대응할 수 있다.

권위주의 국가는 이러한 도구들을 이용해 어떠한 종류의 반대도 초기에 감지하고 예방할 수 있다. 또 지배 엘리트에 의한 권력 독점과 경제력 집중에 도전하는 반대 세력을 막을 수 있다. 권위주의 정부는 민간기업이 수집하고 저장하는 모든 정보와 데이터에 강제로 접근할 수 있으므로 시민의 모든 삶이 국가에 의한 감시와 통제 수단의 범위 안에 있게 된다.

모든 종류의 스마트 기기를 포함한 사물인터넷(IoT)은 시청각 수단과 함께 다양한 센서를 이용해 감시망을 더욱 확대할 수 있다. 중국이 운영 중인 사회신용평가제도는 대중 스스로 검열하고 정부가 관리한다고 하지만, 개인이 정부에 종속되어 정상적이고 평범한 사회생활을 할 수 없도록 하는 강력한 도구가 됐다.

이러한 도구들은 '디지털 권위주의'를 불러왔다. 사실 감시 기술은 '이중 사용'이라는 특성으로 인해 국민을 보호하는 데 이용되는지, 감시·탄압하는 데 이용되는지 구분하기 쉽지 않다. 교통 통제나 범죄 퇴치를 위한 감시 기반시설이 반대파를 감시하거나 단속하는 도구로도 사용될 수 있다. 특히 중국 기업들은 감시 기술을 자국 정부뿐만 아니라 다른 국가 정부와 보안 기관에 수출하는 주요 업체로 알려졌다. 

전 세계적으로 인공지능 시스템은 권위주의 정권을 선동하고 시민과 국가 간의 관계를 뒤집을 수 있는 잠재력을 보여주고 있으며, 이로써 권위주의의 세계적 부활을 가속화하고 있다. 또한 대규모 데이터베이스와 첨단 머신러닝 기술을 기반으로 하는 안면인식 기술은 반대 세력을 억압하려는 권위주의 정부의 시도를 현실로 만들어주는 '게임 체인저'(game changer)가 되고 있다.

민주주의 국가 정부에서는 권위주의 국가에서와 달리 감시 기술의 광범위한 사용이 쉽지 않다. 의회 등 입법부와 대중의 반대가 강하기 때문이다. 그러나 정부는 테러 예방, 범죄와의 전쟁 등을 위해 감시 기술을 사용해야 한다고 설득한다. 테러 공격으로 인한 피해와 끔찍한 범죄 사건은 정부 입장에 찬성하는 쪽으로 여론을 변화시킬 수 있다. 

과학기술의 발전이 민주주의를 약화할 것이라는 우려가 깊어지고 있다. 반대로 민주주의 발전에 과학기술 발전이 도움이 될 것이라고 주장하는 사람도 많지만, 이들 또한 최근의 추세와 관련해 우려하는 부분이 있다. 이러한 우려는 대부분 개인의 자유, 개인정보의 보호 등과 관련되어 있다.

중국이 개발한 인공지능 감시 기술은 세계 각국으로 수출되고 있다. 조만간 세계 인구 대다수가 중국산 감시 시스템 아래에 놓일 것이라는 예상도 가능하다. 이 시스템은 모든 시민을 하루 24시간, 일주일 내내 관찰하고 모든 행동을 모니터링 할 것이다. 인공지능 감시 시스템의 알고리즘은 조지 오웰이 상상했던 빅브라더보다 훨씬 뛰어나다. 문제는 이처럼 훌륭한 기술이 개인의 자유를 보호하는 방향이 아니라 자유를 포기하도록 이용될 가능성이 더 크다는 점이다.

과학기술은 어떻게 사용하고 누가 통제하느냐에 따라 민주주의를 개선할지 혹은 약화시킬지가 갈린다. 현재 과학기술은 소수에 의해 통제되고 있다. 소수는 자신이 가지고 있는 통제 권력을 나누려고 하지 않는다. 강한 권력이 소수의 손에 집중될 때 그 결과가 무엇인지 우리는 역사를 통하여 잘 알고 있다.