무기로 악용되는 AI… 국정원, 국가안보급 위협 첫 경고

인공지능 위험 사례 분석
챗봇·스마트홈 장치 등까지 표적
국가 기밀·사생활 정보 유출 급증
전문가 "공격 탐지·방어기술 절실"

/게티이미지뱅크

#1. 전 국민을 대상으로 IT 제품과 서비스를 공급하는 대기업 A사는 업무 효율을 위해 기업 내부 데이터를 학습해 직원들의 질문에 답변하고, 각종 문서와 이메일을 요약하는 사내 '인공지능(AI) 챗봇' 비서를 도입했다. 해당 기업의 정보를 탈취하려다 실패한 B 해킹 조직은 AI 챗봇 비서를 겨냥했다. 이들은 AI 챗봇을 타깃으로 공격을 벌여 직원들이 업로드한 각종 기밀 정보를 출력하도록 유도했다. 그 결과 수천만명의 고객 정보와 국가 지원 첨단기술 프로젝트 등 대규모 데이터가 유출됐다.

#2. 실내 냉난방 조절과 생체인식 기반 도어록·가정용 CCTV 등 거주자 편의를 위한 AI 기반 '스마트홈' 기기 사용이 보편화되자 해킹 조직이 통신구간의 취약점을 공격해 스마트홈 통신 인증키를 획득했다. 해킹조직은 AI 시스템을 조작해 AI 냉난방 조절 장치를 오작동시켜 화재를 유발했고 AI 도어록 기능 조종으로 인한 범죄자 침입, 가정용 CCTV 등에 저장된 사생활 영상·음성 정보 유출 등을 야기했다.

국가정보원(국정원)이 AI를 새로운 형태의 '안보 위협'으로 규정했다. AI가 악용되며 딥페이크 등 정보조작과 민감 정보 유출이 빈번히 발생하고 있기 때문이다. AI가 국가 안보를 비롯해 재난, 경제, 의료 등 일상에까지 악영향을 미치고 있다는 지적이 나온다. 전문가들은 AI를 통해 사이버 공격의 빈도와 강도가 폭발적으로 증가하고 있다고 평가했다.

국정원은 지난달 '인공지능 위험 사례집'을 발표하며 "현재 AI 시스템들은 '내부 작동의 불투명성', '데이터 편향' 등 자체적 한계에 더해 '보안 체계 미흡', '윤리 기준 미비' 등 다양한 문제점을 안고 있다"며 "위험요인을 사전에 대비하지 않을 경우 향후 대형 AI 사고 발생 시 국가적 대응 시스템이 제 기능을 발휘하기 어려울 것"이라고 밝혔다.

국정원이 AI 위협에 대한 대응 필요성을 강조하며 공식적인 분석 자료를 내놓은 것은 처음이다. AI가 딥페이크발 정보 조작과 개인 정보 유출에 활용되는 등 국가 안보에 대한 실질적 위협으로 부상했다는 의미로 해석된다.

자료에 따르면, AI 위협은 국가안보, 재난·재해, 경제·산업·의료, 사회·민생 등 다양한 분야에서 나타나고 있다. AI가 자체적으로 오류를 일으키거나 사이버 공격 등으로 악용되는 사례가 발견됐다. 또 해커 등이 AI 시스템에 침투해 오작동을 조작하는 상황이 발생하기도 했다. 중앙재난안전상황실 시스템을 해킹해 허위정보가 담긴 재난 문자를 대량으로 생성해 대중들을 혼란에 빠트리는 경우도 있었다. 올해 1월 발생한 미국 로스앤젤레스(LA) 산불 당시 7만여 명 대상 재난문자가 1000만여 명에게 발송된 사례가 대표적이다.

그동안 AI 기술 발전에 따른 '부작용'은 국경을 가리지 않고 꾸준히 발생해 왔다. 2023년 11월 중국에서 랜섬웨어 공격을 통해 한화 2700만원 상당의 가상 자산을 요구한 해커 4명이 경찰에 붙잡혔다. 이들은 챗GPT를 악용해 랜섬웨어 기능을 개선하고 취약점을 스캔한 것으로 밝혀졌다. 우리나라 역시 지난 9월 북한 해킹조직 '김수키'로 추정되는 해커들이 AI 프로그램 '챗GPT'를 이용해 딥페이크 신분증을 만들어 피싱을 시도한 사실이 드러났다.

AI 위협이 고조되자 국정원 역시 지난 2월 AI 위협 대응 기관 '국가인공지능안보센터'를 출범시켰다. 당시 국정원은 "(AI 기술은) 적대세력에 의한 의도적인 정보 왜곡, 국가기밀의 탈취, 주요 시스템 기능 장애 등 기존 질서의 재편과 새로운 형태의 안보 위협이라는 복합적 도전을 동반하고 있다"고 밝혔다. 국정원이 개별 센터를 설립한 것은 사이버, 방첩, 산업, 국제범죄, 테러, 우주안보, 방위산업에 이어 8번째다.

국내 사이버 안보 분야 한 전문가는 "생성형 AI를 활용해 노력을 적게 들이고도 짧은 시간에 공격도구를 생성해 공격 빈도와 강도를 증폭시키는 사례가 늘어나고 있다"며 "AI로 사이버 공격을 탐지하는 것은 물론 방어기술을 개발해 AI가 해킹에 공세적으로 대응할 수 있도록 만들어야 한다"고 밝혔다.