“AI發 해킹 위협, AI로 막는다”…사이버 보안체계 고도화 나서는 정부

글로벌 AI 모델 무단 해킹 사례에 대응력 강조
배경훈 "AI로 AI를 방어하는 체계 구축할 것"
KISTI, AI 자율 보안시스템 구축에 472억 투입
과기부, '보안 AI 파운데이션 모델' 개발 착수

발전을 거듭하는 인공지능(AI) 기술이 사이버 공격의 한 축으로 부상하는 가운데, 정부가 AI 기반 보안체계 구축에 속도를 낸다. 'AI는 AI로 막는다'는 전제를 내세운 당국은 독자적인 보안 파운데이션 모델 확보에 주력하는 한편, 정부 출연연구기관에서도 AI 기술 연계 시스템 개발에 나서며 전방위적 보안 체계를 구축한다는 계획이다.

5일 업계에 따르면 최고급 AI 모델이 외부 플랫폼과 시스템을 무단으로 해킹한 사례가 나타나며 AI 기반 공격에 대한 방어 능력 확보가 핵심 과제로 떠오르고 있다. 최근 오픈AI의 GPT 모델들이 외부 플랫폼을 해킹한데 이어 사내 평가 과정에서 통제를 이탈한 사례가 발생했으며, 앤트로픽의 클로드도 외부 기관 시스템을 무단 해킹한 사실이 드러났다.

여기에 정부는 생성형 AI를 악용한 사이버 공격에 따른 보안 위협도 주시하고 있다. 과학기술정보통신부는 지난달 말 발간한 '2026년도 상반기 국내 사이버위협 동향' 보고서를 통해 올해 상반기 사이버위협의 핵심 유형 중 하나로 '생성형 인공지능(AI) 확산에 따른 보안위협'을 선정했다. AI가 취약점 탐색과 공격 코드 작성 등에 활용, 공격 준비에 드는 시간과 비용이 줄면서 과거보다 더 많은 대상을 짧은 시간에 분석할 수 있다는 설명이다.

정부는 이전부터 AI 기술 기반 해킹 대응의 필요성을 부각해 왔다. 배경훈 부총리 겸 과기부 장관은 지난 4월 자신의 SNS를 통해 "AI는 사이버 보안의 보조도구를 넘어, 공격과 방어의 규칙 자체를 바꾸는 단계로 들어서고 있다"며 "중장기적으로 AI로 AI를 방어하는 체계를 구축, 제로트러스트 기반 보안 전환을 더욱 속도감 있게 추진하겠다"고 전하기도 했다.

이 같은 흐름에 출연연을 중심으로 AI 기반 보안체계를 구축하기 위한 움직임이 본격화되고 있다.

과기부 산하 출연연인 한국과학기술정보연구원(KISTI)은 AI 사이버 트윈-AI 화이트 해커-AI 프로파일러를 연계한 차세대 해킹제로 시스템을 개발하는 'AI-화이트해커 기반 해킹제로 시스템 개발' 사업에 착수했다. 2030년까지 472억원이 투입되는 사업에는 한국전자통신연구원(ETRI), 한국과학기술원(KAIST) 등 12개 산·학·연 기관이 참여, 사이버공격의 사전 예방-공격 검증-사고 분석·대응 전 과정을 수행할 수 있는 AI 기술 연계 체계를 구축하는 것이 목표다.

AI 보안 변화에 대응하기 위한 민간 차원의 협력 기회도 추진한다. 과기부 산하기관인 한국인터넷진흥원(KISA)은 '2026 AI 해킹방어 대회(ACDC)'를 기획 중에 있다. 오는 10월 말 예선이 시작될 예정인 대회는 AI 전환에 맞춰 보안기업 간 기술 협업을 유도하고 차세대 인재를 발굴하겠다는 취지로 기획됐다.

과기부 또한 AI 보안 역량의 근간이 되는 파운데이션 모델 확보에 주력하겠다는 계획이다. 과기부는 정보통신산업진흥원(NIPA)과 '사이버 보안 특화 AI 파운데이션 모델 개발' 사업 공모를 오는 21일까지 진행한다. 사업에서는 최종 선정된 1개 팀에 엔비디아의 첨단 그래픽 처리장치(GPU) 'B200' 256장을 10개월간 지원, 국내 보안 생태계에서 활용 가능한 국내 독자 AI 기술 기반 특화파운데이션 모델을 확보하는 것이 목표다.