보안 위협 된 AI…‘독자 모델 개발·국제협력’ 폭 키우는 정부

'미토스 쇼크'에 이달 말 대응책 공개 예정
배경훈 "AI가 보안 재편…AI 보안체계 구축"
국내 보안 특화 모델 추진·양자 도입 의무화
앤트로픽과 협업도…협력체 참여 의사 전해

지난 8일 배경훈 부총리 겸 과학기술정보통신부 장관이 '빅테크 AI기업 사이버보안 프로젝트 관련 전문가 간담회'에서 발언하고 있다./과학기술정보통신부

'미토스 쇼크'로 촉발된 인공지능(AI) 기술의 보안 위협에 정부가 본격적인 대응 태세에 돌입했다. 고성능 AI 모델의 악용 가능성에 당국은 'AI는 AI로 막는다'는 기조 아래 파운데이션 모델 확보로 국내 환경에 맞는 보안 시스템을 구축하는 한편, 국제적인 협력으로 위협에 대한 실체를 파악한다는 계획이다.

12일 과학기술정보통신부에 따르면 이르면 이달 말 AI 기반 사이버공격에 대한 대응책이 공개된다. 미국의 생성형 AI 서비스 개발 기업 앤트로픽이 지난달 공개한 차세대 AI 모델인 '클로드 미토스'가 현재 보안체제의 취약점을 짧은 시간 내에 탐지하고 공격 경로를 설계하는 등 압도적인 해킹 역량을 갖춘 것으로 나타나자, AI 기반 사이버 공격의 위험성이 커진 것에 따른 대책이다.

정부의 자체적인 점검을 통해서 그 위험성은 증명됐다. 과기부와 한국인터넷진흥원(KISA)이 공개된 AI 모델을 활용해 기업 서비스 침투를 시연한 결과, 10여 분 만에 7개의 취약점을 찾아냈다. 이미 공개된 AI 모델로도 국내 보안체계의 약점이 도출됐다는 시연 결과에 과기부는 독자 AI 모델을 통한 방어 체계 구축을 나선다. 이에 따라 곧 발표될 AI 사이버공격 대응안에 AI 기반의 보안 역량 강화 방안과 국내 특화 AI 모델 개발에 대한 내용이 담길 것으로 보인다. 특히 중장기적인 대책으로 보안 특화 AI 모델 개발을 추진, 해외 모델에 대한 의존 없이 국내 보안 환경에 걸맞는 보안 시스템을 구축하겠다는 계획이다.

과기부는 글로벌 기업과 협력 전선 구축에도 열을 올리고 있다. 지난 11일에는 류제명 과기부 2차관이 마이클 셀리토 앤트로픽 글로벌 정책총괄을 만나 AI 모델의 사이버보안 분야 활용에 대해 적극적인 협력을 지속하기로 했다.아울러 구글과 아마존, 마이크로소프트 등 50여개 글로벌 빅테크기업이 참여한 한글로벌 보안 협력체인 '프로젝트 글래스윙'의 참여 의사를 전하기도 했다.