‘해킹하는 AI’ 등장 日 비상…금융·전력·통신 방어 강화

앤트로픽 '클로드 미토스' 충격 새 AI 기본계획 확정
기업자율규제 넘어 정부주도 대응…핵심기반시설 보안강화

인공지능이 사이버 공격에 악용될 위험을 형상화한 이미지. 일본 정부는 고성능 AI의 보안 취약점 탐지·공격 능력에 대응해 금융·전력·통신 등 핵심 기반시설 방어를 강화하고 있다. /게티이미지뱅크

일본 정부가 스스로 소프트웨어의 취약점을 찾아 공격 코드까지 만드는 고성능 인공지능(AI)의 등장에 대응해 금융과 전력, 통신 등 핵심 기반시설의 사이버 방어를 강화한다. AI 산업 육성에 무게를 뒀던 정책에 안보와 위험 통제를 대폭 보강한 것이다.

일본 정부는 14일 각의에서 개정된 'AI 기본계획'을 확정했다고 마이니치신문이 15일 보도했다. 새 계획은 고성능 AI가 국력과 산업 경쟁력을 높이는 핵심 기술인 동시에 사이버 공격에 악용될 수 있다는 점을 주요 위험으로 규정했다.

다카이치 사나에 총리는 앞서 지난 10일 열린 인공지능전략본부 회의에서 "고성능 AI는 사회문제 해결과 국력 강화에 직결되지만 사이버 공격 등에 악용될 새로운 위험도 우려된다"고 말했다. 안보·사이버 분야에서도 AI 개발과 활용 능력을 확보해야 한다고 강조했다.

정책 변화의 직접적인 계기는 미국 AI 기업 앤트로픽이 지난 4월 7일 제한적으로 공개한 '클로드 미토스 프리뷰'였다. 이 모델은 주요 운영체제와 웹브라우저에서 알려지지 않은 보안 취약점을 찾아내고, 실제 공격 가능한 코드까지 자율적으로 작성하는 능력을 보였다. 앤트로픽은 미토스가 소프트웨어 취약점의 발견과 악용 능력에서 기존 모델보다 크게 진전했다며 산업계의 긴급한 공동 방어가 필요하다고 밝혔다.

◇AI가 취약점 찾고 공격까지
미토스는 사람의 지속적인 개입 없이 대규모 소스코드를 분석해 취약점을 찾아낼 수 있다. 앤트로픽은 미토스가 인터넷 기반시설을 구성하는 주요 소프트웨어에서 수천 건의 보안 결함을 발견했다고 설명했다. 발견된 취약점 가운데 상당수는 심각도가 높은 것으로 확인됐다.

일본 총리 관저. 다카이치 사나에 총리는 지난 10일 열린 인공지능전략본부 회의에서 "고성능 AI는 사회문제 해결과 국력 강화에 직결되지만 사이버 공격 등에 악용될 새로운 위험도 우려된다"고 말했다./ 최영재 특파원

이 능력은 방어에 활용하면 보안 취약점을 조기에 찾아 고칠 수 있지만, 범죄조직이나 적대 세력이 사용하면 대규모 사이버 공격의 문턱을 낮출 수 있다. 전문 해커가 아니더라도 AI의 도움으로 금융망과 통신망, 에너지시설을 공격할 가능성이 커진다는 의미다.

일본 정부는 그동안 AI 혁신을 저해하지 않기 위해 법적 강제보다 기업의 자율규제와 지침을 결합한 '소프트로' 방식에 무게를 뒀다. 악의적인 사업자에게는 정부의 조사와 지도, 정보 공개로 대응한다는 방침이었다.

그러나 공격 능력을 갖춘 AI가 예상보다 빠르게 등장하면서 기업 자율에만 맡기기 어렵다는 판단이 확산했다. 새 기본계획에는 중요 기반시설 사업자의 사이버 보안을 강화하고 소프트웨어 공급업체의 취약점 조기 발견·대응 능력을 높이는 내용이 담겼다. 일본 정부가 지난달 마련한 경제·재정 운영 기본방침에도 같은 대책이 포함됐다.

일본 정부는 고성능 AI를 사이버 공격 방어에 먼저 활용하는 방안도 추진한다. 금융과 전력, 통신 등 국민 생활과 직결되는 분야에서 보안 취약점을 신속히 탐지하고 공격 징후를 분석하는 체계를 구축한다는 구상이다.

일본의 AI 정책은 개발과 규제 가운데 하나를 선택하기보다 두 정책을 동시에 강화하는 방향으로 이동하고 있다. 국산 AI와 반도체 개발을 지원하면서도 고성능 모델이 초래할 사이버·안보 위험에는 정부가 직접 대응하겠다는 것이다. AI 기술의 발전 속도가 정부의 제도 정비를 앞지르면서 일본의 대응도 '시간과의 싸움'에 들어갔다.