日정부, AI 사이버공격 대비 강화…외국정부와 최신모델 평가 협력

AI기본계획 첫 개정안 7월 각의 결정 목표
자율행동형 AI실용화도 국력과제로 명기

일본 정부가 인공지능(AI)을 악용한 사이버 공격에 대비하기 위해 외국 정부와의 협력을 강화한다. AI의 능력이 빠르게 고도화되면서 사이버 보안 위협도 커지고 있다고 보고, 정부 차원의 최신 AI 모델 평가 체계를 정비하겠다는 것이다. /연합뉴스

일본 정부가 인공지능(AI)을 악용한 사이버 공격에 대비하기 위해 외국 정부와의 협력을 강화한다. AI의 능력이 빠르게 고도화되면서 사이버 보안 위협도 커지고 있다고 보고, 정부 차원의 최신 AI 모델 평가 체계를 정비하겠다는 것이다. 요미우리신문은 19일 일본 정부의 AI 정책 지침인 'AI 기본계획' 첫 개정안에 AI 사이버 공격 대응 강화와 외국 정부와의 연계 확대 방침이 새로 담겼다고 보도했다. 일본 정부는 7월 각의 결정을 목표로 하고 있다.

AI 기본계획은 AI 기술혁신과 리스크 대응을 함께 추진하기 위해 지난해 12월 처음 책정됐다. 그러나 생성형 AI와 자율행동형 AI의 성능 향상이 예상보다 빠르게 진행되면서 반년여 만에 개정 작업에 들어가게 됐다. 개정안은 "AI 성능이 고도화되면서 AI를 악용한 사이버 공격 위험성이 높아지고 있다"고 지적했다. 미국 앤스로픽이 올해 4월 발표한 최신 모델이 시스템 취약점을 찾아내는 능력에서 큰 충격을 준 것이 배경으로 거론된다.

대응책의 중심에는 2024년 설립된 정부기관 'AI 세이프티 인스티튜트'가 선다. 이 기관은 사이버 보안과 관련한 AI 성능 평가를 맡고, 국내외 최신 모델에 접근할 수 있도록 개발사업자와 외국 정부기관과의 연계를 강화한다 . 일본 정부는 AI 평가 결과를 토대로 IT 제품 업체에도 프로그램 수정 등 보안 대응을 서두르도록 요구할 방침이다. AI가 사이버 공격 도구로 악용될 경우 기존 보안 체계만으로는 대응이 늦어질 수 있다는 판단이다. 활용 측면에서는 인간의 세세한 지시 없이도 목표를 설정하고 작업을 수행하는 '자율행동형 AI'에 주목했다. 개정안은 자율행동형 AI가 세계 각국에서 빠르게 보급되고 있다며 조기 실용화가 "국력에 직결된다"고 강조했다.

다만 AI 활용 확대에 따른 부작용도 함께 다뤘다. 개정안에는 사고력과 판단력이 AI 의존으로 퇴화하지 않도록 교육환경을 정비해야 한다는 내용도 새로 포함됐다. 일본 정부의 이번 개정안은 AI를 산업 경쟁력의 핵심으로 육성하면서도 안보 리스크를 국가 차원에서 관리하겠다는 방향을 분명히 한 것이다. 특히 최신 AI 모델의 성능 평가를 외국 정부와 연계해 추진하기로 하면서 AI 안전보장 분야의 국제 협력도 본격화될 전망이다.