“글로벌 AI 안전 동맹 추진”…앤트로픽과 ‘맞손’ 잡은 과기부

AI 안전성 확보·사이버보안 협력 업무협약
차우리 글로벌 총괄 "장기 협력 토대 마련"

과학기술정보통신부 현판./과학기술정보통신부

과학기술정보통신부가 글로벌 인공지능(AI) 연구개발 기업인 앤트로픽과 자율형 AI 에이전트 평가 등을 추진, 안전성 확보를 위한 협력에 나선다.

과기부는 앤트로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MOU)을 체결했다고 18일 밝혔다.

이번 업무협약은 배경훈 부총리가 지난 2월 '2026 인도 AI 영향 정상회의' 참석을 계기로 다리오 아모데이 앤트로픽 최고경영자(CEO)와의 만나 논의했던 협력 방안의 실질적인 후속 조치로 추진됐다.

과기부는 이를 통해 AI가 사이버 공격과 방어에 미치는 영향을 심층 분석하는 한편, 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등 첨단 AI의 안전성 확보를 위한 앤트로픽과의 협력체계를 더욱 공고히 할 예정이다.

AI 안전 분야에서는 우리나라의 AI 안전연구소(AISI)와 앤트로픽 간 AI 모델 및 자율형 AI 에이전트 안전성 평가 등 AI 안전성 확보를 위한 협력을 적극 추진하기로 했다. 사이버보안 분야에서는 금융 분야 등을 포함한 AI 취약점 발굴 및 사이버 위협에 대한 전문 지식과 관련 정보 등의 신속한 공유를 포함한 협력을 추진한다.

크리스 차우리 앤트로픽 글로벌 총괄은 "한국은 아시아태평양 지역에서 앤트로픽의 가장 중요한 시장 중 하나로, 이번 협약 체결은 한국에서의 장기적인 협력 토대를 마련한다는 점에서 큰 의미가 있다"며 "안전하고 책임감 있는 AI 개발이라는 가치를 공유하는 정부 기관과 함께하는 것은 앤트로픽의 운영방식에 있어 핵심"이라고 말했다.

한편 앤트로픽은 일본, 인도, 호주에 이어 아시아 국가 네 번째로 한국사무소를 17일 정식 개소했다.