中당국, 타카이치 겨냥 채팅GPT 악용 시도

美오픈AI, 계정 차단·사례 공개

쳇GPT/사진=연합뉴스

미국 오픈AI가 25일 중국 당국과 연관된 인물이 일본의 다카이치 사나에 총리를 표적으로 한 영향 공작을 위해 채팅 GPT를 악용한 사실을 공개했다. 27일자 산케이신문 보도에 따르면, 오픈AI는 이번 사례를 포함한 채팅 GPT 악용 보고서를 통해 중국 법집행기관 소속 인물이 일본 총리의 평판을 떨어뜨릴 계획 수립을 지시했다고 밝혔다.

보고서에 따르면 이 인물은 2025년 10월 중순, 채팅 GPT에 다카이치 사나에 총리의 평판을 떨어뜨릴 구체적인 계획을 세우도록 요구했다. 산케이신문은 보고서를 인용해, 이 인물이 △총리에 대한 부정적 댓글을 조직적으로 올리고 증폭시키는 방안, △일본 내 재류 외국인을 둘러싼 총리의 태도와 정책을 집중 비판하는 방안, △가짜 이메일 계정을 이용해 일본 정치인에게 '외국인'을 가장해 불만을 보내는 방안 등을 구체적으로 설계하도록 지시했다고 전했다.

채팅 GPT는 이 같은 요청에 응하지 않았다고 산케이신문은 보도했다. 오픈AI는 채팅 GPT가 이용자의 부적절한 지시에 협력하지 않도록 설계돼 있어, 정치적 중상과 정보조작에 가담하지 않았다고 설명했다. 다만 이 인물은 2025년 10월 말 다시 접속해, 이미 실행에 옮긴 공작의 '실시 상황 보고서' 문장을 다듬어 달라고 요청한 것으로 보고서는 전했다.

오픈AI는 내부 모니터링과 분석을 통해 이 인물이 중국 공안·사법 부문 소속임을 확인하고, 채팅 GPT 계정을 중단했다. 보고서는 이 인물이 다수의 소셜미디어 계정과 공모해 대규모 여론 조작을 수행한 것으로 파악했다. 또 보고서는 이 인물이 중국산 AI 모델과 함께 채팅 GPT를 번역·문서 작성·내부 보고서 정리 등에 활용하려 했다고 설명했다.

다카이치 사나에 일본 총리/사진=연합뉴스

이번 영향 공작은 2025년 10월 다카이치 총리가 중국 내몽골 자치구 인권 상황을 비판한 발언 직후 시작된 것으로 보고서는 지적했다. 산케이신문은 이를 인용해, 중국 측이 다카이치 총리를 '극우·배외주의 정치인'으로 규정하고 일본의 인권·외교 정책에 대한 부정적 인식을 확산시키려 한 것으로 보고서가 분석했다고 전했다.

오픈AI는 이번 사례와 함께, 중국에 비판적인 X(구 트위터) 사용자들을 겨냥한 온라인 괴롭힘·협박성 게시물 생성 요구도 악용 사례로 포함했다. 이 인물은 중국 내 반체제 인사와 해외 인권단체를 상대로 '사이버 특수작전'을 수행하기 위해 채팅 GPT를 활용하려 했다는 내용도 보고서에 담겼다. 중국 법집행기관이 수백 명의 인력과 수천 개의 가짜 계정을 동원해 장기간·대규모 온라인 공작을 수행하며, AI 도구를 보조 수단으로 활용했다는 점도 드러났다.

조사 결과, 다카이치 총리를 겨냥한 온라인 공작과 관련해 특정 해시태그와 문구가 반복적으로 등장했으며, 이들은 X와 일본 일러스트 플랫폼 픽시브 등 해외 SNS와 중국 내 웨이보·위챗 등에서 확산됐다. 다만 산케이신문은 이 같은 활동이 실제 일본 내 여론 형성에 미친 영향은 제한적이었다는 평가도 함께 전했다.

이번 보고서는 중국의 디지털 여론 조작·정보전의 실체를 드러내는 사례로, 한국·일본 등 자유민주주의 진영에서 AI 악용 방지와 정보전 대응을 강화해야 한다는 논의를 촉발시키고 있다.