말레이시아, AI 허위정보 차단 강화… 2022년 이후 4만2천 건 삭제

2022년 1월부터 올해 8월 15일까지 4만2천건 이상 AI 허위 게시물 삭제 조치
AI 콘텐츠 라벨링·온라인 안전 위원회 신설 추진

딥페이크 이미지/연합

말레이시아에서 인공지능(AI)으로 생성된 허위정보로 인한 피해가 확산되고 있는 가운데 현지 정부가 이를 방지하기 위한 대책 마련에 나섰다.

지난달 30일 더선데일리 등 현지 매체에 따르면 말레이시아 통신멀티미디어위원회(MCMC)는 2022년 1월부터 올해 8월 15일까지 총 4만2000건 이상의 AI 관련 허위 게시물을 삭제했다고 밝혔다.

여기에는 정치인·기업인·유명인의 사진과 영상을 조작해 투자 기회나 고수익 금융상품을 홍보한 딥페이크(deepfake) 투자 사기 게시물도 1005건이 포함됐다.

말레이시아화인협회(MCA)에 따르면 지난해 자국민이 딥페이크 투자 영상 사기에 속은 사례는 1만3956건을 기록했다. 피해액은 총 211억 링깃(약 6조9644억원)에 달했다.

현지 정부는 단순 게시물 삭제뿐만 아니라 제도 개선으로 적극적인 대응에 나섰다. MCMC는 올해 공식 팩트체크 플랫폼 '진실로부터(Sebenarnya.my)'의 기능을 확장한 AI 기반 챗봇(Artificial Intelligence Fact-check Assistant, AIFA)을 도입해 정보 접근성을 강화했다.

또 1998년에 제정된 멀티미디어 및 통신법(Act 588)을 개정해 사기 목적의 허위 콘텐츠 유포를 명백히 범죄로 규정했다. 허위 콘텐츠를 퍼뜨려 사기를 저지를 경우 최대 50만 링깃(약 1억6500만원)의 벌금이 부과되거나 최대 2년의 징역 또는 병과에 처해진다.

올해 말 발효 예정인 온라인 안전법(Online Safety Act 2025)에 따라 정부는 AI 생성 콘텐츠에 대한 의무적 라벨링 제도를 추진할 계획이다. 아울러 법무장관이 주재하는 온라인 안전위원회를 신설해 정책 자문과 감독을 강화할 방침이다.