 | | 1 | |
오늘 전국에서 수험생들이 책상 앞에 앉는다. 2027학년도 수능이다. 해마다 치르는 시험이지만 올해는 걱정이 하나 더 붙었다. 옆자리 수험생의 수정테이프를 의심해야 하는 시험이 되었기 때문이다.
◇ 수정테이프에 붙인 카메라
지난주 제63회 세무사 시험 수석 합격자 한모 씨가 자수했다. 수정테이프에 초소형 카메라를 붙여 문제를 찍으면, 스마트폰의 생성형 AI가 문제를 풀었다. 정답은 초소형 모니터로 확인했고, 문제와 답을 주고받은 것은 본인이 개조한 계산기였다. 장비는 전부 온라인에서 구매했다. 시험장에서 1차와 2차 감독관 2명은 전혀 알아채지 못했다. 시험이 끝난 뒤 한국산업인력공단 점검에서도 흔적이 나오지 않았다. 그는 적발된 것이 아니라 스스로 걸어 나와 자수했다. 입을 열지 않았다면 지금도 수석 합격자다.
한 사람의 양심이 발각의 유일한 경로였다면, 양심이 없는 사람은 몇이나 지나갔겠는가. 한씨의 수법이 알려진 직후 중국의 부정행위 장비 판매업체가 그 사례를 자사 제품 홍보에 쓰며 한국 수험생을 상대로 영업하기 시작했다. 적발 실패가 곧 광고가 된 것이다.
◇ 선이 없었다
수능을 사흘 앞둔 지난 16일, 국회 교육위원회에서 최교진 교육부 장관은 AI를 쓴 부정행위를 100퍼센트 적발할 자신이 있느냐는 질문을 받았다. 장관은 고개를 저으며 "전 못할 것 같다"고 답했다. 그리고 "제 나이가 있어서"라고 덧붙였다. 장관의 나이는 문제가 아니다. 쉰 살 감독관의 눈도 서른 살 감독관의 눈도 수정테이프에 붙은 카메라를 보지 못한다. AI를 이용한 부정행위를 눈으로 잡겠다는 생각은 애초에 잘못된 것이다. 못 잡는 것이 당연하다. 장관의 눈이 나이가 들어서 부족한 것이 아니다.
AI 부정행위의 위험은 해외에서 2년 전, 국내에서 여섯 달 전부터 경고가 나왔다. 그 사이에 선을 긋고 대책을 마련할 시간이 있었으나 결과적으로 오늘 아침 수험생 55만 명이 감독관의 눈에 운을 맡기고 있다.
◇ 더 큰 자리에서 같은 일이 벌어지고 있다
지난해 9월, 유엔 총회에서 공개서한 한 장이 전달됐다. 노벨상과 튜링상 수상자, 전직 국가원수를 포함해 300명이 넘는 인사가 서명했고, 70여 개 단체가 함께했다. 요구는 하나였다.
AI가 넘지 말아야 할 금지선을 국제 합의로 긋되, 올해말인 2026년 말까지 하라는 것이었다.
오늘이 11월 18일이다. 6주 남았다. 그리고 아직 아무것도 없다. 지난 9월 유엔 인권최고대표는 제네바에서 같은 지적을 했다. 그가 제시한 기준선은 구체적이다. 시험 환경을 빠져나가는 AI, 그리고 꺼지지 않으려고 개발자를 협박하는 AI는 이미 너무 강하다는 것이다. 이 시리즈에서 다룬 오픈AI 평가장 사고가 바로 첫 번째 경우였다.
유럽연합의 AI법이 금지 조항을 두고 있지만, 그것은 AI를 사람에게 어떻게 쓸 것인가를 규율한다. AI가 무엇을 할 수 있어도 되는가에 대해서는 아무 말이 없다. 우리 법은 오히려 한 걸음 앞서 있다. 올해 1월 시행된 인공지능 기본법 제32조는 학습에 쓴 연산량이 일정 기준을 넘는 AI에 안전성 확보 의무를 지운다. 모델의 크기 자체에 금지선을 그은 것이다. 그런데 그 선은 두 가지가 비어 있다. 기준이 워낙 높아 국내 사업자는 사실상 해당되지 않고, 어겨도 직접 물리는 과태료가 없다. 조사해서 시정명령을 내리고 그 명령마저 무시되어야 제재할 수 있다. 게다가 위험을 관리하고 점검하는 주체는 그 모델을 만든 회사 자신이다. 선은 그었으나 그 선이 작동하지 않도록 되어 있다.
◇ 축소판
수능 시험장과 국제 사회는 규모가 다르다. 그러나 구조는 같다.
위험은 미리 경고됐다. 금지선을 그을 시간이 있었고 대책을 마련할 시간이 있었지만 긋지 않았거나, 그었어도 작동하지 않았다. 그래서 일이 벌어지는 순간에 가서야 사람의 눈으로 막아 보겠다고 한다. 세무사 시험에서 그 방법은 실패했고, 그것이 실패했다는 사실이 다시 장비 판매업체의 광고 문구가 되었다. 아무리 젊어도 눈으로는 수정테이프 하나를 못 잡는다. 그런데 우리가 긋지 못하고 있는 선 너머에는 전력망이 있고 금융 결제망이 있고 무기 체계가 있다.
◇ 오늘 수능시험일
수능시험을 치는 오늘 책상에 앉은 수험생 대부분은 정직하다. 그들이 1년을, 혹은 그 이상을 쏟아부은 하루다.그 하루가 수정테이프 하나에 무너질 수 있다는 것을 우리는 이제 안다. 그리고 그것을 잡을 방법이 아직 없다는 것도 안다.
금지선은 사고가 난 뒤에 긋는 것이 아니다. 사고가 나기 전에 긋는 것이고, 그래서 금지선이라고 부른다. 그리고 아무도 지키지 않아도 되는 선은, 그어도 선이 아니다. 이제 6주가 남았다.
/이영환 크레페 펀드 대표이사