|
법원은 이런 대화를 낯설게 보지 않는다. AI와의 대화는 이메일이나 SNS처럼 저장매체에 남은 전자정보이고, 적법하게 수집되었다면 증거가 될 수 있다. 게다가 대화 상대가 사람이 아니므로 통신비밀보호법이 보호하는 '타인 간의 대화'에도 해당하지 않는다. 지운다고 사라지는 것도 아니다. 삭제 후에도 AI 회사의 서버에는 짧게는 한 달, 길게는 반년 넘게 기록이 남는다.
여기까지는 개인의 이야기다. 그런데 시선을 회사로 돌리면 문제는 훨씬 커진다. 지금 이 순간에도 임직원들은 AI에게 묻고 있다. 거래처와 주고받은 계약서 초안을 붙여 넣고 "불리한 조항이 있는지 봐 달라"고 한다. 고객 명단을 올리고 "이 중 누구에게 먼저 연락하면 좋겠느냐"고 묻는다. 때로는 "이렇게 처리해도 문제가 안 되느냐"고 묻고, 답이 마음에 들지 않으면 "문제가 안 되게 하려면 어떻게 하느냐"고 다시 묻는다. 이 모든 대화는 회사 서버가 아니라 외부 AI 사업자의 서버에 쌓인다. 회사는 그 기록이 있는지조차 모른다.
여기서 세 가지 위험이 생긴다. 첫째는 유출이다. 영업비밀은 회사가 비밀로 관리했을 때에만 법의 보호를 받는데, 직원이 아무 제한 없이 AI에 입력하는 회사라면 그 정보를 비밀로 관리했다고 말하기 어렵다. 둘째는 개인정보다. 고객 정보를 외부 서비스에 입력하는 순간 개인정보 처리위탁 또는 제3자 제공의 문제가 발생하고, 책임은 직원이 아니라 회사에 돌아온다. 셋째가 가장 무겁다. 직원이 무심코 던진 질문이 훗날 회사의 '고의'를 보여주는 정황이 될 수 있다는 점이다. 사고가 났을 때 수사기관이 압수하는 것은 이제 서류함이 아니라 프롬프트다.
그렇다고 AI 사용을 금지하는 것은 답이 아니다. 금지하면 직원들은 개인 계정으로 옮겨 갈 뿐이고, 회사는 기록을 볼 권한마저 잃는다. 관리해야 할 것은 사용 여부가 아니라 대화의 내용과 위치다. 다양한 관리 방법이 있겠지만 기본적으로 고려해야 할 사항을 추천하자면 다음과 같다. 우선 입력하면 안 되는 정보를 세 가지 정도로 짧게 정한다. 고객의 개인정보, 공개되지 않은 계약과 재무 정보, 그리고 타사의 자료다. 규칙이 길면 아무도 지키지 않는다.
다음으로 회사 계정을 쓰게 하되, 입력한 내용을 학습에 쓰지 않고 보관 기간을 회사가 정할 수 있는 조건으로 계약한다. 그래야 대화 기록이 남의 서버 위의 방치물이 아니라 회사가 관리하는 자산이 된다. 마지막으로 교육은 한 문장이면 충분하다. "그 질문을 회사 대표 앞에서 소리 내어 할 수 있는가." 할 수 없는 질문이라면 AI에게도 하지 말아야 한다.
관리는 회사를 지키는 방패이기도 하다. 사용 정책이 있고 교육 기록이 남아 있는 회사는, 설령 개별 직원의 일탈이 있더라도 회사가 할 일을 다했음을 입증할 수 있다. 같은 대화 기록이 어떤 회사에는 흉기가 되고 어떤 회사에는 알리바이가 된다. 그 차이는 기록이 남기 전에 정해진다.
최근 국회에는 AI 대화 기록도 혐의와 관련된 부분만 선별해 압수하도록 하는 형사소송법 개정안이 발의되었다. 개인의 생각이 담긴 기록을 함부로 뒤지지 못하게 하자는 취지다. 반가운 일이지만, 그 법이 통과되더라도 회사가 던져야 할 질문은 달라지지 않는다.
"우리 직원들은 지금 AI에게 무엇을 묻고 있는가." 그 질문에 답하지 못하는 회사가 어느 날 수사관에게서 듣게 될 말은 아마 이것일 것이다.
그 질문, 귀사 직원이 AI에 했다는데요.
