• 아시아투데이 로고
[뉴스추적] ‘AI 챗봇’ 주소·계좌번호까지 술술…개인정보 유출 의혹

[뉴스추적] ‘AI 챗봇’ 주소·계좌번호까지 술술…개인정보 유출 의혹

기사승인 2021. 01. 11. 16:46
  • 페이스북 공유하기
  • 트위터 공유하기
  • 카카오스토리 공유하기
  • 카카오톡 링크
  • 주소복사
  • 기사듣기실행 기사듣기중지
  • 글자사이즈
  • 기사프린트
'이루다' 성희롱·혐오발언 논란 확대
앱 통해 수집한 커플대화도 노출
"기술발전 따른 도덕적 문제 커져"
clip20210111174938
clip20210111121541
인공지능(AI) 챗봇 ‘이루다’에게 계좌와 주소를 묻자 실명과 실제 주소를 기반으로 한 답장이 돌아왔다./온라인 커뮤니티 및 트위터 캡쳐.
최근 국내 한 스타트업이 내놓은 인공지능(AI) 대화 서비스 ‘이루다’가 논란을 빚고 있다. 20살 여성을 캐릭터로 하는 ‘이루다’에 대한 성희롱 논란을 시작으로 소수자 혐오와 AI 윤리뿐만 아니라 AI의 학습 과정에 사용된 개인정보 문제로까지 확장되고 있다.

11일 업계에 따르면 AI 챗봇 ‘이루다’를 개발한 스타트업 ‘스캐터랩’은 자사 애플리케이션(앱)인 ‘연애의 과학’을 통해 실제 연인의 메신저 대화를 수집해왔다. ‘이루다’는 100억 건가량의 대화 내용을 딥러닝 방식으로 학습한 것으로 알려졌다.

‘연애의 과학’ 앱은 커플의 메신저 대화를 제출하면 애정도 수치 등을 분석해주는 서비스를 제공한다. ‘이루다’의 장점인 자연스러운 대화는 이처럼 실제 연인의 대화를 기반으로 했기에 가능한 셈이다.

clip20210111121324
‘연애의 과학’ 측은 개인정보 취급 방침에 ‘신규 서비스 개발 및 맞춤 서비스 제공에 사용될 수 있다’고 고시하면서 ‘이용자들의 개인정보는 안전하게 보호하겠다’고 공지했다./‘연애의 과학’ 애플리케이션 캡쳐.
당초 ‘연애의 과학’ 측은 개인정보 유출을 우려하는 사용자들에게 “여러분의 개인정보를 안전하게 보호하는 것이 가장 중요한 원칙이고, 이를 평생 지키겠다”고 약속했다.

그러나 이 약속은 지켜지지 못했다. ‘이루다’가 서비스를 개시한 지 한 달이 채 되지 않았는데도 이름·주소·계좌 등 각종 개인정보가 ‘이루다’의 답변을 통해 무방비로 유출되고 있었다. 이용자들은 ‘연인의 이름을 입력하자 내 이름이 나왔다’ ‘주소를 물으면 실제 존재하는 주소를 보낸다’ ‘계좌번호까지 알려준다’는 등의 경험담을 쏟아냈다.

특히 ‘연애의 과학’은 일부 서비스를 유료로 제공하고 있어 논란은 더욱 커질 것으로 보인다. ‘연애의 과학’ 이용자 함모씨(27)는 “2만 원이나 주고 서비스를 이용했는데 이런 식으로 내 정보를 활용할 줄은 몰랐다”며 “가입 시 개인정보 취급 방침에 동의하긴 했지만, 어떤 서비스 개발에 활용되는지 안내받지 못했다”고 말했다.

또 다른 문제는 서비스 이용자뿐만 아니라 제3자인 대화 상대방의 정보까지 노출될 우려가 있다는 점이다. 대학생 안희영씨(25)는 “남자친구가 ‘연애의 과학’ 앱을 사용한 것으로 안다”며 “나는 원치도 않았는데 내 대화까지 노출됐다. 성희롱 소재가 된 기분”이라고 호소했다.

논란이 일자 스캐터랩 측은 “이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다”면서 “이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 해명했다. 또 “이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조처를 했고, 이용자들이 제공한 데이터가 활용되길 원하지 않으면 삭제할 수 있다”고 안내했다.

이에 개인정보보호위원회와 한국인터넷진흥원(KISA)는 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다.

개인정보위 관계자는 “우선 사실관계를 확인하고, 위법사항이 발견되면 법령에 따라 조처할 것”이라며 “최대한 빨리 스캐터랩에 자료를 요구할 계획이고, 필요하면 현장 조사도 나갈 방침”이라고 밝혔다.

다만 AI 학습 과정에는 많은 양의 자료가 필요해 이 같은 개인정보 논란은 계속될 것으로 보인다. 지성우 성균관대 법학전문대학원 교수는 “기술 발전을 이유로 개인정보가 흘러나가는 것까지 용납할 수는 없다”면서 “AI 기술이 발전하는 만큼 더 큰 도덕·법률적 문제가 우려된다. 혐오·차별 표현을 가능케 한 AI 설정과 개인정보 오용에 대해서는 투자자와 경영진이 사회적인 책임을 다해야 한다”고 강조했다.


ⓒ"젊은 파워, 모바일 넘버원 아시아투데이"


댓글
기사 의견쓰기