시민단체가 인공지능(AI) 챗봇 '이루다' 개발사에 대한 정부의 엄정한 조사를 요구하면서 개인정보보호법 개선을 촉구했다.
참여연대·진보네트워크센터·민주사회를위한변호사모임은 개인정보보호위원회에 이루다 개발사인 스캐터랩을 철저히 조사하라는 민원을 제기했다고 20일 밝혔다.
이들은 "스캐터랩은 AI 개발·서비스 과정에서 개인정보보호법을 위반한 혐의가 있다"며 "개인정보위는 '이루다'뿐 아니라 '연애의 과학', '텍스트앳', '진저 포 비트윈', '핑퐁 빌더' 등 스캐터랩의 모든 제품을 조사해야 한다"고 요구했다.
그러면서 "정보 주체(이용자)에 대한 권리 침해가 발견될 경우 시정 조치 명령, 과태료 및 과징금 부과, 형사 고발 등 적정한 처분을 취해야 한다"고 강조했다.
이 단체들은 스캐터랩이 개인정보 수집·이용 동의를 소홀히 받은 혐의뿐 아니라 포괄 동의 위반, 중요 내용 표시 위반, 고유식별정보 및 주민등록번호 처리 위반 등 개인정보보호법의 여러 조항을 전방위적으로 위반했다고 주장했다.
이들은 "스캐터랩은 정보 주체 동의를 받았다는 입장이나, 정보 주체(이용자)들은 비공개 사적 대화가 챗봇 학습 등에 이용된다는 사실을 명확히 인지하지 못했다고 호소한다"고 지적했다.
개인정보보호법 취지에 따르면 정보 주체인 시민은 자유로운 의사에 기반해 개인정보 처리에 동의할 수 있어야 하는데, 스캐터랩 제품은 이런 법 취지에 어긋난다는 지적이다.
단체들은 "개인정보 수집·처리 과정이 불법으로 드러나면, 정보 주체의 요청 없이도 이루다 외 해당 개인정보를 바탕으로 만들어진 모든 챗봇 모델과 알고리즘·데이터셋을 원본까지 파기해야 마땅하다"고 의견을 냈다.
이들은 "현 정부는 개발과 산업 육성에 초점을 맞춰 법률 개정을 밀어붙였고, 그 과정에서 정보 주체의 권리는 '부수적인 피해'로 취급했다"며 "정보 주체의 동의 없는 가명정보 이용을 제한하는 등 관련 제도를 개선해야 한다"고 덧붙였다.
한편 논란의 '이루다'는 페이스북 메신저 기반의 AI 챗봇(채팅+로봇의 합성어)으로 스타트업 스캐터랩이 출시했다. 사람 같은 자연스러운 대화로 10∼20대 사이에서 크게 주목받아 3주 만에 약 80만명의 이용자를 모았다. 하지만 성적 도구 취급을 당하는 한편 혐오 발언을 쏟아내기도 해 사회적 논란에 휩싸였다.
특히 스캐터랩은 이루다를 만드는 과정에 연애 분석 앱 '연애의 과학' 이용자들의 카카오톡 데이터를 가져다 쓰면서 개인정보보호법을 어겼다는 의혹을 받고 있다. 이에 스캐터랩은 이루다 서비스의 잠정중단을 발표한데 이어 이루다 데이터베이스(DB)와 딥러닝 모델을 폐기하겠다고 밝혔다.