인공지능(AI) 챗봇 '이루다'가 혐오 및 개인정보 유출 논란 일주일만에 이용자들과 사실상의 작별을 선언했다.
이루다 개발사 스캐터랩은 이루다 데이터베이스(DB)와 딥러닝 모델을 폐기하겠다고 15일 밝혔다.
스캐터랩은 보도자료를 통해 "개인정보보호위원회·한국인터넷진흥원(KISA) 합동 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델을 폐기하겠다"면서 "이루다 DB는 비식별화(익명화) 절차를 거쳐 개별적·독립적인 문장으로 이뤄져 있고, 딥러닝 대화 모델은 대화 패턴만 학습하기 때문에 개인정보 유출 위험은 전혀 없다. (그러나) 이용자들 불안감을 고려해 폐기를 결정했다"고 설명했다.
이루다가 사람이라면, 딥러닝 모델은 '중추신경계'다. 중추신경계를 폐기한다는 것은 스캐터랩이 이루다 프로젝트를 사실상 백지화하는 조처나 다름 없다.
논란의 '이루다'는 페이스북 메신저 기반의 AI 챗봇(채팅+로봇의 합성어)으로 스캐터랩이 지난달 23일 출시했다. 사람 같은 자연스러운 대화로 10∼20대 사이에서 크게 주목받아 3주 만에 약 80만명의 이용자를 모았다. 하지만 성적 도구 취급을 당하는 한편 혐오 발언을 쏟아내기도 해 사회적 논란에 휩싸였다
특히 스캐터랩은 이루다를 만드는 과정에 연애 분석 앱 '연애의 과학' 이용자들의 카카오톡 데이터를 가져다 쓰면서 개인정보보호법을 어겼다는 의혹을 받고 있다.
현재 개인정보보호위원회와 한국인터넷진흥원(KISA)이 현장에서 자료를 확보, 조사하고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.
또한 연인들의 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹도 받고 있으며, 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 '깃허브'에 공유한 사실도 확인됐다. 연애의 과학 이용자들은 "이루다 DB가 아니라 카톡 데이터 전량을 파기해야 한다"고 요구하고 있다.
이에 대해 스캐터랩은 연애의 과학으로 수집한 카톡 데이터 약 100억건에서 1억건을 추려서 이루다 DB로 썼다고 밝힌 바 있다. 스캐터랩 측은 "기존 '연애의 과학'과 '텍스트앳'에서 이용자 동의를 받고 수집했던 데이터는 데이터 활용을 원하지 않는 이용자들이 신청할 경우 모두 삭제할 것"이라는 입장이다.