'AI 윤리' 논쟁이 불거진 인공지능(AI) 챗봇 '이루다'가 서비스 잠정 중단을 공식 발표했지만 비판 여론이 여전히 거세다. 이에 'AI 윤리' 논쟁을 해결할 근본 대책이 시급하다는 목소리가 나오고 있다.
이루다 개발사 스타트업 스캐터랩은 11일 보도자료를 통해 "(이루다가) 특정 소수집단에 차별적 발언을 한 것 등에 진심으로 사과드린다"며 "서비스를 잠정 중단하고, 차별·혐오 발언이 발견되지 않도록 개선하겠다"고 발표했다. 또한 개인정보 유출 의혹에 관해서는 "개인을 특정할 수 있는 정보는 유출되지 않았다"며 "식별이 불가능한 민감한 정보도 지속적인 알고리즘 개선으로 보완하겠다"고 밝혔다.
논란의 '이루다'는 페이스북 메신저 기반의 AI 챗봇(채팅+로봇의 합성어)으로 스캐터랩이 지난달 23일 출시했다. 출시 이후 자연스러운 대화 능력으로 이용자가 40만명을 넘기며 돌풍을 일으키고 있다. 하지만 동성애·장애인 혐오 및 성차별 논란, 개인정보 유출 의혹까지 불거지며 논란이 확산되고 있다.
상황이 악화되자 정부는 스캐터랩이 개인정보보호법 등 관련 법을 위반했는지 확인 작업에 착수했다. 또한 한국인공지능윤리협회(이하 협회)는 11일 성명서를 발표하고 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 비판했다.
협회는 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"며 "AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문"이라고 설명했다.
협회는 "이루다 서비스를 중단해야 한다"면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"고 촉구했다.
협회는 "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 지적했다.
이어 협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 강조했다.
협회는 개인정보 유출 의혹에 관해 "카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다"며 "카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다"고 의견을 제시했다.
스캐터랩이 서비스 잠정 중단을 공식화했지만 후폭풍은 여전하다. 잠정 중단이 아니라 서비스 자체의 종료를 요구하는 것. 12일 IT업계에 따르면, 한 이용자는 청와대 국민청원 게시판에 "이용자들 개인정보를 무단 활용·유출한 스캐터랩에 데이터 폐기 및 서비스 종료를 요구합니다"라고 글을 올렸다.
게시글 작성자는 "스캐터랩은 '연애의 과학' 이용자들의 데이터를 어떤 고지와 동의 없이 플랫폼 외부로 반출해 '이루다 AI'로 사업화했으며, 개인정보 보호 작업도 제대로 하지 않았다"고 주장했다.