인공지능(AI) 챗봇 ‘이루다’ 논란의 불씨가 개인정보 유출로 옮겨 붙은 가운데, 시민단체들이 개발사인 스캐터랩에 대한 정부의 철저한 조사를 요구하는 한편 개인정보보호법 개선을 촉구하고 나섰다.
20일 참여연대·진보네트워크센터·민주사회를위한변호사모임 디지털정보위원회 등 시민단체는 개인정보보호위원회(개보위)에 스캐터랩의 개인정보보호법 위반과 관련, 철저한 조사를 요구하는 민원을 제기했다.
앞서 스캐터랩은 2016년 출시한 ‘연애의 과학’ 서비스를 통해 유·무료 이용자들로부터 카카오톡 비공개 대화 약 100억건을 수집, 이를 가명처리해 지난달 23일 선보인 AI 챗봇 ‘이루다’ 등 자사 서비스 개발에 이용했다. 또, 10만명이 나눈 카카오톡 대화 6억건을 수집해 2013년 ‘텍스트앳’을 출시했고, 이를 업데이트해 2015년 ‘진저’를 내놨다. 스캐터랩은 이 과정에서 이용자들의 데이터 비식별화(익명화) 처리를 충분히 하지 않았다는 의혹을 받고 있다. 일부 데이터를 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데, 이용자의 실명과 주소 등이 노출되고 있다는 주장도 제기됐다. 특히, 회원들의 동의 범위를 넘어서 활용했다는 지적이 잇따르고 있다.
논란이 불거지자 이 회사는 이루다 데이터베이스(DB)전량과 딥러닝 대화 모델을 폐기하겠다고 밝혔다. 하지만 개발 재료로 쓰인 ‘연애의과학’·‘텍스트앳’ 등 데이터베이스는 파기하지 않을 예정이다. 개별 이용자 신청을 통해서만 삭제 여부를 정하겠다는 방침이다. 이용자들이 서비스를 이용할 때 이미 개인정보 처리에 대해 ‘동의’했다는 이유에서다. 현재 개보위는 한국인터넷진흥원(KISA)과 함께 스캐터랩의 위법 여부를 조사 중이다.
“이용동의했지만 챗봇 만들 줄은 몰랐다”
시민단체들은 “개보위는 ‘이루다’뿐 아니라 ‘연애의 과학’, ‘텍스트앳’, ‘진저 포 비트윈’, ‘핑퐁 빌더’ 등 스캐터랩의 모든 제품을 조사해야 한다”고 호소하며 “(스캐터랩은) 대화상대방에 대한 동의 고지 없는 수집과 더불어 명시적 동의 위반 등 개인정보 보호법을 전방위적으로 위반했다”고 비판했다.
개인정보보호법에 따르면 개인정보 처리 동의는 이용자의 자유로운 의사에 기반해야 하는데, 스캐터랩이 명시적으로 동의를 받지 않고 ‘신규 서비스 개발에 이용한다’는 등 막연하게 표현해 혼란을 줬다는 취지다.시민단체들은 안전성 조치에도 전반적으로 소홀했다고도 비판했다. 이용자들은 연인과 나눈 사적 대화가 분석돼 챗봇 등 타 제품 학습에 이용된다는 사실을 인지하지 못했다고 호소하고 있다.
시민단체들은 “개인정보 수집·처리 과정이 불법으로 드러나면, 정보 주체의 요청 없이도 이루다 외 해당 개인정보를 바탕으로 만들어진 모든 챗봇 모델과 알고리즘·데이터셋을 원본까지 파기해야 마땅하다”고 말했다. 다만, 현재 연애의 과학 등 이용자들이 대규모 민사소송을 예고한 만큼 분쟁이 마무리되기 전까지 일방적인 데이터셋 폐기 처리는 정지해야 한다고 덧붙였다. 개별적인 삭제권 행사는 보장하되, 피해자들의 열람권과 처리정지권 행사 등 피해사실 입증을 보장할 필요가 있다는 설명이다.
개인정보보호법을 개선하는 등 법제 정비가 필요하다는 입장도 밝혔다. 이 단체들은 “현 정부는 개발과 산업 육성에 초점을 맞춰 법률 개정을 밀어붙였고, 그 과정에서 정보주체의 권리는 부수적인 피해로 취급했다”며 “기업들이 상업적 이용을 위해 수집 목적 달성 후에도 개인정보를 무한대로 보관한다면 이번 사태는 반복될 수 밖에 없다. 정보주체의 동의 없는 가명정보 이용을 제한하는 등 관련 제도를 개선해야 한다”고 덧붙였다.
한편, 일부 이용자들은 스캐터랩을 상대로 집단소송을 준비 중인 것으로 알려졌다. 변호인측은 지난 15일 공동소송 플랫폼 화난사람들을 통해 이루다 AI 개인정보 유출 피해자 소송 참여 접수를 진행 중이다.