인공지능 챗봇 이루다. 이루다 홈페이지 캡처
인공지능(AI) 챗봇 '이루다'가 혐오 발언 등의 논란 끝에 서비스 잠정 중단을 결정한 가운데, 이루다를 개발하기 위해 카카오톡 대화를 수집하는 과정이 부적절했다는 주장이 계속 제기되고 있다.
이루다 개발사인 스캐터랩에서 근무했다는 전(前) 직원은 "연인들의 카톡 대화를 돌려보며 웃는 사람들도 있었다"고 폭로했다.
스캐터랩 전 직원 A씨는 12일 한 매체와의 인터뷰에서 "연인들 사이에 성관계 관련 대화를 나눈 데이터(대화 로그)가 있었는데, 한 개발자가 회사 전체 대화방에 'ㅋㅋ' 하면서 캡처를 공유했다"고 말했다.
스캐터랩은 '연애의 과학'이라는 다른 앱에서 수집한 데이터로 이루다를 만들었다.
연애의 과학은 연인 또는 호감 가는 사람과 나눈 카톡 대화를 집어넣고 2천∼5천원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다.
연애의 과학. 구글플레이 홈페이지 캡처
이루다는 바로 이 연애의 과학 앱에 이용자들이 집어넣은 카톡 대화를 데이터 삼아 개발됐다. 스캐터랩 측은 대화 양이 약 100억 건에 달한다고 밝힌 바 있다.
A씨는 "한 명이 두 번 정도 (연인 간의 성적 대화를) 공유했던 것으로 기억한다"고 전했다.
해당 대화방에는 스캐터랩 직원 50여 명이 전부 있었다고 한다.
김종윤 스캐터랩 대표 등 관리자급 직원들은 부적절한 공유에 호응하지는 않았지만, 특별히 제재하지도 않았다고 A씨는 전했다.
A씨는 "웃긴 인터넷 글을 보는 정도의 분위기였고, 다른 성희롱이나 조롱은 없었다"면서 "스캐터랩 직원들은 (부적절하게 공유될 수 있다는) 사실을 인지하고 연애의 과학 앱에서 카톡 대화 분석 기능은 쓰지 않는 분위기였다"고 말했다.
그는 "스캐터랩에 권위적이거나 성차별적 문화가 있었던 것은 아니다. (부적절한 공유에) 여직원도 'ㅋㅋ' 하기도 했고, 남녀가 같이 성적인 농담을 주고받는 문화이기도 했다"라며 "스캐터랩이 논란의 상처를 극복하고 건강한 미래를 열길 바라는 마음에 제보한다"고 덧붙였다.
'AI 이루다' 개발한 스타트업 스캐터랩. 연합뉴스
A씨 주장에 관해 스캐터랩 측은 "해당 이슈를 인지함과 동시에 사내에서 자발적으로 진상조사위원회가 구성돼 조사를 진행하고 있다"고 말했다.
스캐터랩 관계자는 "사용자들의 개인정보 보호를 회사의 중요한 사명으로 생각하고 있으며, 이를 위해 접근통제 조치 등 개인정보 보호법에 따른 제도를 마련하여 시행 중에 있다"면서 "특히 개인정보와 관련된 원 데이터에 접근할 수 있는 권한은 엄격하게 제한하여 철저히 관리하고 있다"고 말했다.
이어 "진상을 신속히 조사하고, 만에 하나 의혹이 사실로 드러나는 경우에는 관련자들에게 엄중히 책임을 묻고 조속히 필요한 조치를 하도록 하겠다"고 덧붙였다.
연애의 과학 앱을 이용했던 이들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.
이용자 A(20)씨는 "친한 지인에게도 연인과 카톡 내용은 보여주기 꺼려지는데, 모르는 사람 몇십 명이 공적 목적도 아니고 유희 거리로 썼다니 충격"이라고 말했다.
그는 "연애의 과학 앱을 3년 썼고 10번 정도 결제했는데, 개인정보 제공에 동의한 적이 없다"며 "내 카톡 대화가 AI 챗봇과 성희롱에 쓰일 줄은 몰랐다"고 말했다.
이용자 B(26)씨는 "연애의 과학에 카톡 분석을 맡기면 나오는 보고서에 '수집한 카톡은 절대 보고서 분석 외 사용되지 않습니다'라는 문구가 있었던 것으로 똑똑히 기억한다"며 "개인정보와 사생활이 침해됐다"고 비판했다.
이용자들은 이번 사건으로 인해 심리적 고통도 받고 있다고 입을 모았다.
B씨는 "현재 트라우마로 인해 남자친구와 메신저로는 연락을 못 하고 있다. 누군가 우리 대화를 봤을 것이라고 생각하니, 카톡을 비롯해 다른 메신저에도 손이 가지를 않는다"고 털어놨다.
C(25)씨는 "불법 촬영을 하고는 미안하다면서 글만 내리고 원본 사진은 지우지 않은 꼴"이라며 "스캐터랩이 카톡 데이터를 파기해야 한다"고 강조했다.
연애의 과학 이용자들은 집단 소송을 준비하면서 증빙 자료를 모으고 있다.
이용자들은 개인정보 동의 절차가 없다시피 했다면서, 카톡은 2명이 나눈 것인데 연애의 과학은 1명의 동의만 받고 양쪽 대화를 모두 수집했으므로 부적절하다고도 지적하고 있다.
이용자들은 이루다가 특정인의 실명이나 집 주소, 은행 계좌번호 등을 갑자기 말하는 것을 보면 스캐터랩 측이 익명화를 제대로 하지 않았다고도 주장하고 있다.
실제로 이루다에서는 '○.○.○'처럼 중간에 특수기호를 넣어 쓴 이름이나 특정 대학교수, 특정 가게 주인 등의 실명이 갑자기 튀어나오는 경우가 발견된다.
전날 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사할 방침이라고 밝혔다. 개인정보위는 조만간 스캐터랩에 자료 제출을 요구하고, 현장 조사도 검토할 예정이다.