이루다 개발에 빅데이터로 활용된 연애의 과학 앱 이용자들이 개인정보 유출 의혹을 제기한데다, 인공지능윤리협회까지 나서서 "이루다 서비스를 중단하라"는 성명을 낸 것이다.
이날 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다.
개인정보위는 사실 관계를 확인한 뒤 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다. 아울러 연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정을 집중적으로 들여다볼 예정이다.
개인정보위 점검에는 한국인터넷진흥원(KISA) 개인정보사고조사팀도 참여한다. KISA 전문가들은 스캐터랩이 개인정보를 수집·활용하는 과정에 기술적인 위법·편법이 있지는 않았는지 조사에 나선다.
이날 한국인공지능윤리협회도 성명을 냈다. 협회는 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라며 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"고 주장했다.
이어 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"면서 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"고 지적했다. AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓는다는 이유에서다.
그러면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"며 서비스 중단을 촉구했다. "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.
협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
자연스러운 대화 능력으로 이용자가 40만 명을 넘기는 등 크게 주목받았는데, 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.
스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다.