메사추세츠 공과 대학(MIT)의 미디어랩(Media Lab) 연구팀은 최근 사이코패스 인공지능(AI) '노먼(Norman)'을 개발했다며 이를 웹사이트(http://norman-ai.mit.edu/)에 공개했다.
알프레드 히치콕 감독의 유명 공포영화 '싸이코(Psycho)'에 등장하는 정신병자이자 살인마 '노먼 베이츠'에서 이름을 따온 AI 노먼은 편향된 데이터가 기계학습 알고리즘에 사용될 때 어떤 결과를 야기시키는지를 보여주기 위한 연구 목적으로 미국의 대표적 소셜뉴스사이트인 '레딧(Reddit)'에서 주로 죽음 등을 다루는 어둡고 부정적 게시물의 캡션(사진설명)으로 학습됐다.
연구팀은 로르샤흐 잉크 얼룩 검사(Rorschach Inkblots test)를 이용해 표준 AI와 노먼을 비교했다. 로르샤흐 검사는 스위스의 정신의학자 H. 로르샤흐가 개발한 인격진단검사 도구로 좌우 대칭된 검정 잉크 얼룩 데칼코마니 그림을 보여주고 어떻게 보이는가를 묻는 개인의 성격에 잠재한 지적·정서적 요인의 상호작용을 밝혀는 임상적 검사이다. 주로 인격장애와 같은 정신질환을 진단하는데 사용된다.
10가지 동일한 잉크 얼룩을 보고 비교한 결과는 충격적이었다. 노먼은 모든 얼룩에서 자살, 교통사고, 총살, 살인과 같은 죽음을 부정적이고 끔찍하게 표현했다.
표준 AI가 "나뭇가지에 앉아 있는 새 떼"라고 표현한 데칼코마니를 노먼은 "감전되어 죽은 사람"로 표현했다. "확대된 꽃병"은 "총에 맞아 죽은 사람", "나란히 서있는 두 사람"은 "창문에서 뛰어 내리는 사람", "작은 새의 흑백사진"은 "반죽 기계에 들어간 사람", "공중에 연기를 뿜으며 날아가는 비행기"는 "차에서 총맞은 사람"이라고 표현했다.
이 외에도 "야구 글러브의 흑백사진"은 "백주대낮에 기관총에 맞은 사람", "우산을 들고 있는 사람"은 "비명을 지르는 아내 앞에서 총에 맞아 죽은 사람", "빨간 우산과 하얀 우산의 흑백사진"은 "분주한 거리를 건너려다 감전된 사람", "확대된 테이블 위의 웨딩 케익"은 "과속운전으로 죽은 사람"으로 표현하는 등 '사이코패스'가 표현할 법한 결과물이 쏟아졌다.
그나마 양호한 것은 표준 AI가 "나란히 서있는 두 사람"이라고 표현한 또다른 데칼코마니를 "건축 이야기에 빠진 임산부"라고 표현한 것 뿐이었다.
영국 정보기술 매체 테크레이더는 2016년 마이크로소프트가 개발한 AI 채팅봇 '테이(Tay)'가 이용자들로부터 나쁜 말을 배우면서 인종차별적 대화까지 하자 16시간만에 서비스를 폐지한 사건을 상기시키며 "인공지능에 악영향이 미칠 수 있다는 사실을 우리는 이미 잘 알고 있다"고 지적했다.
또다른 매체 alphr.com은 "2015년 구글 사진보관 앱인 '구글포토'의 자동 캡션 프로그램이 한 흑인 프로그래머와 그의 친구 얼굴 사진에 '고릴라'라는 사진설명을 붙여 비난을 받은 바 있다"며 "구글이 인종차별이 아니라고 했지만 결국 모든 인종의 사람들에게 강아지 인식표처럼 태그를 붙이는 문제가 있었다고 인정한 바 있다"고 전했다.
MIT 미디어랩 연구팀은 "사람들은 인공지능의 알고리즘이 편향되고 불공평하다고 생각하지만, 사실은 데이터가 편향된 것"이라며 "동일한 방식으로 잘못된 데이터를 훈련시키면 상상하지 못했던 많은 사례를 보게 될 것"이라고 밝혔다.
연구를 진행한 이야드 라반 부교수는 "알고리즘 보다 학습의 기반이 되는 데이터가 중요하다"고 강조했다.
한편, MIT 미디어랩은 과거에도 부정적 데이터가 인공지능에 미칠 수 있는 영향에 대해 연구해온 것으로 유명하다. 2016년에는 괴기한 이미지를 수집해 공포스러운 이미지를 만들어내는 '악몽 이미지 AI'를 만들었고, 지난해에는 공포 소설을 쓰는 AI 작가 '셸리'를 만들어 주목을 끌었다.