'피부색이 검은 여성보다 밝은 피부의 남성 얼굴을 더 잘 인식한다'
뉴욕타임스(NYT)는 9일(현지시간) 메사추세츠공과대학(MIT) 미디어랩의 최신 논문을 인용해 "최신 인공지능(AI) 시스템이 여전히 성별과 색이 다른 얼굴을 식별하는데 어려움을 겪고 있다"고 전했다.
MIT 미디어랩 조이 부올라미니 연구원의 논문에 따르면 여러 종류의 인종과 성별로 구성된 사진 이미지를 이용해 상용화된 얼굴인식 시스템으로 실험한 결과 백인 남성의 경우 인식률이 99%에 달했지만 피부색이 검은 여성의 경우 인식 오류가 35%에 달하는 것으로 나타났다.
뉴욕타임스는 "이같은 판이한 결과는 편향된 현실 세계관이 인공지능에 스며들어 얼굴인식 시스템에서 어떻게 작동하는지 보여주는 것"이라고 지적했다.
피부색과 사람의 성별을 토대로 얼굴인식 시스템의 결과를 분석한 이 실험은 마이크로소프트, IBM, 중국의 메그비 등 3곳의 상용화 된 AI 얼굴인식 기능을 사용해 의학계에서 피부 색조 구분 표준으로 사용하는 '피츠패트릭(Fitzpatrick)의 6가지 피부유형 분류'에 따라 아프리카 3개국과 북유럽 3개국의 국회의원 얼굴 사진 1270개 데이터를 대상으로 진행됐다.
실험에서 백인 남성들의 얼굴 오인식률은 1%에 그쳤고, 백인 여성에 대한 오인식률이 7%로 다소 높아졌다. 흑인 남성은 최대 12%까지 오인식률이 올라갔고, 흑인 여성은 최대 35%까지 오인식률이 발생했다. 업체별로는 마이크로소프트가 21%, IBM과 메그비는 35%였다.
전문가들은 AI를 구성하는 알고리즘이 매우 다양하고 이를 설계하는 사람의 기준에 따라 쓰임새나 구현 방식이 달라질 수 있는 것처럼, AI를 학습시키는 데이터에 따라 결과도 크게 달라질 수 있다고 지적한다.
얼굴인식 AI 학습에 사용되는 데이터 세트 구성에서 남성과 백인 비율이 월등히 높다면 흑인 여성을 인식하는 것이 어려울 수 밖에 없다는 얘기다.
부올라미니 연구원은 논문에서 "이번 연구결과는 관련 기술에 대한 투자와 채택이 앞당겨질수록 인공지능에 대한 공정성과 책임성에 대한 보다 광범위한 의문이 제기 될 것"이라며 "기업들이 정말 공정하고 투명하고 책임감 있는 얼굴인식 알고리즘을 구축하기 위해서는 편향된 가치관 없이 '더 어두운 여성, 더 밝은 여성, 더 어두운 남성, 더 밝은 남성'과 같은 분류의 정확성을 담는 노력이 시급하다"고 지적했다.
조지타운대 로스쿨 프라이버시 및 테크놀로지 센터는 1억1700만 명의 성인이 사법기관에서 사용하는 얼굴인식 네트워크에 데이터화 되어 있는 것으로 추정하며 특히 아프리카계 미국인의 경우 데이터 오류가 가장 많은 것으로 나타났다고 밝혔다.
실제 2015년 구글의 이미지 인식 사진앱 출시 초기에 아프리카계 미국인을 '고릴라'라고 표시하면서 논란을 빚은 끝에 공식 사과한 바 있다.
유타 대학 컴퓨터과학과 슈레쉬 벤카타서브라마니안 교수는 이러한 인공지능 시스템이 어떻게 작동하고 있고, 어디에서 오류가 발생했는지를 다룰 수 있는 적절한 시기가 됐다"고 말했다.
한편, 시장조사업체 카운터포인트는 최근 보고서에서 2020년까지 얼굴인식 기능을 적용한 스마트폰이 10억대에 달해 지문인식을 대체하는 새로운 업계 표준으로 자리잡을 것이라고 전망했다.