15일(현지시간) 미국내 90여 개 주요 소비자·시민단체가 구글·아마존·마이크로소프에 공개 서한을 보내 인공지능(AI) 기반 얼굴인식 기술을 정부에 팔지 말 것으로 요구했다고 IT매체 더버지가 보도했다.
미국시민자유연맹(ACLU), 교육 및 법률 서비스를 제공하는 난민 및 이민자 센터(RAICES), 전자프런티어재단(EFF) 등이 주축이 된 이들 소비자·시민단체들은 글로벌 공룡 기술 기업인 구글·아마존·MS를 상대로 얼굴인식 기술이 무분별한 시민 감시와 군사용으로 남용될 수 있다는 우려를 전달한 것으로 알려졌다.
ACLU 캘리포니아 지부 기술 및 시민자유 책임자 니콜 오저는 "우리는 감시의 갈림길에 서 있다"며 "이들 기업은 앞으로 다음 세대가 정부에 의해 추적당하며 두려움에 떨게 할 것인지, 이를 숭배하게 할 것인지, 아니면 평범하게 살도록 할 것인지를 결정하게 될 것"이라고 말했다.
AI와 얼굴인식 기술의 경제성과 편리성에도 불구하고 확실한 제어장치가 없다면 개인정보 침해와 평범한 시민이 과도한 추적감시를 받을 수 있다는 우려가 끊임없이 제기됐다. 심지어 구글 내부에서 조차 정부의 군사 프로젝트 참여를 반대하는 목소리가 쏟아져 나왔다.
최근 구글과 MS는 AI 얼굴 인식 기술이 남용되거나 오용될 수 있는 위험성에 대해 인정했다. 지난해 12월 구글은 이러한 오남용의 허점이 해소될 때까지 범용 얼굴인식 기술을 판매하거나 제공하지 않겠다고 밝혔다.
브래드 스미스 마이크로소프트 사장은 지난해 7월에 이어 지난달 6일에도 미국 워싱턴 D.C. 소재 브루킹스 연구소에서 가진 연설에서 "얼굴 인식 기술이 불러올 잠재적 문제에 대한 보호장치 마련 없이 기술 발전만 추구한다면 오남용을 통제할 시기를 놓칠 수 있다"며 "정부와 업계가 함께 얼굴인식 기술 규제에 나서야 한다"고 주장했다.
스미스 사장은 그러면서 ▲ 발과 적용에 있어 모든 인간을 공평하게 대하는 공정성 유지 ▲기술의 사용 및 제한에 대한 문서화와 투명성 확보 ▲인간에게 영향을 미칠 수 있는 사용에 대한 적절한 수준의 인류적 통제를 보장하도록 장려하고 지원하는 책임 ▲불법적인 차별을 목적으로 한 기술 사용을 금지하는 비차별 원칙 ▲기술을 사용하는 민간 기업이 고객에게 기술 사용 통지 및 동의를 구하도록 장려 ▲국민의 민주적 자유를 위한 안전장치 마련 및 자유를 위험에 빠뜨릴 수 있는 경우에 대한 기술 사용 제한 등 6가지를 제시했다.
구글도 지난해 6월 '미 국방부 프로젝트 메이븐' 사태 직후 ▲사회적으로 유익하며 ▲불공정한 편견을 만들거나 강화하지 않으며 ▲안전하게 제작되고 테스트하며 ▲사람에게 책임을 두며 ▲개인정보보호 설계 원칙을 포함하며 ▲고도의 과학적 우수성을 가지며 ▲이러한 원칙에 부합하는 사용(목적과 사용/ 자연과 독창성/ 규모/ 구글 참여의 본질) 목적 등 7가지 AI 윤리 원칙을 제시한 바 있다.
하지만 이들 소비자·시민단체들은 여전히 미흡하다며 보다 강력한 대안을 요구하고 있다.
클라우드 시장에서 가장 앞서 있는 아마존은 클라우드 플랫폼의 일부인 얼굴인식 기술 마케팅에 가장 적극적이다. 미국 연방정부의 기술과 정부 정책을 다루는 NextGov는 최근 미연방수사국(FBI)이 아마존의 얼굴인식 기술 'Rekognition'을 테스트하고 있다고 보도 했다.
제프 베조스 아마존 최고경영자(CEO)는 과거 얼굴인식 기술의 오남용 가능성을 지적하기도 했지만 연방정부에 자사의 클라우드 시스템과 관련 기술을 납품하는 협력사업에 상당한 공을 들여왔다.
아마존 내부에서도 큰 반발을 불러왔지만 베조스 CEO는 아마존이 미 국방부에 100억달러 규모의 클라우드 컴퓨팅 시스템 납품 계약(JEDI)을 추진하고 있다고 밝힌 바 있다. 구글도 입찰에 나섰지만 내부 반발이 일면서 '악해지지 말자(Don't be evil)'는 구글 창업 모토와 새로운 AI 윤리 원칙에 맞지 않다며 사실상 계약을 포기했다.
미 국방부의 JEDI 사업은 인공지능(AI)을 활용해 세계 각국에서 수집하는 영상을 분류하는 대규모 클라우드 인프라 구축 프로젝트다. 지난해 7월 입찰을 시작해 최장 10년간 진행되는 이 사업은 민간 클라우드를 활용하기로 하면서 아마존웹서비스(AWS), IBM, 마이크로소프트, 오라클 등이 입찰에 나선 것으로 알려졌다.
스마트폰 잠금화면 해제 기능으로 익히 알려진 얼굴인식 기술은 인공지능, 클라우드 컴퓨팅과 결합해 민간에서 금융거래, 신원확인 등으로 폭넓게 사용되면서 정부의 감시나 군사 목적으로 사용처가 확대되고 있다.
MIT 미디어랩은 논문에서 얼굴인식 기술 연구에서 상용화 서비스를 활용한 결과 데이터값에 따라 결과물이 편중되고 있다고 지적했다.
매 년 수 천 명의 미아가 발생하는 인도에서 경찰이 얼굴인식 기술을 활용해 3000명의 미아 신원을 확인했다거나 테러방지, 무인 상점 등 무인 기술 발전이 가져올 편의성을 감안하더라도 범죄에 유용되거나 공권력이 비대면 기술로 시민을 과도하게 감시·수집하는 등 프라이버시 침해 가능성이 높다는 지적이 상충하고 있다.
실제 메사추세츠공대(MIT) 미디어랩 연구에 따르면 여러 종류의 인종과 성별로 구성된 사진 이미지를 이용해 상용화된 얼굴인식 시스템(MS·IBM·메그비)으로 실험한 결과 백인 남성의 경우 인식률이 99%에 달했지만 피부색이 검은 여성의 경우 인식 오류가 35%에 달하는 것으로 나타났다.
연구팀은 "최신 인공지능(AI) 시스템이 여전히 성별과 색이 다른 얼굴을 식별하는데 어려움을 겪고 있다"며 "이번 연구결과는 관련 기술에 대한 투자와 채택이 앞당겨질수록 인공지능에 대한 공정성과 책임성에 대한 보다 광범위한 의문이 제기 될 것"이라고 지적했다.
니콜 오저 역시 "역사는 우리에게 정부가 얼굴 추적·감시와 같은 기술을 이용하여 피부색, 종교적 소수자, 이민자 등 사회적 약자를 목표로 삼을 것이라는 것을 분명히 알려주었다"며 "이들 기술 기업들이 '소 잃고 외양간 고치는(break then fix)' 방식이 효과가 있는 것처럼 하는 태도를 더이상 내버려 둘 수 없다"고 강조했다.