소식통에 따르면 미군이 이라크를 비롯한 세계 각지에서 촬영한 방대한 분량의 영상을 기계학습과 AI를 활용해 분석하는 미 국방부(DoD) 프로젝트 '메이븐(Maven)'에 구글이 텐서플로우(TensorFlow) AI 시스템을 제공하고 있는 것으로 드러났다.
지난해 7월 출범시킨 프로젝트 메이븐은 AI가 영상을 분석하고, 특정 대상을 탐색하면 인간 분석가가 이를 검토하도록 하는 과정으로 학자와 기술 전문가, 군사 전문가는 물론 국방부와 파트너십을 맺은 민간 기업들이 대거 참여하고 있는 것으로 알려졌다.
국방부의 알고리즘 전투 교차 기능(Algorithmic Warfare Cross-Function) 팀장인 드류 쿠커는 프로젝트 메이븐 출범에 대해 "무기 시스템을 감지하는 능력을 높이기 위해 사람과 컴퓨터가 함께 향상시킬 수 있도록 작동하게 될 것"이라며 "우리는 인간 분석가가 지금보다 두 배 이상을 작업을 수행 할 수 있기를 기대하고, 그것이 우리의 목표"라고 밝혔다.
일부 매체는 국방부의 AI 및 데이터 분야 예산인 74억달러의 일부가 메이븐에 투입됐으며 이슬람국가(IS)와의 전투에 사용됐다고 전했다.
이러한 사실은 철저히 비밀에 붙여졌지만 최근 구글 사내 메일링 시스템을 통해 구글의 기술이 사용됐다는 사실이 알려지면서 실체가 드러났다.
구글 내부 구성원들 사이에서 "구글의 인공지능 기술이 군사용으로 사용되는데 반대한다"는 여론까지 들끌자 대변인 성명을 내고 "이 특정 프로젝트는 미분류 데이터에 대한 객체 인식을 지원할 수 있는 오픈 소스 텐서플로우 API를 파일럿(일시적)으로 제공하는 것으로, 이 기술은 사람이 이미지를 특정하기 위한 것으로 비공격적인 용도로만 사용된다"고 해명했다.
구글은 아마존, 마이크로소프트와 같은 클라우드 제공 업체들처럼 정부 기관에 관련 기술과 서비스를 제공하는데 오랫동안 협력해왔지만, 군사 프로젝트인 메이븐은 회사 내부적으로 커다란 논란을 불러 일으킨 것으로 알려졌다.
이를 최초 보도한 기즈모도는 내부 관계자와의 인터뷰에서 일부 구성원들은 회사가 군사용으로 구글의 AI 기술을 사용한 사실을 발견하고 격분했다고 전했다.
구글은 "기계학습을 군사용으로 사용하는 것에 대한 우려는 타당하다"면서도 "우리는 기계학습 기술의 개발과 사용에 관한 정책과 안전장치를 계속해서 개발하면서 이처럼 중요한 주제를 내부적으로 논의하고 있다"고 밝혔다.
구글과 국방부의 협력관계는 오래됐지만 군사작전을 위한 도구로 활용되는데 참여한 것은 처음 드러난 사실이다. 기술이 인간의 편의를 향상시키는 긍정적인 방향으로 흘러가야 한다는 흐름에 찬물을 끼얹은 셈이어서 파장은 확산될 전망이다.
이미 구글의 모회사인 알파벳 회장을 지낸 에릭 슈미트와 구글 현 부사장인 밀로 메딘이 모두 국방혁신위원회(Defense Innovation Board) 회원으로, 국방부에 클라우드 및 데이터 시스템에 대해 조언하고 있다.
구글은 2013년 일본의 휴머노이드 로봇 회사 샤프트(SCHAFT)를 인수했을 때만 해도 미 국방부에 시스템 납품 계약을 따냈지만, 2014년 위성기술 스타트업 스카이박스(Skybox)를 인수 한 뒤로는 추가 계약을 맺지 않았다.
1992년 미국 방위고등연구계획국(DARPA)의 군사 연구 지원금으로 메사추세츠 공대(MIT) 연구팀이 설립한 보스톤 다이나믹스는 군사작전이 펼쳐지는 오지에서 군수물자를 실어나르는 4족 보행 로봇을 개발해 미 해병대에 납품 할 예정이었지만 심한 소음 등의 문제로 최종 거부됐다. 갈 곳을 잃은 보스톤 다이나믹스는 2013년 구글이 인수됐지만 기괴한 생김새와 인간친화적이지 못하다는 부정적 여론으로 고민하다 지난해 6월 일본 소프트뱅크에 매각했다.
구글은 그러나 알파고로 유명세를 치른 영국의 인공지능 스타트업 딥마인드를 2014년 인수하면서 AI 사용을 검토하는 '인공지능 윤리위원회'를 설립했지만, 3년이 지난 지금까지도 활동 내용을 공개하지 않고 있다.
구글은 구체적인 계약내용도 공개하지 않았다. 이번 군사용 프로젝트 참여는 구글의 핵심 비즈니스 중 하나인 클라우드 서비스 사업부문에서 미 국방부와 계약을 맺은 것으로 알려졌다.
연방정부 조달사업에서 아마존·마이크로소프트와 치열한 경쟁을 벌이고 있는 구글이 국방부에 몇가지 시스템을 제공하고 있지만 어떤 용도로 사용되는지에 대해서는 민감하게 반응해왔다.
'비 공격적'인 것이 무엇을 의미하는지도 불분명하다. 전문가들은 구글의 AI 기술이 드론을 이용하면 무장 군인과 비무장 군인, 벙커, 군사기지 등을 식별해 얼마든지 미사일을 발사할 수 있도록 사용될 수 있다고 지적한다.
한편으로는 AI를 활용한 컴퓨터 비전 기술이 아직 완벽하지 않다는 비판도 나온다.
메사추세츠공과대학(MIT) 미디어랩이 최근 공개한 논문에 따르면, 여러 종류의 인종과 성별로 구성된 사진 이미지를 이용해 상용화된 얼굴인식 시스템으로 실험한 결과 백인 남성의 경우 인식률이 99%에 달했지만 피부색이 검은 여성의 경우 인식 오류가 35%에 달하는 것으로 나타났다.
연구원 조이 부올라미니는 "최신 인공지능(AI) 시스템이 여전히 성별과 색이 다른 얼굴을 식별하는데 어려움을 겪고 있다"고 지적했다.
빅데이터 분석 스타트업 플랜티르 테크놀로지(Palantir Technologies)가 미국 공공기관과 협력해 범죄 예측 AI 시스템을 개발했지만 학습된 데이터 문제로 역시 인종 편향적인 결과를 내놔 비난을 산 바 있다.
구글이 비즈니스를 위해 살상용 군사 프로젝트에 기술 제공을 함으로써 윤리적 비난은 더 거세질 전망이다.