구글이 불법 감시 및 인간에 해를 끼치는 분야에 인공지능(AI) 기술을 사용하지 않겠다는 입장을 밝혔다. 그러나 클라우드 등 정부와의 협력분야는 유지하겠다는 입장을 고수했다.
순다 피차이 구글 최고경영자(CEO)는 7일(현지시간) 구글 블로그에 올린 'Google의 AI : 우리의 원칙'이라는 입장문을 통해 "AI가 어떻게 개발되고 사용되는가는 향후 우리 사회에 중대한 영향을 미칠 것"이라며 "구글은 AI 분야의 리더로서, 이것을 바로 잡을 특별한 책임을 느낀다"고 말했다.
피차이 CEO는 그러면서 ▲사회적으로 유익하며 ▲불공정한 편견을 만들거나 강화하지 않으며 ▲안전하게 제작되고 테스트하며 ▲사람에게 책임을 두며 ▲개인정보보호 설계 원칙을 포함하며 ▲고도의 과학적 우수성을 가지며 ▲이러한 원칙에 부합하는 사용(목적과 사용/ 자연과 독창성/ 규모/ 구글 참여의 본질) 목적 등 7가지 원칙을 공개했다.
피차이 CEO까지 나서 이같은 원칙을 내놓은 것은 구글이 미국 국방부 '프로젝트 메이븐(Project Maven)'에 참여한다는 사실이 드러나면서 세간은 물론 내부 직원들의 격렬한 반발에 부딛혔기 때문이다.
미군은 이라크를 비롯한 세계 각지에서 수집한 방대한 분량의 영상을 기계학습과 AI를 활용해 정밀하게 분석하고 분류하는데 미국 주요 기술 기업들의 참여를 이끌고 있다.
구글은 논란이 거세지자 올해 초 대변인 명의로 "구글은 이 프로젝트에 미분류 데이터에 대한 객체 인식을 지원할 수 있는 오픈 소스 텐서플로우 API를 파일럿(일시적)으로 제공하는 것으로, 이 기술은 특정 사람 이미지를 구분하기 위한 것일뿐 (군사)공격용으로 사용되지 않는다"고 밝혔다.
그러자 군사 작전에 사용되는 미군의 무인기(UAV)에 구글의 AI 기술이 사용되는 것은 비윤리적이고 정치적 이해에 활용되는 것이 부적절하다며 구글 직원 4천 여명이 직접 서명한 탄원서를 피차이 CEO에게 보내는 등 내부 반발을 불러일으켰다.
직원들은 서한에서 "군사용 무인기 소프트웨어 개발 사업인 프로젝트 메이븐에 구글이 참여하는 이유가 무엇이냐, '전쟁 비즈니스'는 있을 수 없는 일"라며 "구글은 펜타곤과의 프로젝트 메이븐 계약을 즉각 취소하고 구글이 전쟁과 관련된 기술을 구축하지 않는다는 명확한 정책을 마련해 공개하고 시행하라"고 촉구했다.
하지만 구글은 "펜타곤과 진행하는 프로젝트는 우리가 이미 공개한 오픈소스를 사용하기 때문에 구글이 프로젝트에 참여하지 않더라도 펜타곤은 여전히 이 기술을 사용할 수 있다"고 말한 것으로 알려지면서 파장이 확대됐다. 경영진이 움직이지 않자 직원 10여 명이 이에 항의해 회사에 사표까지 던졌다.
다이앤 그린 구글 클라우드 총괄은 지난 1일 직원들과의 미팅에서 2019년 3월 만료되는 메이븐 프로젝트 계약 연장을 진행하지 않겠다며 내부 진화에 나선 것으로 알려졌지만 실제 구글을 움직인 것은 구글과 국방부의 프로젝트 메이븐 담당자 간 주고받은 이메일이 폭로됐기 때문이라는 평가도 있다.
미국 진보성향 인터넷 매체 더인터셉트(theintercept)는 최근 프로젝트 메이븐의 협상에 관여했던 담당자 간 주고받은 내부 이메일을 입수해 공개했다.
지난 9월 주고받은 이메일에는 구글의 방위산업 영업담당인 스콧 프로만(Scott Frohman)과 아이린 블랙(Aileen Black), 구글 클라우드의 수석과학자인 페이페이 리(Fei-Fei Li) 박사 등 커뮤니케이션팀 일부가 포함되어 있다.
이메일에 '5개월 간의 긴 AI 경쟁'이라고 언급한 아이린 블랙은 "프로젝트 총금액이 2500~3000만달러로 구글에는 18개월 간 1500만달러를 지급하고, 프로그램 성장에 따라 연간 2억5000만달러에 달할 수 있다"고 설명했다. 여기에는 아마존도 언급됐다. 이는 향후 펜타곤이 10년간 수십억 달러를 투자할 계획인 '제다이(JEDI, 기업 공동 방어 인프라: Joint Enterprise Defense Infrastructure)'라 불리는 대규모 클라우드 컴퓨팅 사업과 연계된 프로젝트로 알려졌다. 구글은 아마존, 마이크로소프트 등과 정부의 대규모 클라우드 사업을 따내기 위해 경쟁하고 있다고 매체는 전했다.
이메일에는 세간에 이 프로젝트가 노출되는 것을 우려하는 내용도 담겼다. 일론 머스크가 "AI가 3차 대전을 일으킬 것"이라고 말한 경고발언을 언급하며 "구글이 비밀리에 AI 무기와 방위산업에게 무기가 될 수 있는 AI 기술을 개발하고 있다는 주제를 언론이 다루기 시작하면 어떤 일이 일어날지 모른다"고 우려했다.
구글 모토 '사악해지지 말자'
구글이 이같은 '비밀대화'까지 공개되자 '점진적인 출구전략'에서 '즉각적인 대응'으로 돌아선 것으로 풀이된다. 꿈쩍 않던 구글이 결국 두 손을 든 셈이다. 그러나 구글의 'AI 원칙' 발표에도 불구하고 학계 시선은 여전히 냉랭하다.
프로젝트 메이븐 참여에 대한 학자들의 항의 성명을 주도한 뉴 스쿨(The New School) 대학 피터 아사로(Peter Asaro) 부교수는 블룸버그와의 인터뷰에서 "간첩 행위, 사이버 작전, 대중 정보 감시, 심지어 무인 항공기 감시와 같은 국제 규범은 여전히 논란과 논쟁이 되고 있다"며 "궁극적으로 구글이 어떻게 이러한 원칙을 시행하는지는 성명 발표와는 별개의 문제"라고 꼬집었다.
구글은 AI 원칙에서 "사람에게 상해를 유발하거나 직접적으로 용이하게 하는 것이 주된 목적 또는 이행 목적인 무기 또는 기타 기술에 대해 AI를 설계하거나 배포하지 않는다"고 명시했다.
그러나 옥스포드 대학 인공지능 정책 연구원인 마일즈 브런더지(Miles Brundage)는 트위터에 올린 글에서 "'사람을 다치게 하는 행위'에 초점을 맞춘 것은 구글 AI가 여전히 건물이나 비인간을 목표로 한 사이버 공격 또는 자율 무기로 사용될 수 있다는 얘기"라며 "(일일이 열거하기에는) 공간이 모자라다. 그러나 그것은 시작이다"라고 경고 했다.
피차이 CEO는 포스팅 말미에 "AI 개발은 우리에게 선택적인 접근이지만, 우리는 또한 이에 대해 많은 목소리가 나올 수 있음을 잘 알고 있다"며 "AI 기술과 이를 향상시키는 방법에 대해 우리가 배운 것을 지속적으로 공유할 것"이라고 말했다.