박진 외교부 장관이 9일 서울 종로구 정부서울청사 별관에서 열린 한미 외교장관 공동기자회견에서 모두발언을 하고 있다. 박종민 기자박진 외교부 장관은 9일 열린 한미 외교장관회담 공동기자회견에서 '인공지능의 군사적 활용에 관련된 규범'에 대한 이야기를 꺼내들었다.
그는 "한미는 군사 분야에서의 인공지능 활용과 관련한 규범을 마련하기 위해 긴밀히 협력할 것"이라며 그 조치 중 하나로 "미국 정부가 추진 중인 인공지능 및 자율성의 책임 있는 군사적 활용에 대한 정치적 선언에 참여하기로 결정했다"고 밝혔다.
이는 지난 2월 네덜란드 헤이그에서 열린 '군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의(REAIM 2023)' 이틀째에 미국이 발표한 선언이다. 자국에서 쓰이는 군사용 AI 규범의 골격이 될 예정인데, 사실 REAIM 2023은 우리나라와 네덜란드가 공동으로 개최한 국제회의이기도 하다. 두 번째 회의는 내년에 우리나라에서 열린다. 박 장관은 "성공적 개최를 위해 한미가 긴밀히 공조하겠다"고 했다.
인공지능은 미래전에 반드시 필요하다. 예를 들어 미리 수많은 데이터를 통해 학습된 인공지능이 전쟁 개시 전 또는 전쟁 중 지형정찰 첩보를 분석해, 중요 표적을 찾아내는 시간을 단축할 수 있다. 이런 첨단기술을 여럿 활용하면 핵무기에 대해서도 정밀타격과 무력화가 가능해진다는 이유로, 학계에서는 핵과 핵의 대치를 통해 억제력을 확보하는 '공포의 균형(balance of terror)'이 점점 퇴색되고 있다.
다만 일련의 과정에서 기계가 인간을 살상할 수도 있다는 아주 큰 윤리적 문제가 생긴다. 이는 '터미네이터' 시리즈 등 공상과학 영화의 단골 소재로도 활용되며, 때문에 인공지능을 군사적으로 활용함에 있어 일정 수준 이상의 규범을 정립해야 한다는 데에 별다른 이의를 제기하는 나라는 없다.
문제는 누구의 주도로 어떻게 규범을 정립하느냐다. 이것 자체가 전략적 경쟁이 된다. 1950년대 말부터 시작된 핵비확산조약(NPT) 관련 논의 때도 그랬듯 미국이 선수를 쳤다. 헤이그에서 발표된 선언문은 "핵무기와 관련한 주권적 결정을 실행하는 데 필수적인 조치에 인간의 통제와 개입을 유지해야 한다"와 같이 구체적인 실행 방안을 나열했다. 고위급 세션에서 일본, 노르웨이, 불가리아 등이 여기에 공개 지지를 표명했다.
미 국무부 보니 젠킨스 군비통제·국제안보 담당 차관은 AI 기술 채택에 따른 위험성으로 시스템 해킹·오작동, 신뢰 가능성 문제, 의사결정 과정에서 발생하는 오해 등을 사례로 들고 "책임 있게 (응용)해야만 위험성을 줄일 수 있다"며, "우리의 선언이 국제 협력의 초점이 될 수 있다고 생각한다. 지금은 미국의 문서지만 많은 책임 있는 국가가 가진 공통된 가치를 반영한다"고 강조했다.
올해 5월 황준국 주유엔대사도 미국 뉴욕 유엔본부에서 열린 '글로벌 디지털 협약' 마련을 위한 'AI 및 신기술' 주제 회의에서 "AI 기술이 일상과 산업, 직업, 학교는 물론 국가 안보와 세계 평화까지 우리 사회의 모든 측면에서 패러다임을 바꾸고 있다"며 "AI를 통한 허위정보가 빠르게 퍼져 민주주의 의사 결정을 위협함으로써 진실, 상식, 사회 통합을 해치고 사회불안을 초래한다"고 경고한 바 있다.
특정 인물이 특정한 언행을 한 것처럼 조작할 수 있는 딥페이크(AI 기반 인간 이미지 합성) 기술 등이 국가안보 위협이 될 수 있고, 차별과 혐오를 조장할 수 있다는 점을 사례로 들었다.
며칠 뒤 제주 서귀포에서 열린 대량살상무기(WMD) 확산방지(PSI) 20주년 고위급 회의 공동성명도 "3D 프린팅, 인공지능, 양자컴퓨팅 등의 중요 신흥 기술이 추가적인 비확산‧반확산 관련 도전들을 야기할 수 있다는 점을 유념하며 기술의 진화에 따른 영향 및 도전과제를 검토할 것을 약속한다"고 강조했다.
쉽게 말해, 눈부시게 발달하는 첨단 기술에 의해 기존의 화생방 무기가 더 강력해지거나, 아예 새로운 대량살상무기가 출현할 수도 있으며 이를 막기 위해 힘을 모아야 한다는 얘기다.
앞에 언급된 규범들은 모두 미국이 주도한다. 그런데 여기서도 미중 전략경쟁의 그림자가 보인다. REAIM 2023 고위급 세션에서 마지막 발언자 탄지엔 주네덜란드 중국대사는 "다자주의를 고수해야 한다"며 "AI 문제의 정치화에 반대해야 한다"고 말했다.
미국을 직접 겨냥하진 않았지만 "각국은 AI 글로벌 거버넌스의 주요 채널로서 유엔에 전적인 역할을 부여해야 한다"며 "개발도상국의 대표성과 목소리를 향상하고 상호 이해와 조정을 촉진해야 한다"고 강조했다.
그는 또 "AI를 통해 절대적인 군사적 우위와 패권을 추구하는 것에 반대한다"면서 "AI의 군사적 적용이 전략적 오산을 심화하거나 글로벌 전략적 균형과 안정성을 손상하지 않아야 한다"라고 말했다. 규범 자체를 반대하진 않지만 미국이 아니라 UN 주도로 이뤄져야 한다는 이야기는 결국 견제성 목적이 다분하며, '미국의 패권 추구' 운운은 중국 외교 당국자의 단골 멘트다.
NPT는 1950년대 핵무기가 인류를 파멸시킬 수도 있다는 공포에서 시작됐다. 멀지 않은 미래에 인공지능이 그 자리를 차지할 수도 있다. 때문에 군사적 활용에 대한 이러한 규범 논의는 마치 NPT를 연상케 한다. 1964년 첫 핵실험을 했고 1971년 대만 대신 유엔 안보리 상임이사국이 됐음에도 1992년에야 NPT에 가입했던 중국은 미국이 또다시 '규범'에서 선수를 치는 일을 경계하고 있다.
그리고 REAIM 첫 회의를 네덜란드와 공동개최, 두 번째 회의를 아예 자국에서 열기로 한 우리나라는 이른바 'AI판 NPT'의 초안이 될 수 있는 정치적 선언에 동참하기로 결정했다. 너무 많이 언급돼 상투적인 표현이 돼 버린 '한미의 긴밀한 공조'를 가볍게 보아 넘기기 어려운 이유다.