페이스북 로고. (사진=연합뉴스 제공)
세계 최대 소셜미디어 페이스북이 올해 미국 대선을 앞두고 '딥페이크'(deepfake)로 알려진 조작 동영상의 게시를 금지한다고 일간 워싱턴포스트(WP)가 7일(현지시간) 보도했다.
딥페이크란 정교한 인공지능(AI) 알고리즘을 이용해 조작된 이미지나 동영상을 말한다.
기존에도 이미지·동영상 조작은 있었으나 딥페이크는 AI를 활용해 감쪽같이 조작이 이뤄지면서 진위를 가리기가 매우 어렵다고 평가된다.
이에 따라 대선을 앞둔 미국에서는 다른 사람의 동영상에 대통령 후보의 얼굴을 합성해 실제로 하지 않은 발언이나 행동이 있었던 것처럼 꾸민 동영상이 유포되며 선거 결과에 영향을 미칠 수 있다고 우려하고 있다.
이런 가운데 페이스북은 이날 이용자들이 컴퓨터로 제작했거나 고도의 기술로 조작된 딥페이크 동영상이 올라올 경우 앞으로 이를 삭제하겠다고 밝혔다.
페이스북의 글로벌 규정 관리 부사장 모니카 비커트는 "이런 동영상은 여전히 인터넷상에 드물지만, 이들의 사용이 점차 늘면서 우리 산업계와 사회에 중대한 도전을 던지고 있다"고 말했다.
비커트는 이번 주 미 하원이 개최하는 '디지털 시대의 조작과 기만'을 주제로 한 청문회에 증인으로 출석할 예정이다.
WP는 "2020년 대선을 앞두고 새로운 형태의 가짜 뉴스가 확산하는 것을 차단하려는 조치"라고 풀이했다.
페이스북은 보통의 이용자들이 쉽게 알아채지 못하도록 AI 같은 기술을 이용해 편집하거나 합성한 동영상을 금지할 계획이다.
동영상의 주인공이 하지 않은 말을 한 것처럼 보이게 한 동영상 등이 여기에 해당한다.
페이스북은 또 AI 같은 기술로 동영상에 다른 콘텐츠를 합성·교체·첨가해 사람들을 오해하게 만드는 콘텐츠도 삭제할 계획이다.
다만 페이스북의 조치는 모든 조작된 동영상을 금지하는 것은 아니다.
풍자나 패러디(소설·영화 등 기존의 예술 작품을 희극적으로 비튼 것)를 위해 조작된 동영상은 금지 대상이 아니다.
또 일부 내용을 생략하거나 어순을 바꾸기 위해 편집한 동영상도 예외로 인정된다.
페이스북은 이에 따라 지난해 페이스북 등에 유포되며 논란이 된 낸시 펠로시 미 하원의장이 술에 취해 말하는 것처럼 편집된 동영상은 새 금지 규정에 저촉되지 않는다며 삭제하지 않을 것이라고 밝혔다.
민주당의 유력 대선 주자인 조 바이든 전 부통령의 선거 캠프 관계자는 페이스북이 딥페이크를 다루는 방식이 부적절하며 개선됐다는 환상만 심어준다고 주장했다.
바이든 전 부통령은 최근 맥락과 동떨어진 일부 발언만 편집된 동영상이 퍼지면서 인종차별주의자란 오해를 산 바 있다.