10초도 안 걸렸다. 웹사이트에 딥페이크로 의심되는 이미지를 올리면, 곧바로 이미지가 실제 인물인지 교묘하게 합성이 된 인물 사진인지 결과가 나온다. ①안면의 어색함을 판단하는 모델, ②이미지 픽셀의 변화가 자연스러운지 판단하는 모델, ③학습된 데이터와 유사성을 보는 모델. 총 세 가지 모델로 '딥페이크일 확률'과 '정상일 확률'을 보여준다.
기자가 직접 실제 인물을 대상으로 만든 딥페이크 이미지 4장과, 실제 인물 이미지 2장을 프로그램에 넣어봤다. 6장 중 2장만 정확한 결과가 나왔다. 딥페이크 이미지 4장 중에서 세 모델 모두 딥페이크율이 높은 이미지는 1장뿐이었다. 실제 인물 이미지 2장 중에서 한 장은 100% 정상 사진이라고 판단됐지만, 나머지 한 장은 한 모델이 90%로 딥페이크일 가능성이 있다고 판단됐다.
영상물 위주로 관련 범죄가 확산하고 있기 때문에 영상 딥페이크 탐지 서비스가 없다는 점이 아쉬운 점으로 꼽힌다. 또 세 모델로 나뉘어 결과를 보여주기 때문에 궁극적으로 사용자가 딥페이크 이미지인지를 판단해야 한다는 점도 신뢰성 측면에서 보완해야 될 부분이다. 사용자가 판단하기 위해서는 딥페이크율 결과에 대한 자세한 설명이 추가돼야 할 필요도 있다. 무엇보다 탐지율을 높이는 게 관건이다.
"딥페이크 잡아"…보안·AI 업계 발 벗고 나서
지난 2020년부터 딥페이크 탐지 모델을 개발해 왔던 딥브레인AI는 의심되는 영상, 이미지와 음성을 업로드하면 영상을 프레임 단위로 나눠서 탐지솔루션이 가동된다. 구간별로 얼굴 생성(Face Generation), 립싱크, 얼굴 변화(Face Swap) 등 어떤 유형인지까지 판별해 낼 수 있다. 탐지결과, 변조율, 진위여부, 합성유형이 상세히 나온다.
보안 업체 라온시큐어는 10월까지 개인 모바일 백신 프로그램에 '딥페이크 탐지 솔루션'을 도입하겠다는 목표다. 라온시큐어 딥페이크 탐지 기술 역시 영상 속 인물의 입, 혈류, 피부, 안면의 윤곽의 자연스러움 등을 감지해 딥페이크 콘텐츠인지를 판별한다. 이 밖에도 씨유박스, 한빛소프트, 이로운컴퍼니 등 보안 업체들도 딥페이크 탐지 기술 개발에 뛰어들었다.
빅테크도 나서…딥페이크 탐지 기술로 "게시글·게시자 탐지"
빅테크도 딥페이크 탐지 기술을 개발하고 있다. 인텔은 '페이크캐처'라는 딥페이크 탐지 기술을 개발해 조작된 동영상을 탐지하고 있다. 영상 속 얼굴에 드러나는 정맥 색의 변화를 1000분의 1초 단위로 감지하는 원리로 작동된다. 실제 인물의 경우 심장이 뛸 때마다 미세하게 정맥의 색이 변화한다는 점에 착안했다.구글과 메타, 오픈AI는 딥페이크 영상 제작에서 사진이나 영상에 별도의 워터마크(식별표시)를 심는 방식을 적용했다. 워터마크는 일반 사용자들은 맨눈으로 볼 수 없지만 추후에 불법 딥페이크 영상을 분석하면 워터마크가 있는 이미지나 영상을 색출해 낼 수 있다.
단순히 딥페이크 자체를 방지하는 것을 넘어 게시자를 추적하는 기술도 발전하고 있다. 대구대 연구팀은 '능동형 다크웹 정보 수집 및 분석과 추적 기술'을 개발해 온라인 플랫폼상 게시 정보를 수집하는 방법을 고안하고 있다. 딥페이크 범죄 게시물과 관련된 정보들을 모아 유사성을 찾아내 게시자를 특정하려는 데 목표를 두고 있다.
"탐지율 더 높여야"…실제 범죄 예방 가능
지난 2020년부터 딥페이크 제작물에 대한 위험성을 우려하며 업계에서도 지속적으로 기술 개발에 나서고 있다. 다만 업계에서는 아직 기술 개발 초기 단계에 있기 때문에 탐지 기술을 고도화하기 위해서는 더 많은 데이터를 학습해 정확성을 높여야 한다고 말한다.한 업계 관계자는 "애초에 이미지를 구분하는 AI 기술은 많이 상용화 돼 있었다"면서 "다만 생성형 AI의 기술도 같이 고도화되면서 진짜와 가짜를 구분하기 위해서는 더 많은 데이터를 학습해 정교함을 높여야 하기 때문에 장기적인 관점에서 봐야 한다"고 말했다.
전문가들도 딥페이크 탐지 기술이 아직 상용화되기엔 역부족이라는 시선이다. 탐지 기술이 고도화되는 만큼 탐지 기술을 회피하는 기술도 개발되는 것도 넘어야 할 산이다. 김승주 고려대 정보보호대학원 교수는 "딥페이크 탐지 기술이 상용화되어 실제 환경에서 탐지 기능을 구동하게 될 지라도 딥페이크 기술이 또 발전할 수 있기 때문에 탐지율이 떨어질 수 있다"면서 "기술로 다 해결될 수 있다는 시각은 위험하다"고 지적했다.