테일러 스위프트 공연 모습. 연합뉴스 세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 음란 이미지가 팬들을 중심으로 분노를 사고 있다.
26일(현지시간) 뉴욕타임스(NYT), CNN 등 외신에 따르면 최근 스위프트의 얼굴에 성적으로 노골적인 자세를 합성한 딥페이크 이미지가 소셜미디어 엑스(X) 등에 확산됐다.
딥페이크(Deep Fake)는 AI 기술을 이용해 만들어낸 가짜 이미지, 오디오, 비디오 등으로 사실과 다른 모습이나 행위 등을 꾸며낸 것을 의미한다.
이 이미지가 소셜미디어 등을 통해 확산하자 온라인에서는 이를 비판하는 목소리가 커지고 있다.
지금은 해당 이미지를 올린 계정들이 폐쇄 조치되면서 더 이상 찾기 어렵지만 이 미지는 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 주로 X에서 공유됐지만 인스타그램과 레딧에서도 발견됐다.
X는 성명을 통해 "확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 공유한 계정에 대해 적절한 조취를 취하는 등 추가 위반 사항이 발생하지 않도록 상황을 면밀하게 모니터링 하고 있다"고 밝혔다.
하지만 스위프트 팬들은 해당 이미지가 장시간 방치됐다며 비판의 목소리를 높였다.
AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 이미지가 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다.
딥페이크를 연구하는 워싱턴대 컴퓨터과학 교수 오런 에치오니는 "늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다"며 "이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것"이라고 말했다.
이번 스위프트의 딥페이크 이미지를 계기로 AI를 이용한 가짜 이미지 생성에 대한 강한 규제가 필요하다는 여론이 거세지는 분위기다.
현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있다. 하지만 연방 정부 차원의 규제는 없는 실정이라고 현지 언론은 전했다.