SNS에 확산 중인 'AI 속이기 챌린지' 릴스 영상들. 인스타그램 캡처최근 SNS에서 'AI 합성 낯선사람 장난'으로 불리는 콘텐츠가 확산되고 있다. 참여자는 집안 곳곳의 공간을 촬영한 뒤, AI 이미지 생성기를 이용해 '낯선 사람'의 모습을 자연스럽게 합성한다. 완성된 이미지는 실제 사진처럼 정교하게 만들어진다.
이렇게 만들어진 이미지를 가족이나 연인에게 "집에 낯선 사람이 들어왔어", "침대에 누군가 자고 있어" 등 자극적인 메세지와 함께 전송한다. 상대방이 이를 믿고 놀라는 순간을 영상이나 녹음으로 기록하거나, 반응을 캡처해 SNS에 업로드 하는 방식이다. 실제로 누군가 놀라거나 당황하는 모습, 그리고 장난임을 밝히는 과정까지 영상에 담긴다.
이 유행은 미국과 영국의 틱톡커들 사이에서 처음 시작됐다. 이후 인스타그램과 틱톡 등에서 해시태그와 함께 퍼지며 수백만 조회수를 기록했고, 국내 유튜버와 틱톡커는 물론 일반 이용자들도 유사한 형식으로 영상을 제작해 올리고 있다.
합성에는 구글의 생성형 인공지능 'Gemini'나 이미지 기능이 탑재된 '챗지피티' 등이 주로 사용된다. 실제 사진처럼 정교해 장난이 실제 상황으로 오해받는 사례도 생기고 있다.
누리꾼들의 반응은 합성 대상과 장난의 수위에 따라 뚜렷하게 엇갈린다. 동물이나 유명인을 집안에 합성해 "우리 집에 트럼프가 왔다", "너구리가 침대에 있다"는 식으로 꾸민 콘텐츠에는 "귀엽다", "재미있다"며 가볍게 웃고 넘어가는 반응이 많다. 하지만 낯선 사람을 합성해 가족을 속이는 콘텐츠에는 "실제로 놀랄 수 있다", "진짜 피해로 이어질 수 있어 불쾌하다"며 부정적인 의견이 두드러진다. 실제로 허위신고 등 사회적 피해가 발생할 수 있다며 단순한 장난으로 보기 어렵다는 비판이 SNS와 댓글을 통해 잇따르고 있다.
AI로 합성한 사진을 가족에게 전달하는 과정을 캡처해 SNS에 올린 영상. 틱톡 계정 @songsaboutshit 캡처
안종배 대한민국인공지능포럼 회장은 "AI를 활용한 이미지 장난이 타인에게 심각한 피해를 줄 수 있다는 경각심과, 오용·남용의 위험성에 대한 사회적 인식이 확산되어야 한다"며 "학교·가정·정책·법률 차원에서 AI를 이용한 유해 행동에 대한 교육과 제재가 모두 필요하다"고 강조했다.
또 "최근에는 딥페이크나 딥보이스 기술이 점차 고도화 되어, 이를 이용한 사기·명예훼손 등 실제 범죄도 늘고있다"며 "AI 합성물은 단순한 장난으로 끝나지 않으며, 큰 피해로 이어질 수 있는 위험성이 있어 각별한 주의가 필요하다"고 덧붙였다.
한편, 영국에서는 실제로 10대 소녀의 장난으로 경찰이 긴급 출동하는 사건이 발생했다. 경찰은 "실제 위급 상황에 투입될 수 있었던 자원이 낭비됐다"며, "가족이나 친구로부터 이런 이미지나 메시지를 받았을 경우 긴급 신고 전에 장난이 아닌지 먼저 확인하라"고 공식 경고를 내놨다.