AI가 삭제한 청소년 성범죄동영상 예시. 서울시 제공서울시가 디지털 성범죄 영상물을 단 6분 만에 찾아내 삭제 요청까지 자동으로 처리하는 획기적인 시스템을 전국 최초로 도입했다.
기존에는 SNS나 온라인 커뮤니티에 유포된 불법 영상물을 삭제하기까지 평균 3시간이 걸렸지만, 이제는 AI 기술 덕분에 대폭 단축된 것이다.
'AI 자동 삭제신고 시스템'은 AI가 24시간 영상물을 모니터링하며 자동으로 채증, 문서화, 삭제요청 이메일 작성까지 수행한다.
담당 직원이 최종 확인해 이메일을 발송하면 돼 인력 소모와 감정적 부담도 크게 줄었다고 한다.
특히, 피해 영상물이 해외 사이트에 올라가는 경우도 빈반해지면서 AI는 7개 언어로 신고 이메일을 자동 생성한다.
앞서 서울시는 지난 2023년에도 전국 최초로 디지털 성범죄 AI 삭제지원 기술을 개발한 바 있다.
이 기술 도입 이후 영상 검출 속도는 97.5% 단축, 삭제지원 건수는 468%나 증가했다.
서울시는 '디지털성범죄 안심지원센터'를 통해 피해자를 지원하고 있다.
지난 3년간 3,650명의 피해자를 도왔고, 총 지원 건수는 6만 4천건에 이른다.
피해자의 연령대는 10~20대가 가장 높은 비율(22.1%)을 차지해, 2년만에 13배나 급증했다.
센터는 삭제지원뿐 아니라 수사, 법률, 심리, 의료까지 원스톱으로 지원한다.
상담은 카카오톡 오픈채팅 등 익명 채널을 통해서도 가능하다.
2024년 한 해만 해도 삭제지원 건수는 1만 4천 건을 넘겼고, 심리상담도 1만 5천 건 이상 진행됐다.
김선순 서울시 여성가족실장은 "우리 사회를 충격에 빠트린 n번방 사건부터 지난해 딥페이크 성범죄 사건까지 디지털 성범죄 기술은 갈수록 고도화되고 범죄 피해도 심각하다"며 "앞으로도 디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 말했다.