민형배 의원 “접속차단은 물론, 삭제 조치 비율도 높여야”
김병욱 의원 “기술 신속 대처 시스템 구축·강력조치 필요”

딥페이크(Deepfake) 기술을 활용한 음란물 시정 요구가 최근 3년 2개월간 9000건을 넘겼지만, 콘텐츠 삭제는 5％에 미치지 못하는 것으로 나타났다. 딥페이크 이미지 사진 캡처

김병욱 의원실 제공

인공지능(AI) 기반으로 얼굴 등을 합성하는 딥페이크(Deepfake) 기술로 성적 허위영상을 만들어 배포하는 범죄가 해마다 늘고 있다. 특히 딥페이크 기술을 활용한 음란물 시정 요구가 최근 3년 2개월간 9000건을 넘겼지만, 콘텐츠 삭제는 5％에 미치지 못하는 것으로 나타났다.

딥페이크는 기존 동영상에 다른 사람의 얼굴을 합성하는 기술로, 최근 AI 기술이 접목되면서 더욱 정교해지고 있으며 관련 피해도 늘고 있다.

9일 국회 과학기술정보방송통신위원회 소속 더불어민주당 민형배 의원과 국민의힘 김병욱 의원이 방송통신심의위원회(이하 방심위)로부터 제출받은 자료에 따르면, 방심위가 불법 성적 허위 영상물을 심의해 시정 요구한 건수는 2020년 6월부터 올해 8월까지 3년 2개월간 총 9006건으로 집계됐다.

방심위의 불법 성적 허위 영상물 시정 요구 건수를 연도별로 보면 2020년 473건, 2021년 1913건, 2022년 3574건이었으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있다.

하지만 이 기간 삭제된 영상은 410건으로 전체 심의의 약 4.55％에 불과했다. 시정 요구 내역의 95.44％는 접속차단이었고, 이용해지는 1건이었다. 이는 불법 음란물을 제공하는 사이트·플랫폼 상당수가 해외에 서버를 두고 있기 때문으로 풀이된다.

‘성폭력범죄의 처벌 등에 관한 특례법’에 따르면 반포‧판매 등을 할 목적으로 사람의 얼굴, 신체나 음성을 대상으로 한 영상물 등을 대상자의 의사에 반해 성적 욕망이나 수치심을 유발할 수 있는 형태로 편집·합성·가공한 자는 5년 이하의 징역 또는 5000만 원 이하의 벌금형에 처한다.

경찰청이 2021∼2022년 집계한 허위 영상물 유포 범죄는 316건이었으며, 올해 들어서도 8월까지 관련 범죄가 96건이나 발생한 것으로 잠정 확인됐다. 이 기간 피의자가 검거된 경우는 2021년과 2022년 각각 74건과 75건, 2023년 8월까지 50건으로, 검거율은 약 48.3％에 그쳤다.

경찰청이 김병욱 의원에게 제출한 자료에 따르면 경기북부경찰청 남양주북부서에서는 2021년 8월 5~16일 SNS에 공개된 여성들의 프로필 사진을 이용해 타인의 알몸 사진과 합성한 허위제작물을 만들어 해외 사이트에 유포한 피의자가 구속됐다. 또 제주경찰청 사이버범죄수사대에서는 2020년 8월부터 2022년 10월까지 해외 구독형 사이트에서 월 30달러의 구독료를 받고 연예인(미성년자 포함)의 허위영상물 3000여 개를 제작해 텔레그램으로 판매한 피의자가 구속됐다. AI 그림 생성 프로그램을 이용해 아동·청소년 성 착취물 360개를 제작·소지한 피의자가 부산경찰청 사이버수사대에 덜미를 잡혀 구속된 사례도 있었다.

민형배 의원은 “성적 허위 영상물이 피해자의 민감 정보 등을 포함한 만큼, 방심위가 더 적극적으로 딥페이크 영상 삭제에 나서 2차 피해를 막아야 한다”며 "방심위와 경찰청이 모니터링을 확대하고, 실시간 업무협조 체계를 구축해 불법 성적 허위 영상물을 유통하는 개인·업체에 대한 정보 공유가 필요하다. 기술 발달을 고려해 탐지시스템 도입 등 사전 차단 노력도 필요하다"고 강조했다.

김병욱 의원은 “기술이 진보하면서 범죄도 지능화되고 있어 당국이 관련 기술을 신속하게 파악하고 대처할 시스템을 갖춰야 한다”며 “디지털 성범죄에 대한 취업제한, 신상 및 머그샷 공개 등 강력조치도 필요하다”고 제안했다.

송현수 기자 songh@busan.com