성 착취물 유통 ‘링공방’ 가 보니

음란물 합성 챗봇, 링크 공유 유혹
이용자 끌수록 제작 기회 더 제공
다단계·점조직 형태 대화방 운영
해킹 링크로 방어 무력화도 시도
기술에 따른 법과 윤리 마련 시급

그래픽=노인호 기자 nogari@

인공지능을 사용해 만든 허위 이미지인 딥페이크 성 착취물은 ‘공유’를 먹고 자랐다. 여성의 사진을 음란물로 합성해 주는 AI 챗봇은 불법 합성물과 챗봇 링크를 외부에 공유한 이용자에게 합성 기회를 더 많이 부여하는 구조로 운영된다.

■퍼 나르기 권장하는 AI 챗봇

27일 〈부산일보〉 취재진은 텔레그램 딥페이크 성 착취물 대화방인 일명 ‘링공방(링크 공유방)’에 직접 들어가 불법 합성물 제작 챗봇의 운영 방식을 확인했다.

이들 챗봇은 사진을 올리고 나체, 성관계 등의 명령어를 입력하면 명령어에 맞게 이미지를 만들어준다. 챗봇들은 불법 합성 성 착취물을 만들어 공유하면 ‘토큰’ ‘크레딧’ ‘캐럿’ 등 합성을 위한 재화로 보상받는 구조로 운영되고 있었다.

취재진은 운영 방식을 확인하기 위한 합성 의뢰 과정에서 AI가 생성한 가상의 여성 이미지를 사용했다.

A 챗봇은 토큰을 무료로 받으려면 텔레그램 내 다른 단체 대화방에 불법 합성물을 공유하라고 권했다. 토큰은 일종의 티켓으로, 사진 1개를 합성할 때마다 토큰이 하나씩 차감된다. 토큰 5개에 2달러로 한화 2600원 정도인데, 타인에게 챗봇 링크를 공유하고 등록까지 유도하면 토큰을 무료로 받을 수 있다.

‘궁극적인 리얼리즘을 추구한다’고 소개한 B 챗봇은 최초 이용자에게 1크레딧을 주고, 사진 하나를 처리할 때마다 0.8크레딧을 차감했다. 친구를 초대하면 0.5크레딧을 무료로 지급한다고 안내했다.

27만 명이 구독한 C 챗봇은 일종의 ‘다단계’ 방식으로 운영됐다. 최초 2캐럿(1회 합성에 1캐럿 차감)을 지급하되, 다른 이용자를 더 초대하면 2캐럿을 더 지급하겠다고 안내했다. 초대된 다른 이용자가 유료로 캐럿을 구매할 경우, 이들이 구매한 캐럿의 10%만큼을 지급한다고 안내했다. 더 많이 이용자를 끌어들일수록 불법 합성물 제작 기회를 더 많이 확보할 수 있는 것이다.

■논란 커져도 보란 듯이 범죄 행위

며칠 사이 사회적으로 큰 논란이 일자 텔레그램 딥페이크 성 착취물 공유 대화방인 ‘링공방’과 ‘겹지방(겹지인방)’ 등이 속속 삭제되고 있다. ‘겹지방’은 ‘겹치는 지인 대화방’이라는 의미로, 특정 인물을 아는 이들이 모여 지인의 사진을 불법 합성하고 공유하기 위한 목적의 텔레그램 대화방이다.

여러 대화방이 잇달아 ‘폭파’되는 가운데 여전히 활발하게 활동하는 대화방도 있었다. 7700여 명이 접속하고 있는 한 대화방에선 이날도 성 착취물 제작 방식과 비공개 SNS를 해킹하는 방식을 공유했다.

이 ‘링공방’은 ‘겹지방’ ‘지능방’ ‘능욕방’ ‘도촬방’ ‘근친방’ 등 하위 대화방으로 나뉘어져 있었다.

이곳에서 반성의 기색은 찾아보기 어려웠다. 27일 오후에는 한 여성의 실명과 주민등록번호, 주소, 직업, 가족관계 등 민감한 개인정보와 함께 성적인 비방이 담긴 글이 게시되기도 했다.

지역별 ‘겹지방’의 존재를 물으며 링크를 공유해 달라거나, SNS 비공개 계정을 해킹하는 링크를 공유하는 모습도 계속되고 있었다. 해킹 링크를 공유하는 행동은 여성들이 자신의 SNS를 비공개 계정으로 전환해 혹시 모를 합성으로부터 자신을 보호하려고 하자 이를 무력화하려는 시도로 풀이된다.

■혹시 내 사진도? 공포 확산

텔레그램 딥페이크 음란물 피해를 입은 학교 명단이 지난 주말부터 SNS에 급속히 퍼지자 청소년과 학부모 사이 공포도 확산하고 있다. 부산 수영구에 거주하는 김 모(17) 양은 “같은 반 친구 3명이 하루 사이 인스타그램 계정이 털렸는데, 모두 SNS에 사진을 많이 올린 친구들이었다”며 “친구들 모두 걱정이 되어 카카오톡 프로필을 비롯해 SNS에 올린 사진을 내리고 있다”고 전했다. 딥페이크 피해자와 전문가들은 강력한 대응 시스템이 필요하다고 입을 모은다. 올해 중학생 딸이 딥페이크 피해를 입은 학부모는 “사건 이후 가해 학생에 대한 재발 방지 교육이 어떻게 이뤄졌는지 알 수가 없었고, 음란물 유출 여부에 대해서도 경찰이나 학교에서 알려주지 않아 불안했다”고 토로했다.

부산성폭력상담소 이재희 소장은 “연예인 딥페이크 사건 등 이전에도 문제라는 지적이 많았지만 제대로 대응하지 않아 범죄가 급속도로 확산되고 있다”며 “가해자 처벌을 강화하는 한편 교육청은 피해자 전수 조사와 현재 진행되는 교육 프로그램 개선 등의 후속 대책을 마련해야 한다”고 조언했다.

서울여대 정보보호학과 김명주 교수는 “AI가 등장하면서 윤리 문제가 예상됐지만 기술 발달 속도를 윤리와 법이 못 따라가는 형국”이라며 “새로운 기술을 빨리 습득하는 청소년을 대상으로 피해자 입장을 공감하는 방식의 윤리 교육을 일상화하는 것이 중요하다”고 말했다.

손혜림 기자 hyerimsn@busan.com , 송지연 기자 sjy@busan.com