생성형 AI(인공지능)를 이용해 교황을 패러디한 건 도널드 트럼프 미국 대통령뿐만이 아니다. 프란치스코 교황은 소셜 플랫폼 가짜 뉴스의 단골 소재였다. 입원 중에는 ‘이미 죽었다’는 주장과, 예수와 성모 마리아가 문병하는 가짜 영상까지 나돌더니, 선종 이후에는 ‘아직 살아 있다’는 주장이 그럴듯한 영상과 함께 소셜 플랫폼을 뒤덮었다. 허위 정보 모니터 기관 ‘사이아브라’(Cyabra)가 교황 입원 1주일 동안 X(옛 트위터)에서 유통된 관련 콘텐츠를 조사한 결과 31%가 가짜였다. 미국 금리 동결이 발표되면 기다렸다는 듯이 ‘달러 폭락’이라는 자극적인 제목을 단 숏폼 영상이 쏟아진다. 전문가의 식견이나 객관적 데이터가 있을 리 없고, 자극적인 헤드라인으로 시선을 끌 뿐이다.

요즘 유튜브 숏츠, 인스타그램 릴스, 틱톡 등의 숏폼 공유 플랫폼에는 AI로 제작된 콘텐츠가 넘쳐난다. 챗GPT 이후 정말 많은 생성형 AI 앱이 출시된 덕분에 불과 몇 분 만에 뚝딱 영상을 만드는 세상이 됐다. 챗GPT로 시나리오를 짠 뒤 영상 구성 프롬프트까지 얻어서 런웨이(Runway)나 플럭스(Flux) 등에 입력해 영상을 생성한 다음, 더빙 AI로 내레이션을 입히고 루마(Luma)로 편집을 마무리하는 식이다. 진돗개가 김치찌개를 끓이고, 아이스크림이 강아지로 둔갑하는 일도 가능해졌다.

문제는 조회 수가 오르면 수익이 생기게 된 구조다. 소셜 플랫폼을 지켜보다가 실시간으로 뜨는 검색어가 있으면 관련 콘텐츠를 급조해서 여러 플랫폼에 올리는 게 유행이 됐다. 베끼거나 짜깁기한 부실 콘텐츠는 물론이고 허위라도 사용자의 주목을 끌기만 하면 된다. 사용자 맞춤형 노출 알고리즘에 얹히면 짭짤한 수익이 보장되기 때문이다. 과거 네이버의 ‘실검(실시간 검색어)’에 맞춘 ‘어뷰징 기사’, 즉 클릭만을 노린 저질 기사가 양산돼 뉴스 신뢰가 하락했던 폐해의 판박이다.

급기야 ‘당신도 AI 돈벌이에 나서라’고 부추긴다. ‘생성형 AI로 1분 만에 완성하는 숏폼’ ‘숏폼 영상 편집 제작 및 수익 창출’ ‘한 달 200만 원 수익’…. 잊을 만하면 뜨는 유료 강의 홍보는 ‘지금 아무것도 하지 않으면 시대에 뒤처진다’는 세뇌다. AI 앵벌이는 시작 단계에 불과하다. 저품질 대량 복제의 시대는 아직 본격화되기도 전이다. 앞으로 어떤 세상이 올까? 글쎄, 예측 불가다. 누구도 AI가 있는 시대를 경험한 적이 없기 때문이다.

김승일 논설위원 dojune@busan.com