윤 대통령 가짜 신년사 영상
선관위 프로그램 탐지 못 해
대학 2~3학년 수준 쉽게 제작
네거티브 활용 땐 총선에 위협

윤석열 대통령 신년사 딥페이크 영상 화면. 동아대 메타미디어연구소 제공

붉은색 배경의 국회 본회의장 단상에 서서 “국민의 말씀을 더 경청하고 민생을 더 세심하게 살피겠습니다”라고 말하는 윤석열 대통령 영상. 연설대 위를 두 손으로 짚고 청중을 응시하며 특유의 어조로 말을 이어갔다. 얼핏보면 볼과 입술, 성대의 움직임에 부자연스러움을 찾을 순 없었다. 언젠가 뉴스 화면에서 봤을 법하지만, 취재진이 딥페이크로 만든 가상의 모습이다. 딥페이크 영상을 만드는 데 걸린 시간은 단 5분. 순식간에 ‘진짜 같은 가짜’가 만들어졌다.

〈부산일보〉 취재진은 지난달 27일 동아대학교 메타미디어연구소의 도움을 받아 윤석열 대통령의 가상 신년사 영상을 제작했다. 지난해 말 윤 대통령 부부가 각계 인사에 보낸 신년 연하장 내용을 직접 말하는 모습으로 연출했다. 윤 대통령의 목소리를 학습시켜 제작자가 정한 문구를 읽게 하는 ‘보이스 클로닝’, 영상 속 인물이 마치 그 문구를 말하는 것처럼 만드는 ‘립싱크’ 과정을 거쳤다.

준비물은 소음 없이 깔끔하게 녹음된 30초 내외의 윤 대통령 음성과 합성하고 싶은 사진 1장이었다. 제작에 투입된 비용은 음성 합성 프로그램 이용료 1달러였다. 무료 배포된 영상 합성 프로그램을 유료로 전환하면 최종 결과물에 찍힌 워터마크도 삭제할 수 있다.

딥페이크 영상을 제작한 동아대 메타미디어연구소 정소영 교수는 “온라인에서 최신 딥페이크 프로그램을 찾아보고 활용할 수만 있다면, 대학교 2~3학년 정도면 충분히 제작할 수 있을 것 같다”고 평가했다.

취재진이 만든 딥페이크 영상을 선거관리위원회(이하 선관위)가 딥페이크 모니터링에 사용하는 범용 탐지 프로그램 중 하나에 적용했다. 결과는 ‘딥페이크 탐지되지 않음(NO DEEPFAKE DETECTED)’. 워터마크까지 표시돼 있었지만, 이 탐지 프로그램은 딥페이크를 감별하지 못했다.

선관위는 AI 모니터링 전담 요원과 AI 전문가 감별반을 편성하고 △시각적 탐지 △범용 프로그램 활용 △AI 자문위원 감별 등 3단계 체계로 딥페이크 선거운동에 대응하고 있다. 선관위 측은 “탐지 프로그램 자체가 아직 정확하지 않은 부분이 있기 때문에 여러 프로그램을 교차 사용하면서 딥페이크라고 의심이 강하게 드는 경우 조치하고 있다”고 설명했다.

현재까지 선관위에 발견된 딥페이크 선거운동은 대부분 육안으로 구분 가능한 정도의 수준으로 알려져 있다. 그러나 선거 직전 고도로 정교화된 가짜 영상이 온라인을 중심으로 확산했을 때 얼마나 큰 파장을 가져올지는 미지수다.

이 때문에 40일 남은 올해 총선에서 ‘딥페이크 가짜 뉴스’는 가장 큰 위협으로 꼽힌다. 1월 29일부터 개정 공직선거법에 따라 딥페이크 선거운동이 전면 금지됐지만, 선거일이 다가올수록 후보 간 공방전이 과열하면 네거티브 공세 도구로 딥페이크가 활용될 가능성이 높다는 게 전문가들의 평가다.

메타미디어연구소 김대경 교수는 “미디어 환경이 변화하면서 특히 노년층은 유튜브에서 접한 정보를 TV나 신문 등에서 접한 정보와 동일시하는 경향도 나타난다”며 “누구나 정보를 생산할 수 있는 환경에서 시청각 요소가 결합된 딥페이크는 확증 편향을 강화해 극단적인 정치 양극화를 부추길 수 있다”고 말했다.

딥페이크(Deepfake)란?

인공지능 기술인 ‘딥 러닝’과 가짜를 뜻하는 ‘페이크’의 합성어. 인공지능 기술을 이용해 진위를 가리기 어렵게 만든 가짜 이미지나 영상, 음성 등을 의미한다.

손혜림 기자 hyerimsn@busan.com