총선 앞 공정 선거 위협하는 요소 급부상
선관위·테크기업 연계 공동 감시체계 시급

22일 오후 부산시선거관리위원회 사무실에서 AI모니터링단 전담요원이 다양한 플랫폼에서 조작된 영상, 딥페이크 선거운동 영상 등을 모니터링 하고 있다. 이재찬 기자 chan@

제22대 국회의원 선거를 앞두고 ‘딥페이크’가 공정 선거를 위협하는 새로운 변수로 떠올랐다. AI(인공지능)를 기반으로 이미지를 합성한 딥페이크는 올해 약 70개국에서 선거를 치르는 이른바 ‘슈퍼 선거의 해’를 맞아 전 세계가 주목하는 이슈인데 총선이 불과 한 달여 앞으로 다가온 우리에게는 발등에 불이 떨어진 셈이다. 〈부산일보〉 취재팀이 동아대 메타미디어연구소 도움으로 딥페이크 영상을 제작한 결과 단 5분 만에 ‘진짜 같은 가짜’를 만들 수 있었다고 한다. 이를 선거관리위원회 모니터링에 적용한 결과 ‘딥페이크 탐지되지 않음’으로 나왔다. 앞서가는 AI 기술을 정부 단속이 따라가지 못하는 현실을 단적으로 보여준 결과다. 딥페이크로 인한 선거 혼란이 우려될 수밖에 없다.

중앙선거관리위원회는 개정 선거법에 따라 딥페이크를 이용한 선거운동이 금지된 1월 29일 이후 법 위반 게시물 129건을 적발해 조치했다고 밝혔다. 대부분 유명 정치인 발언이나 행동을 조작해 실제 영상이나 이미지처럼 합성한 게시물이라는 게 선관위 설명이다. 부울경에서는 아직 이 같은 사례는 적발되지 않았다고 한다. 그러나 잠잠하다고 안심할 수 있다는 말은 아니다. 부울경에서도 총선 대진표가 확정되고 본격 선거전에 돌입하면 딥페이크를 이용한 불법이 언제든 발생할 수 있다. 특히 딥페이크의 속성상 선거일이 가까워질수록 파급력과 혼란이 더 커질 수 있다는 점을 감안하면 철저한 대비가 필요하다.

딥페이크에 대한 우려가 큰 것은 세계적으로도 그 파급력이 확인되고 있다는 점 때문이다. 지난해 5월 튀르키예 대선에서는 투표를 며칠 앞두고 ‘테러 집단이 야당 후보를 지지한다’는 딥페이크 영상이 퍼져 대지진으로 지지율이 폭락한 여당의 에르도안 대통령이 수성에 성공하는 이례적 결과로 이어졌다는 분석이다. 미국에서도 11월 대선을 망칠 최대 위협으로까지 거론된다. 국내는 ‘윤석열 대통령 양심 고백’ 딥페이크 영상이 확인돼 경찰이 수사에 나선 상황이다. 문제는 현실적으로 딥페이크 관련 기술의 발전을 막을 방법이 없다는 점이다. 오픈AI의 ‘소라’와 같은 고화질 딥페이크 기술은 현재 기술로는 탐지가 어렵다는 것이다.

총선을 앞두고 공정한 선거운동이 보장되지 않으면 민주주의 후퇴는 물론이고 감당하기 어려운 혼란이 우리 사회를 휩쓸 수도 있다. 국회는 선거일 90일 전부터 딥페이크 활용 선거운동을 할 수 없도록 공직선거법을 개정했다. 선관위도 특별 전담반을 꾸리고 단속에 나서고 있다. 그러나 선관위 모니터링만으로는 역부족이다. 진화하는 가짜뉴스를 따라가기에 한계가 있기 때문이다. 딥페이크는 민주주의 근간을 흔드는 반민주적 범죄로 강력한 처벌이 필요하다. 이를 위해 선관위와 테크기업, 그리고 이용자들이 긴밀하게 연계된 공동 감시체계를 구축하는 방안이 시급하다.