상대 정치인 풍자 게시물 비롯
AI 활용 금지 어긴 선거운동
중앙선관위 한 달간 129건 적발
바이든 음성 조작 확산 비롯해
정치적 악용에 전 세계가 우려
가짜 구별 어려운 AI 개발 속도
악용 막을 탐지 기술 못 따라가

지난달 22일 부산시선거관리위원회 사무실에서 AI모니터링단 전담요원이 다양한 플랫폼에서 조작 영상과 딥페이크 선거운동 영상을 모니터링 하고 있다. 이재찬 기자 chan@

딥페이크 선거운동이 법으로 금지된 한 달 동안 100건이 넘는 딥페이크 영상이 선거법 위반으로 적발됐다. AI 기술을 이용해 음성이나 영상을 실제처럼 만들 수 있는 딥페이크는 기술의 발달로 누구나 만들기 쉬워지면서 올해 총선의 최대 복병으로 떠올랐다. 선거에 영향을 끼치려는 악의로 제작이 된다면 경우에 따라 선거판을 흔드는 시한폭탄이 될 수 있다. ‘가짜를 구별할 수 없음’을 목표로 질주하는 AI 기술 흐름 속에서 총선을 앞두고 ‘가짜와의 전쟁’은 더욱 치열해지고 있다.

■딥페이크 선거운동 아직은 잠잠

중앙선거관리위원회는 딥페이크 등 AI 활용 선거운동이 금지된 1월 29일부터 지난달 28일까지 딥페이크 선거운동 129건을 적발해 삭제조치했다고 29일 밝혔다. 특정 정치인이 상대 진영 정치인을 비난하는 것처럼 꾸며지거나 영상 속 인물이 스스로 조롱하는 말을 하도록 제작된 영상이 대표적이다. 부울경 지역은 아직 딥페이크 선거운동이 적발되지 않아 잠잠하다.

선관위의 적발 건수는 지난달 21일부터 변동이 없는 상황이다. 최근 딥페이크에 대한 우려가 높아지면서 위반 게시물이 많지 않고, 딥페이크인지 아닌지 판별하는 데 시간이 소요돼 집계되지 않은 사례도 있다는 게 선관위의 설명이다. 선관위 관계자는 “현재 검토 중인 게시물이 있지만, 전문가 자문을 받을 만큼 중대한 사안은 아니다”고 말했다.

취재진이 찾은 선관위 모니터링 현장에는 ‘아직 아무 일도 없다’는 안심보다 ‘언제 터질지 모른다’는 긴장감이 흘렀다.

지난달 22일 오후 3시 부산 연제구 선거관리위원회 2층 사이버 공정선거지원단 사무실에서 만난 모니터링 요원은 딥페이크를 하루 50건가량 발견한다고 전했다. 선거운동 목적보다 유명인을 우스꽝스럽게 만드는 식의 딥페이크가 대부분이라고 설명했다.

한 모니터링 요원은 “인터넷 사이트마다 정치적 성향이 다르다 보니, 반대 성향의 정치인에 대한 딥페이크가 올라오는 경우가 많다”며 “영화 장면에 합성하거나, 어설프게 꾸며져 대부분 눈으로 보면 티가 난다”고 말했다.

실제 영상과 구분하기 어려울 정도로 정교한 수준으로 합성된 영상도 발견된다. 모니터링 요원은 “진짜 같은 딥페이크 영상은 내용이 터무니없어 구별할 수 있을 뿐이었다”고 말했다. 마음만 먹으면 내용마저 사실인 양 꾸며낼 수 있는 것이다.

매우 정교하게 조작된 딥페이크가 확산하면 AI의 제작 여부를 따지는 1차 검증에서조차 결론을 내리지 못할 가능성도 제기된다.

경찰은 사이버수사대를 통해 딥페이크 관련 선거 범죄를 수사하지만, 워낙 기술이 빠르게 발전하는 탓에 기존 기술로 모든 유형의 AI 기반 선거운동을 가려내기엔 한계가 있는 상황이다. 경찰은 딥페이크 탐지 프로그램을 지속해서 고도화하겠다는 입장이다.

■전 세계가 들썩...계속되는 AI의 질주

올해는 세계의 이목이 집중되는 미국 대선을 비롯해 76개 국가에서 선거가 치러지는 ‘슈퍼 선거의 해’다. 그만큼 정치적 목적의 딥페이크 악용 우려가 어느 때보다 높다.

세계경제포럼이 1월 발간한 글로벌 리스크 보고서에 따르면 앞으로 2년 내 가장 심각한 위험으로 ‘잘못된 정보와 허위 정보’가 꼽혔다. 국내에서도 ‘윤 대통령 짜깁기 영상’이 확산하자 방송통신심의위원회가 긴급 심의를 여는 등 신경을 곤두세우는 분위기다.

해외에선 딥페이크가 선거판에 불러온 혼란이 이미 가시화됐다. 1월에는 미국 뉴햄프셔주 대선후보 예비경선을 하루 앞두고 바이든 대통령이 투표 거부를 독려하는 내용의 가짜 음성전화가 확산됐다. 앞서 트럼프 전 대통령이 경찰에 연행되는 듯한 모습의 딥페이크 사진이 유포되기도 했다. 슬로바키아, 튀르키예, 대만, 인도네시아 등에서도 딥페이크 영상 등이 선거 기간 논란이 됐다.

전문가는 AI 기술이 ‘진짜 같은 수준’을 목표로 발전하기 때문에 딥페이크 탐지는 어려워질 수밖에 없다고 설명했다. 특히 최근 챗GPT 개발사인 오픈AI가 공개한 동영상 생성 AI 서비스 ‘소라’와 같은 고화질 딥페이크에 대해서는 현재 기술로는 탐지가 어려울 것으로 보고 있다.

부산대 AI대학원 송길태 교수는 “진짜와 가짜를 구별하기 어려운 고화질의 영상까지 생성되는 요즘 환경에서는 완벽한 탐지 기술이 없다고 봐야 할 것 같다”며 “생성형 AI 분야에서는 가짜를 구별하지 못할 정도를 목표로 해서 기술을 끌어올리고 있기 때문에 탐지는 더 어려워질 수밖에 없다”고 말했다. 이어 “나중에는 영상 자체에 대한 판단보다 대형언어모델을 활용해 딥페이크 속 인물이 그런 말을 할 법한지 아닌지 등 맥락을 살펴보고 판단하는 형태로 탐지 기술이 나아갈 것”이라고 예측했다.

손혜림 기자 hyerimsn@busan.com