선관위 6월 출마 예정자 상대 경찰 고발
“외국 주간지 선정” AI 아나운서 영상 게시
AI 표시의무 위반 과태료 500만 원도 부과

울산시 중구에 위치한 울산시선거관리위원회. 부산일보DB

울산 남구 선거관리위원회가 6·3 지방선거 선거운동을 위해 딥페이크(허위 조작) 영상을 인공지능(AI)으로 제작한 후 사회관계망서비스(SNS)에 올린 입후보예정자 A 씨를 공직선거법 위반 혐의로 경찰에 고발했다고 10일 밝혔다. 이는 2023년 12월 딥페이크 영상 등을 이용한 허위사실 공표 행위 가중 처벌 규정이 신설된 후 전국에서 처음으로 고발된 사례다.

남구 선관위에 따르면 A 씨에 대한 고발 조치는 지난 9일 오전 이뤄졌다. 중앙선거관리위원회는 “A 씨가 ‘외국의 유명 시사 주간지에서 ○○의 발전을 이끌 인물로 A를 선정했다’는 내용의 딥페이크 영상을 제작한 뒤, AI 제작 사실을 표시하지 않고 개인 SNS에 유포한 혐의를 받고 있다”고 설명했다. 해당 영상은 인공지능으로 구현한 아나운서가 뉴스를 보도하는 형식으로 제작됐다.

현행 공직선거법 제250조 제4항은 딥페이크 영상임을 표시하지 않고 당선 목적으로 후보자에게 유리한 허위사실을 공표할 경우 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처하도록 규정하고 있다.

남구 선관위는 형사 고발과 별개로 AI 생성물임을 표시하지 않은 행위에 대해 A 씨에게 500만 원의 과태료를 부과했다. 선관위 관계자는 “딥페이크 영상 등 선거운동과 관련한 표시의무 위반도 함께 문제 되는 사안”이라며 “과태료는 최대 1000만 원까지 가능하지만, 이번 건은 초범인 점 등을 고려해 500만 원이 부과됐다”고 말했다.

공직선거법 제82조의8에 따라 누구든지 선거일 전 90일인 오는 3월 4일까지 선거운동을 위해 AI 기술로 만든 가상의 음향·이미지·영상을 게시할 경우, 해당 정보가 AI로 만든 가상 정보라는 사실을 영상 등에 명확히 표시해야 한다. 이를 위반하면 1000만 원 이하의 과태료가 부과될 수 있다.

중앙선관위는 지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 ‘딥페이크 등 허위사실공표·비방 특별대응팀’을 운영 중이다. 선관위는 “유권자의 올바른 판단을 저해하고 선거 공정성을 훼손하는 유포자에 대해 앞으로도 강력히 대응할 방침”이라고 밝혔다.

권승혁 기자 gsh0905@busan.com