부산경찰청, 허위 사실 유포 40대 유튜버 송치
“중국 경찰이 폭력” “부정선거 관계자 체포” 등
AI 활용해 후원금 목적으로 허위사실 유포 혐의

6·3 지방선거 당시 잠실 개표소로 사용된 서울 송파구 올림픽공원 핸드볼경기장 앞에서 지난달 28일 투표용지 부족 사태 규탄 봉쇄 시위 참가자들이 우산을 쓰고 구호를 외치고 있다. 연합뉴스

‘잠실 시위 현장 중국 국적 경찰이 폭력 행사’ ‘잠실 핸드볼경기장 지하 용접 방화 테러 기도’ 등 생성형 인공지능(AI)을 활용해 허위 정보를 담은 영상을 제작·유포한 유튜버가 경찰에 붙잡혔다.

부산경찰청 사이버수사과는 전기통신기본법 위반 혐의로 40대 남성 유튜버 A 씨를 검거해 불구속 송치했다고15일 밝혔다. A 씨는 구독자 8만 7700여 명을 보유한 유튜브 채널을 운영하며 생성형 AI 프로그램을 이용해 허위 정보를 담은 영상을 제작해 게시한 혐의를 받는다.

경찰에 따르면 A 씨는 지난 3월 28일 자신의 유튜브 채널에 “90만 배럴의 비축유가 북한에 전달됐다”는 내용의 영상을 게시해 중동전쟁에 따른 원유 부족 사태에 대한 사회적 불안감을 조성했다. 또한 “미국 민간군사기업이 여의도에 상륙한다” “부정선거 관련 행안부 전직 고위직·특정 정당 인사에 대한 체포·압송 작전이 이뤄진다”는 등의 허위 정보를 담은 영상을 올렸다.

그는 특히 수사를 받는 과정에서도 “잠실 현장에서 중국 국적 복면 경찰이 폭력한다” “잠실 핸드볼경기장 지하 용접 방화 테러 기도” 등 잠실 시위와 관련한 허위 정보를 추가로 게시한 것으로 확인됐다.

경찰 조사 결과 A 씨는 생성형 AI 프로그램에 특정 결론을 유도하는 방식으로 반복 질의를 수행해 AI의 정보 출처와 신뢰성 판단에 혼선을 일으켰다. 이어 자신이 원하는 허위 정보 답변을 받아 이를 토대로 유튜브 영상과 방송 대본을 제작한 것으로 드러났다. A 씨는 일반적으로 사용되는 생성형 AI 서비스를 활용해 허위 정보 내용을 구성한 것으로 조사됐다. A 씨가 게시한 영상은 본인이 직접 출연해 허위 사실이 담긴 화면을 배경으로 설명하는 방식으로 제작됐다.

경찰은 A 씨가 허위 정보 영상을 유포하며 후원금을 받은 점에 주목했다. A 씨의 유튜브 채널은 수익 창출이 제한된 상태였지만, 실시간 방송 화면 하단에 후원 계좌를 노출해 후원금을 받는 방식으로 채널을 운영해 온 것으로 파악됐다.

경찰은 허위 정보 영상이 송출된 시간에 발생한 후원금 등을 기준으로 1000만 원이 넘는 금액에 대해 기소 전 추징 보전을 신청했다. 경찰은 실질적인 수익 규모는 이보다 더 클 것으로 보고 있다.

부산경찰청은 지난해 9월부터 온라인상 허위 정보와 가짜 뉴스에 대한 대응 활동을 이어오고 있다. 경찰은 단순 게시물의 경우 삭제·차단 조치를 하고 있지만, A 씨처럼 허위 정보를 지속적·반복적으로 게시한 사례에 대해서는 수사로 전환했다고 설명했다.

부산경찰청 관계자는 “수익을 목적으로 생성형 AI를 이용해 명백한 허위 사실을 그럴듯하게 퍼뜨리는 허위 정보 유포 행위가 지속돼 사회적 혼란을 일으키고 있는 만큼 엄정하게 대응하겠다”고 말했다.