사회적 파장 최소화 대책

네이버 AI 선거 콘텐츠 생성 금지
기업 자율규제·유권자 주의 필요

경기도 성남시 네이버 본사 모습. 연합뉴스

국내외 주요 IT 기업은 하루가 멀다고 딥페이크의 선거 위협을 최소화할 대책을 내놓고 있다. 전문가들은 유권자에게 함부로 딥페이크 영상을 공유해서는 안 된다고 주의를 요구했다.

29일 한국인터넷기업협회 등에 따르면 3월 중 네이버, 카카오, 구글코리아, 메타코리아 등 주요 IT 대기업은 자율협의체를 구성하고 대응 방안을 발표할 전망이다. 이들은 지난달 16일 뮌헨안보회의에서 발표된 기술 협정과 같은 협약문을 발표하는 것으로 알려졌다.

이 같은 대응 방안 발표가 당장 총선에서 얼마나 효과를 거둘지는 미지수다. 뮌헨안보회의에서 공개된 기술 협정문도 워터마크 등 일부 예방 조치를 제외하면 앞으로의 ‘행동 틀’ 정도로만 제시하고 있기 때문이다. 한국인터넷기업협회 관계자는 “구체적인 발표 내용은 알려줄 수 없다”고 말했다.

개별 기업 차원의 대책 마련도 잇따르고 있다. 지난달 28일 네이버는 자사 AI 서비스에 선거 관련 콘텐츠 생성을 원천 금지하는 등의 조치를 발표했다. 카카오는 자사 이미지 생성 AI 서비스 ‘칼로’에 비가시성 워터마크 개발 기술을 검토하고 있다.

전문가들은 AI 윤리를 근거로 한 기업의 자율규제가 이번 총선에서 딥페이크로 인한 사회적 파장을 줄일 수 있는 유일한 조치라고 평가한다. 바른AI연구센터 서울여대 김명주 교수는 "(총선이 얼마 남지 않은 상황에서) 규제나 법으로 다루기엔 이미 늦었다. 기업들이 자율 기구를 통해 자율적으로 지키게끔 하는 길밖에 없는 상황"이라고 진단했다.

그러면서 유권자 스스로도 딥페이크 확산에 동조하지 않도록 주의를 당부했다. 김 교수는 “공직선거법에서는 선거운동 목적의 딥페이크를 편집, 복사, 전송, 게시하는 사람 모두를 처벌하도록 하고 있다. 자신이 제작한 게 아니더라도 확증편향에 사로잡혀 퍼 나르면 처벌받을 수 있기 때문에 유권자들은 이런 점을 알 필요가 있다”며 “AI 윤리 규범에 대한 필요성은 수년 동안 언급돼 왔지만, 아직 정착하지 않아 경각심이 필요하다”고 전했다.

김 교수는 유권자가 딥페이크 발 가짜 정보에 현혹되지 않으려면 정보의 출처를 의심해야 한다고 조언했다. 그는 “내가 접한 정보가 정확하지 않을 수 있다는 생각을 가져야 하고, 정보를 보낸 사람과 만든 사람의 신뢰도를 의심해야 한다”고 당부했다.

손혜림 기자 hyerimsn@busan.com