이화행 동명대 미디어커뮤니케이션학과 교수

EU, 유해 콘텐츠 퇴치법 시행 예정
플랫폼 사업자에 제거 의무 요구
국내에도 허위 정보 방지 제도 필요
AI 판독 기술 도입한 월드컵 주목

지난달 28일 미국의 사전출판사 미리엄웹스터는 올해의 단어로 ‘가스라이팅’(gaslighting)을 선정했다고 밝혔다. 사전은 가스라이팅을 ‘장기간에 걸친 사람의 심리적 조작으로 희생자가 자기 생각, 현실 인식 또는 기억의 타당성에 의문을 제기하게 하고 혼란, 자신감 및 자부심의 상실, 정서적 또는 정신적 안정의 불확실성, 가해자에 대한 의존성을 불러일으킨다’라고 정의하고 있다. 심리학 용어인 가스라이팅의 올해 검색 건수가 전년 대비 1740%로 폭발적으로 증가했는데, 지난 몇 년간 ‘오보의 시대’를 거치며 이 단어가 교묘한 거짓말과 선동, 기만행위 등으로 범용해 쓰이고 있다는 것이다. 미리엄웹스터에 따르면 가스라이팅은 딥페이크와 가짜뉴스 등 허위 정보(misinformation)를 의미하는 단어들을 함께 압축해 보여 준다.

한국 사회도 올 한 해 여전히 가짜뉴스 공방으로 시끄러웠다. 가짜뉴스는 ‘사실에 근거하지 않은 내용을 어떤 특정한 의도를 가지고 퍼뜨리는 허위 정보’로 정의된다. 허위 정보의 확산은 정보이용자로 하여금 장기적으로 정보의 진위 여부에 대한 판단력을 떨어뜨리고, 집단 간 상호 불신과 갈등을 키워 높은 사회적 비용을 지불하게 하는 결과를 가져온다. 허위 정보 확산을 막는 기준과 제도를 마련하는 일이 우리 사회의 시급한 과제 중 하나인 이유이다.

세계적으로 디지털 플랫폼은 가짜뉴스와 허위 정보의 온상이 되고 있다는 비판을 받고 있다. 각국 정부는 디지털 플랫폼 사업자에 대한 규제를 통해 가짜뉴스를 퇴치하려는 일련의 움직임을 보이고 있다. 대표적으로 유럽연합(EU)은 사업자들에게 불법 콘텐츠에 대한 강력한 책임을 부과할 목적으로 플랫폼 규제 법안인 ‘디지털서비스법’(Digital Service Act)을 제정하여 오는 2024년 시행 예정이다.

글로벌 플랫폼은 이 법에 따라 자사 플랫폼에서 허위 정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거해야 한다. 이는 허위 정보와 혐오 발언들이 무차별 확대 재생산되는 부작용을 방지하는 데 목적이 있는 만큼 법안에 따라 구글, 메타, 아마존 등 거대 글로벌 플랫폼 사업자들은 불법 콘텐츠 처리 절차를 신속하게 마련하여야 한다.

2022 카타르 월드컵 열기가 뜨거운 가운데 우리 대표팀이 16강 진출을 확정한 ‘도하의 기적’에 대한 진짜 뉴스가 우리를 즐겁게 해 주고 있다. 기술적 측면에서 이번 카타르 월드컵에서 주목을 받은 뉴스는 단연 ‘반자동 오프사이드 기술’의 도입일 것이다. 이제까지 축구에서 가장 많은 논란을 일으킨 오프사이드 판정을 둘러싼 시비 자체를 없애 버리겠다는 야심 찬 의도가 숨어 있는 이 인공지능(AI) 판독 기술이 기존 강팀들의 장점을 무력화시키고 있기 때문이다.

아르헨티나가 사우디아라비아에 패배한 경기는 어쩌면 이 기술이 아니었더라면 카타르 월드컵 조별리그 경기의 최대 이변으로 기록되지 않았을지도 모른다. 아르헨티나는 전반전에만 세 번이나 사우디의 골망을 갈랐지만, 노골이 선언되면서 AI 판독의 희생양으로 전락하고 말았다. 인간의 눈으로는 구분하기 힘든 미세한 움직임으로 수비수와 심판을 교란하는 아르헨티나 선수들의 탁월한 능력도 AI 판독 앞에 힘을 쓰지 못했다.

반자동 오프사이드 기술은 국제축구연맹(FIFA)이 2014년 브라질 월드컵에서 처음 접목한 ‘골라인 기술’, 2018년 러시아 월드컵에 도입한 비디오 판독(VAR)과 함께 인간의 한계를 메워 줄 판정 기술로 평가되고 있다. FIFA의 이번 반자동 오프사이드 기술 도입은 미래 AI가 세상 구석구석 논란이 되는 사안의 진위 여부를 판단함으로써 인간 갈등의 해결사로 등장할 것이라는 주장에 힘을 실어 주고 있다.

만약 허위 정보와 가짜뉴스가 판을 치는 디지털 플랫폼 공간에도 AI나 빅테이터에 기반한 판독 기술이 도입되면 어떨까. 기술을 활용해 판정 시비를 줄여 나가려는 FIFA의 노력을 가짜뉴스와 허위 정보 노출을 두고 책임 소재 논란에 시달리는 디지털 플랫폼 사업자들은 눈여겨볼 필요가 있다.

2022년 마지막 달에도 우리 정치권은 여전히 가짜뉴스 공방으로 시끄럽다. 디지털 플랫폼 사업자는 가짜뉴스 온상이라는 오명에서 벗어날 수 있도록 디지털 플랫폼 혁신에 진지하게 임해야 할 것이다. 머지않아 로봇 심판이 월드컵 경기 판정을 담당하게 될지도 모르듯이 실시간 AI 가짜뉴스 판독 기술이 강제 적용되는 날이 온다면 디지털 플랫폼 사업자들은 어떠한 반응을 보일까. 아르헨티나 축구 천재 리오넬 메시는 AI 판독 결과에 대해 말없이 승복하였다.