방연주 브니엘예중1

팝스타 테일러 스위프트는 최근 인공지능(AI) 딥페이크 기술로 생성된 불법 합성 이미지로 큰 피해를 입었다. AP연합뉴스

AI(인공지능)가 적용되는 영역이 늘고 AI 기술이 눈부시게 발전하면서 이로 인한 피해를 보는 경우도 늘어나고 있다. 대표적인 것이 인간 이미지를 합성하는 ‘딥페이크’다. ‘테일러 스위프트 이코노미’라는 신조어를 만들어낸 세계적인 팝가수 테일러 스위프트도 딥페이크를 피하지 못했다. 지난달 16일 스위프트의 얼굴을 합성한 딥페이크 음란물이 각종 SNS를 통해 세계 곳곳에 빠르게 퍼졌다.

딥페이크로 인한 피해는 일반인에게도 언제든지 확산할 수 있다. 실제 청소년들이 딥페이크로 인해 피해를 당한 사건도 발생하고 있다. 유럽연합은 지난해 디지털 서비스법(DSA)을 통해 AI가 만들어낸 콘텐츠에 별도 표시를 의무화했고, 미국은 행정명령으로 AI 콘텐츠 식별 장치를 강화했다. 세계적인 IT 기업들은 AI로 만든 창작물을 식별하기 위해 워터마크를 도입했다.

AI 기술로 인한 피해를 최소화할 수 있는 기술을 개발하는 한편, AI 윤리교육도 강화해야 한다.