경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 관련 범죄 단속에 본격적으로 활용한다고 5일 밝혔다. 사진은 해당 소프트웨어로 딥페이크 영상을 탐지한 결과. 경찰청 제공

경찰이 한국인 데이터를 대량 학습한 딥페이크 탐지 소프트웨어를 개발해 수사에 도입한다. 다가오는 제22대 총선에서 딥페이크 선거운동이 금지되는 등 딥페이크 이용 범죄에 대한 우려(부산일보 3월 1일 자 보도)가 높은 가운데 경찰은 탐지 소프트웨어와 민간 전문가 자문 등을 활용해 대응하겠다는 방침이다.

경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 관련 범죄 단속에 본격적으로 활용한다고 5일 밝혔다.

딥페이크는 인공지능 기술인 '딥러닝'과 가짜를 의미하는 영어 단어 '페이크'의 합성어로, 인공지능 기술을 이용해 만들어낸 진위를 구별하기 어려운 가짜 이미지와 영상물 등을 의미한다.

딥페이크는 사실이 아닌 정보를 생성한다는 점에서 악용 우려가 높다. 전세계적으로도 딥페이크를 악용해 가짜정보를 퍼뜨리거나 범죄에 활용하는 사례가 늘고 있다. 특히 총선을 앞둔 상황에서 교묘하게 조작된 가짜정보가 여론을 호도할 수 있다는 점에서 경각심은 더욱 높아지고 있다.

국내에서는 공직선거법 개정에 따라 지난 1월 29일부터 딥페이크 선거운동이 금지됐다. 그러나 딥페이크 탐지 기술이 딥페이크의 진화 속도를 따라잡지 못하는 상황에서, 선거 직전 정교하게 조작된 딥페이크가 확산할 경우 선거에 치명적인 영향을 끼칠 수 있다는 우려도 제기됐다.

경찰이 이번에 개발한 소프트웨어는 ‘페이스 스왑(얼굴 바꾸기)’ 등 딥페이크 기술이 쓰인 것으로 의심되는 영상을 분석해 진위를 판별한다. 소프트웨어에 의심 영상을 올리면 통상 5~10분 이내에 분석이 끝난다.

경찰이 이번에 도입한 소프트웨어는 한국인 대상 합성 영상에 대해 다른 탐지 기술보다 높은 탐지율을 보일 것으로 기대된다. 소프트웨어는 한국인 데이터 100만 점, 아시아 계열 인종 데이터 13만 점 등 인물 5400명의 데이터 520만 점을 바탕으로 학습이 이루어졌다. 주로 해외에서 제작된 기존 탐지 기술은 서양인 위주 데이터를 학습해, 한국인 대상 합성 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다.

경찰에 따르면 이 소프트웨어의 진위 여부 탐지율은 80% 정도다. 경찰은 탐지율이 100%가 아닌 점을 고려해 소프트웨어의 판별 결과를 증거자료보다는 수사 방향 설정 자료로 활용할 계획이다.

딥페이크와 관련한 기술이 빠른 속도로 발전하는 만큼 경찰은 딥페이크 활용 선거범죄에 대해서는 학계와 기업 등 인공지능 전문가로 구성된 민간 자문위원의 교차 검증을 받을 계획이다.

경찰청 관계자는 “딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행할 수 있을 것으로 기대하고 있다”며 “향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄와 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 밝혔다.

손혜림 기자 hyerimsn@busan.com