■ 넥서스 / 유발 하라리

세계 지성이 던지는 AI 시대에 대한 종말론적 경고

정보 신뢰성에 대한 회의적 시각이
AI 혁명이 불러올 재앙 우려로 연결
통제력 잃기 전에 대책 마련 시급

<넥서스> 표지.

재레드 다이아몬드의 <총 균 쇠>와 더불어 한국인이 사랑하는(하지만 완독에 이르지 못한 사람도 의외로 많다는 것은 근거 없는 흉흉한 소문일 뿐!) 대표적 인문학 ‘벽돌서’ <사피엔스>의 저자 유발 하라리가 6년 간의 침묵을 깨고 새 책을 냈다. ‘침묵’했다고는 하지만 출간 소식을 전하지 않았을 뿐, 사회 활동까지 접고 은둔한 것은 아니다. 지난해 3월 일론 머스크, 스티브 워즈니악 등 2만 7000여 명의 전문가들이 인공지능(AI) 연구를 최소 6개월 동안 중단할 것을 촉구하는 공개서한에 서명했는데, 하라리도 그 중 한 명이었다. 새 책 <넥서스> 역시, 부제 ‘석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사’에서도 짐작할 수 있듯 AI에 관련된 내용을 다루고 있다.

하라리가 최근 응한 다수의 인터뷰에 따르면, <넥서스>가 던지는 근본적인 물음은 “우리가 지혜로운 사람(호모 사피엔스)이라면 왜 이토록 자기 파괴적일까”이다. 그는 원인이 우리의 본성이 아니라 정보 네트워크에 있다고 주장한다. 인류는 대규모 협력이 가능한 네트워크를 구성함으로써 엄청난 힘을 갖게 됐지만 정작 지혜를 만들어내지는 못했기에, 오늘날의 실존적 위기를 자초했다는 것이다.

신작 <넥서스>를 비롯해 <사피엔스> <호모 데우스> 등 많은 인문학 서적을 출간한 유발 하라리. 연합뉴스

이 과정에서 하라리가 주목하는 것은 정보에 대한 우리의 잘못된 관념이다. 우리의 대부분은 더 많은 정보를 수집하고 처리하면 그만큼 진실에 가까이 갈 수 있다고 믿는다. 의사 한 명이 환자 한 명을 진찰해 특정 전염병의 원인을 파악하는 것보다 의사 수천 명이 환자 수백만 명의 데이터를 수집할 때 원인 규명에 더 가까이 갈 수 있다는 것은 어쩌면 당연한 이치다. 현재의 AI가 사고하는 방식 역시 무량한 데이터를 학습하고 처리하는 과정에 다름 아니다.

하지만 아쉽게도 정보가 많아진다고 그것이 필연적으로 진실에 수렴하지는 않는다. 오히려 잘못된 정보의 범람으로 왜곡된 신념만 강화할 수도 있다. 하라리는 중세시대의 마녀사냥을 그 대표적 예로 들었다. 마녀사냥은 오늘날에도 여전하다. 인터넷에는 성소수자, 이주민 등에 대한 거짓 정보가 넘쳐나고, 사실인 것처럼 조작되고, 혐오를 만든다. 그리고 잘못된 판단을 유도함으로써 진정한 민주주의를 방해한다.

책의 제목 ‘넥서스(nexus)’는 사전적으로 ‘결합’ ‘연결’을 의미한다. 이는 정보의 기능과도 유사하다. 정보는 현실이나 진실과 상관없는 경우가 많지만 새로운 현실을 만들어 사람들을 불러모을 수 있다. 모든 대규모 사회는 ‘정보 네트워크’이고, 오래된 이야기(신화)나 경전은 물론 새로운 기술, 특히 오늘날의 컴퓨터와 AI에 이르기까지 모든 것이 ‘정보기술’이라는 것이 저자의 관점이다.

수많은 정보기술 중에서 유독 AI가 위험한 이유는, 그것이 주체성을 지녔기 때문이다. AI는 지금까지의 정보 기술과는 달리 스스로 결정하고 새로운 아이디어를 생성할 수 있는 능동적인 행위자다. 이전의 정보기술인 점토판, 인쇄기, 라디오는 단순히 네트워크 구성원들을 연결하는 장치이자 도구에 불과했다. 인쇄기는 어떤 내용의 책을 찍어낼지 고민하지 않았다. 모두 인간이 결정하고 실행에 옮겼다. 그러나 AI 혁명의 초기 단계인 지금, 컴퓨터는 이미 인간의 통제와 이해를 벗어나 사회·문화·역사를 주도적으로 만들어나갈 수 있는 인간보다 강력한 구성원이 되고 있다.

그리고 인간보다 강력한 구성원이 된 컴퓨터들의 목표가 인간이 설정한 목표에 부합하지 않을 경우, 인류는 지금까지 한 번도 겪어보지 못한 규모의 재앙을 맞닥뜨릴지도 모른다. 아니, 이미 겪고 있다. 2016~2017년 미얀마에서 자행된 로힝야족을 향한 폭력의 이면에 페이스북 알고리즘이 중요한 역할을 했다는 사실이 2018년 유엔 조사에서 드러났다. ‘사용자 참여 극대화’라는 목표를 부여받은 페이스북 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 이용자의 분노를 자극하는 콘텐츠를 추천하기로 결정했다.

재앙은 이미 시작됐지만, 다행히 아직은 AI에 대한 통제가 가능하다. 지금 무엇이든 대책을 만들어야 한다. 통제력을 잃게 될 멀지 않은 미래에 대한 경고를 담은 책. 하라리의 전작들이 그러하듯 우리가 전혀 생각하지 못한 새로운 사실을 알려주기보다 어렴풋이 느끼고 있던 여러 현상들을 명쾌하게 설명·정리하고 새로운 관점을 제공한다. 유발 하라리 지음/김명주 옮김/김영사/684쪽/2만 7800원.

김종열 기자 bell10@busan.com