□ LLM 착각

LLM 모델을 형상화한 이미지. 클립아트코리아

생성형 인공지능(AI)이 일상과 일터에 빠르게 침투하면서 ‘LLM 착각(Large Language Model Fallacy)’이 주목받고 있다. 대규모 언어 모델(LLM)은 방대한 양의 데이터로 사전 학습된 초대형 딥러닝 AI 모델을 말한다. LLM 착각은 AI의 도움으로 완성한 글·동영상·보고서 등의 결과물을 자신의 독립적인 능력에 의해 빚어진 것으로 잘못 인식하는 현상이다. AI가 만든 성과를 자신의 역량으로, 기여자를 잘못 판단하는 일종의 인지적 오류인 셈이다.

문제는 이 착각이 단순한 심리 현상에 그치지 않는다는 데 있다. AI를 활용하면 업무 속도와 결과물의 외형은 좋아질 수 있다. 그러나 사용자가 내용을 직접 이해하거나 검증하지 않으면, 실제 역량과 외부에 드러난 성과 사이에 격차가 생겨난다. 기업 입장에서는 직원의 업무 능력을 잘못 평가할 수 있고, 동료나 고객은 AI가 만든 오류를 뒤늦게 수정해야 한다.

LLM 모델을 형상화한 이미지. 클립아트코리아

이 같은 현상은 경제학에서 말하는 ‘외부효과’와도 연결된다. 한 사람이 AI로 손쉽게 결과물을 만들면서 얻는 편익은 개인에게 돌아가지만, 오류를 확인하고 고치는 비용은 조직이나 사회 전체가 부담해야 한다는 의미다. 그 결과 기업의 의사결정 비용과 교육·감사·팩트체크 비용이 증가하고, 장기적으로는 정보에 대한 신뢰와 사람 간의 신뢰가 약화될 수 있다.

최근 AI 의존에 따른 인간의 인지능력 저하가 화두로 떠오르면서 ‘인지적 오프로딩’과 ‘인지 부채’도 주목받고 있다. 인지적 오프로딩은 기억·판단·문제 해결을 스마트폰, 내비게이션, 인공지능(AI) 같은 외부 도구에 맡기는 행위이며, 인지 부채는 AI 등에 사고를 맡겨 당장의 편리함을 얻는 대신, 스스로 생각하고 학습하는 과정이 줄어 기억과 사고력의 장기적인 손실을 떠안는 것을 말한다.