‘KPS AI 이지스’ 구축 전담반 출범
편의․효율성보다 보안․윤리 중시

한전KPS는 지난 2일 본사 회의실에서 ‘KPS AI 이지스(AI 감사 프레임워크) 구축 전담반 킥오프 미팅’을 갖고 AI를 내재한 감사 운영체계 전환(Audit AX)에 박차를 가할 것을 다짐했다. 한전KPS 제공

전력설비 정비 전문회사인 한전KPS가 감사 업무에 인공지능(AI)을 도입한 이후 AI 활용과정에서 우려되는 부작용을 막기 위해 전담반을 구성해 AI와 연계한 사전차단 방안 마련에 나섰다.

한전KPS(사장 김홍연)는 감사업무 혁신을 위해 도입한 ‘인공지능 요원(AI Agent)’의 활용 과정에서 우려되는 부작용과 위험요소를 줄이기 위한 방어체계 구축에 나섰다고 7일 밝혔다.

이를 위해 한전KPS는 ‘KPS AI 이지스(AI 감사 프레임워크)’ 구축 전담반을 꾸리고 지난 2일 첫 회의를 개최했다.

한전KPS는 일반적인 생성형 AI와 차별화해 감사 업무에 특화된 AI에이전트 ‘감사해’를 개발해 지난 5월부터 운영 중이다. 감사 업무에 새로 도입한 AI 에이전트는 민감한 정보를 학습하는 만큼 보다 높은 윤리성과 함께 철저한 리스크 관리가 요구된다는게 사측의 설명이다.

AI 에이전트 ‘감사해’는 △감사보고서 자동 생성 지원 △감사보고서 문장·어문법 검토 △과거 징계사례 분석 및 징계 양정 보고서 생성 △감사 관련 질의응답 △공사설계 적정성 점검 △안전관리비 적정성 검토 등을 제공하며 감사업무 속도와 정확성을 비약적으로 발전시켰다. 특히 데이터 분석을 통한 이상징후 및 패턴을 발견하고 식별해 감사인에게 위험신호와 분석 결과를 제공하면서 회사의 청렴도 향상에 기여하고 있다.

하지만 한편에서 실제 감사를 시행하며 발생했던 문제점과 감사 과정에서 발생할 수도 있는 개인정보 유출, 데이터 보안 등 윤리적인 이슈에 대한 심도 있는 검토가 필요해졌다.

이에따라 전담반은 감사실을 중심으로 전사의 관련 부서가 동참해 가장 적합한 AI 활용 방식을 모색하고 업무에 적용하는 것을 목표로 운영해 나갈 예정이다. 또한, ‘대한민국 인공지능 윤리원칙’ 제정에 맞춰 기술의 안전성과 신뢰성을 최우선으로 확보한 AI 감사 프레임워크 도입을 추진한다.

지난 2일 회의에서도 AI 에이전트와 사람의 역할을 명확히 구분하고 인간이 시스템의 운영·감독·의사결정에 적극 참여한다는 ‘휴먼인더루프(Human in the Loop)’ 원칙을 적용해 ‘AI가 판단을 대신하는 감사’가 아닌 ‘AI가 감사인의 판단을 지원하는 감사’를 구현하는 방안을 활발하게 논의했다.

송현수 기자 songh@busan.com