과기정통부, 판교 글로벌R&D센터에 문 열어
글로벌 ‘AI 3대 거버넌스’(안전·혁신·포용) 실현
AI 안전 확보 위한 글로벌 네트워크 강화
"AI 기업의 경쟁력 막는 위험요소 최소화 도울 것"
'AI 경영시스템' 국가표준 제정…내년 상반기 목표

27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 '인공지능(AI)안전연구소 개소식' 에서 주요 참석자들이 기념촬영 하고 있다. (왼쪽 네 번째부터) 최장혁 개인정보보호위원회 부위원장, 염재호 국가인공지능위원회 부위원장, 류광준 과학기술정보통신부 과학기술혁신본부장, 김명주 인공지능안전연구소장. 과기정통부 제공

AI안전연구소 인포그래픽. 과기정통부 제공

안전하고 신뢰할 수 있는 인공지능(AI) 사용을 위한 연구 전담 조직 'AI안전연구소'가 문을 열었다.

과학기술정보통신부는 27일 오전 경기 성남시 판교글로벌R&D센터에서 AI안전연구소 개소식을 열었다.

AI안전연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하기 위해 설립된 AI 안전 연구 전담 조직이다. 아울러 산학연 기관이 AI 안전 분야 연구 협력과 정보 교류를 하는 허브이자 현재 10개국이 참여 중인 '국제 AI안전연구소 네트워크' 일원이다.

AI안전연구소는 AI 안전정책 및 대외협력실, AI 안전평가실, AI 안전연구실 등 3실로 이뤄지며 내년까지 직원 30명 규모를 목표로 하고 있다.

이날 개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가인공지능(AI)위원회 부위원장, 이경우 대통령실 AI·디지털 비서관, 오승필 KT 최고기술책임자(CTO), 오혜연 한국과학기술원 AI 연구원장, 이은주 서울대 AI 신뢰성 연구센터장, 방승찬 한국전자통신연구원(ETRI) 원장 등이 참석했다.

27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 '인공지능(AI)안전연구소 개소식' 에서 주요 참석자들이 기념 촬영을 하고 있다. 과기정통부 제공

류광준 과기혁신본부장은 "국내 기업이 AI 안전을 확보할 수 있도록 기술 지원을 확대하고 AI 안전 정책을 개발, 선진화하는 데 필요한 기반 연구를 수행할 것"이라며 "AI안전연구소가 아태지역을 대표하는 AI 안전 연구 허브로 발전해 나갈 수 있도록 적극 지원하겠다"고 말했다.

김명주 AI안전연구소장은 "연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 할 것"이라며 등반가들이 에베레스트라는 높은 산의 정상에 설 수 있도록 돕는 전문가인 셰르파의 역할에 비유했다.

김명주 인공지능안전연구소장이 27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 '인공지능(AI)안전연구소 개소식'에서 '연구소 개소 선언, 비전 및 운영계획 소개' 설명을 하고 있다. 과기정통부 제공

국가AI위원회 글로벌 자문위원인 요슈아 벤지오 캐나다 몬트리올대 교수는 영상 축사에서 AI안전연구소의 역할에 대해 업계와 협업을 통한 AI 위험 평가 방법 연구, 업계 등에 AI 안전성 요건 수립 지원, 국제 협력을 통한 AI 안전 체계 조화를 꼽았다.

엘리자베스 켈리 미국 AI안전연구소장은 "한국과 미국의 AI안전연구소가 AI 위험을 줄이고 혜택을 극대화하며 혁신을 촉진하는 공통된 과학적 기준을 구축해 나가자"고 말했다. 무라카미 아키코 일본 AI안전연구소장은 "각국의 AI안전연구소가 자국 내 민간 부문과 협력하고 국경을 넘어 함께 협력하는 일이 앞으로 점점 더 중요해질 것"이라고 강조했다.

27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 '인공지능(AI)안전연구소 개소식' 에서 염재호 국가인공지능위원회 부위원장이 축사를 하고 있다. 과기정통부 제공

과기정통부 제공

개소식에 이어 '대한민국 AI 안전 컨소시엄' 협약식이 열렸다. 협약식에서 네이버·카카오·SK텔레콤·KT·LG AI 연구원 등 기업계와 학계 등은 AI 안전에 관한 정책 연구, 평가, 연구개발에서 상호 협력하자고 약속했다.

한편, AI 제품과 서비스 개발·활용 기업을 지원하는 '인공지능(AI) 경영시스템' 국가표준(KS)이 이르면 내년 상반기 제정된다.

산업통상자원부 국가기술표준원(국표원)은 27일 서울 중구 코리아나호텔에서 'AI 경영시스템 KS 제정 설명회'를 열고 이같이 밝혔다.

AI 경영시스템 KS 제정은 챗GPT로 대표되는 생성형 AI의 급속한 확산과 함께 유럽연합(EU) 등이 AI 법제화를 통해 AI 적용 기업에 AI의 체계적인 관리를 요구하는 추세에 발 빠르게 대응하려는 조치다.

국표원이 이날 공개한 표준안은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)에서 지난해 12월 공동으로 발간한 국제표준(ISO/IEC 42001)을 준용한 것이다.

제정안은 국제표준을 기반으로 AI 제품 또는 서비스를 제공하거나 활용하는 기업의 AI 시스템 구축·운영·유지 계획 수립, 리스크 대처 및 평가, 데이터 관리와 투명성 확보 등 다양한 요구사항을 담고 있다. 이 표준을 적용하면 기업은 AI 시스템의 책임 있는 개발과 사용 측면에서 효과를 볼 수 있다. 또 유럽, 미국 등 주요국에서 AI 기업에 요구하는 사항을 충족해 해외 진출 시 관련 규제를 피할 수 있다.

국표원은 앞으로 2개월간 이해관계자 의견 수렴과 기술심의회 심의 등 절차를 거쳐 내년 상반기 중 KS 제정을 완료할 계획이다.

송현수 기자 songh@busan.com