개발·이용기업 책임 나눠야
‘생성형 AI’ 정의도 좁혀야
신약 연구 AI 기준도 요청

회사 안에서만 쓰는 인공지능(AI)까지 외부 고객용 AI 서비스와 같은 규제를 받는 것에 대해 재계에서 법 손질이 필요하다는 목소리가 나왔다.

한국경제인협회(한경협)는 회원사 의견을 모은 AI기본법 개선 과제 19건을 과학기술정보통신부에 건의했다고 29일 밝혔다. 올해 1월 22일 시행된 AI기본법은 최소 1년 이상 과태료 계도기간을 두고 있다.

한경협이 첫 과제로 꼽은 것은 사내 업무용 AI다. AI를 직접 만들어 임직원·계열사와 함께 쓰는 기업이 늘었지만, 이런 AI도 외부 상용 서비스처럼 ‘인공지능사업자’ 의무를 져야 하는지 법에 분명한 기준이 없다. 지주사와 계열사가 AI를 함께 구축해 쓰는 경우는 계열사가 각각 별개 법인이어서 판단이 더 어렵다.

한경협은 생명·신체 안전이나 기본권에 중대한 영향을 줄 수 있는 ‘고영향 AI’가 아닌 사내 업무용 AI는 외부 서비스와 구분하고, 보안·관리 요건을 갖춘 계열사 간 공동 활용도 내부 업무로 봐 달라고 요청했다.

AI를 개발한 기업(개발기업)과 이를 가져다 서비스하는 기업(이용기업)의 의무도 역할에 맞게 나눠야 한다고 했다. 현행법은 고지·표시, 위험관리 등 의무를 두 기업 모두에 지우고 있다. 한경협은 일반 업무용 AI를 다른 기업이 고영향 AI로 바꿔 서비스한다면 위험관리 책임은 용도를 바꾼 기업이 져야 한다고 설명했다.

고영향 AI의 책무 이행 내용을 홈페이지 등에 공개하도록 한 규정도 바꾸자고 했다. 공개할 내용 상당수가 핵심 기술 정보여서 실제로 알릴 수 있는 범위가 좁다는 이유다. 정작 AI를 가져다 쓰는 이용기업은 개발기업의 자료 제공이 ‘노력 의무’에 그쳐 필요한 정보를 받기 어렵다. 한경협은 일반 공개 대신 개발기업이 위험관리·설명·이용자 보호 방안 등을 이용기업에 의무적으로 넘기는 방식으로 개편을 요구했다.

더불어 한경협은 생성형 AI의 정의는 글·그림·영상 등을 만드는 목적의 AI로 좁히자고 제안했다. 현행법은 입력 데이터의 구조와 특성을 모방해 결과물을 내는 AI를 생성형 AI로 본다. 이대로라면 점수나 확률을 산출하는 예측·추천 AI까지 포함돼 AI 사용 사실을 미리 알리고 결과물에 표시해야 하는 의무를 질 수 있다는 지적이다.

이외에도 제약·바이오 업계가 쓰는 연구용 AI의 판단 기준도 구체화해 달라고 했다. 정부 가이드라인은 연구개발 도구로 쓰는 AI를 고영향 AI 의무 대상에서 빼고 있지만, 신약 후보물질 탐색이나 독성 예측 AI가 여기에 들어가는지 알기 어렵다는 것이다. 이어 한경협은 전임상 단계 독성 예측, 연구 데이터 분석 등을 비해당 사례로 명시하고 복지부·식약처 의견을 한 번에 확인할 ‘원스톱 창구’를 만들어야 한다고 밝혔다.

한경협은 안전관리 의무의 이행 방법을 정한 고시도 서둘러 확정해 달라고 했다. 고영향 AI 사업자 책무 고시는 3월, 고성능 AI 안전성 확보 고시는 7월 행정예고됐지만 아직 제정되지 않았다. 기업으로선 무엇을 준비해야 할지 알 수 없는 셈이다.

한경협 권혁민 성장전략실장은 “AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다”고 말했다.