KT AI 서비스 플랫폼 ‘토큰팩토리’ 30일 출시
KT토큰팩토리의 서비스 개요. KT 제공.
KT가 500개 이상의 인공지능(AI) 서비스를 통합 제공하는 새 플랫폼 ‘KT 토큰팩토리’를 오는 30일 출시한다. 다양한 AI서비스를 사용량(토큰) 기반으로 통합해 제공한다는 게 토큰팩토리의 핵심이다. KT는 자체 기술을 활용해 간단한 작업에는 저렴한 AI서비스를 이용하고 복잡한 작업에 고가의 AI서비스를 이용하도록 설계했다고 밝혔다.
KT는 27일 서울 종로구 광화문 웨스트 빌딩에서 토큰팩토리 사업을 설명하는 행사를 개최했다. 토큰팩토리는 국내·외 500개 이상의 AI 모델을 통합 제공하는 플랫폼이다. KT는 이를 위해 AI 모델 마켓플레이스 1위 사업자인 ‘오픈라우터(OpenRouter)’와 공식 파트너십을 체결했다. 이를 통해 토큰팩토리 플랫폼에 연계 가능한 글로벌 AI 모델 500개 이상을 확보했다는 설명이다.
KT는 토큰팩토리가 서비스 가입부터 사용량 확인, 비용 관리, 결제까지 한 곳에서 처리할 수 있어 업무 목적, 비용, 보안 요구 사항에 맞는 최적의 모델을 손쉽게 활용할 수 있다고 강조했다. 여러 AI 모델을 개별적으로 탐색하거나 각각의 이용 환경을 관리할 필요 없이 모델 선택부터 이용 현황 모니터링, 비용 관리까지 통합적으로 수행할 수 있다는 설명이다.
KT는 오는 30일 토큰팩토리를 출시하고 고객과 서비스 범위를 단계적으로 확대할 계획이다. 출시 초기에는 여러 AI 모델을 활용하면서 비용을 효율적으로 관리하려는 기업 고객을 대상으로 서비스를 제공한다.
KT는 그동안 쌓은 통신 과금 역량을 바탕으로 AI에 대해서도 사용량 기반의 정밀한 토큰 과금 체계를 구현했다고 밝혔다. 단순 업무에는 가벼운 모델을, 복잡한 분석 업무에는 고성능 모델을 적용해 효율성과 품질을 높이는 방식이다.
KT는 자체 개발한 AI 모델 라우팅 기술인 ‘오토 모델 라우터(Auto Model Router)’를 적용해 토큰팩토리의 핵심 기능인 모델 최적화를 구현했다고 설명했다. 이 기술로 질문의 업무 유형, 난이도, 품질, 비용, 고객이 사전에 허용한 모델 범위 등을 종합해 AI 모델을 선택한다. KT는 이 기술이 모델 선택 성능을 평가하는 글로벌 벤치마크인 ‘라우터아레나(RouterArena)’에서 종합 1위를 기록했다고 밝혔다.
KT는 AI에게 보다 효율적으로 질문하는 프롬프트 압축 기술도 고도화했다고 밝혔다. 한국어 특성을 고려한 정밀 압축과 불필요한 반복 표현 제거를 통해 질문의 의미와 응답 품질은 유사하게 유지하면서 입력 토큰 수를 줄여 처리 효율을 높이고, 비용 부담과 응답 시간을 낮춘다는 설명이다. 이 기술을 통해 AI 이용에 필요한 토큰 사용을 최대 25%까지 절감하는 효과를 제공한다고 강조했다.
KT는 AI 데이터 주권 우려를 줄이기 위해 한국 내 자체 데이터센터에서 직접 AI 추론 서비스를 제공한다고 밝혔다. 소버린 AI 인프라 기반 위에서 KT 자체 모델과 국내외 오픈웨이트(Open Weight) 모델, 독자 AI 파운데이션 모델 등 다양한 AI를 안전하게 활용할 수 있도록 멀티 AI 기반을 구축했다는 설명이다.
KT는 자체 가드레일(Guardrail) 기술도 적용해 AI 이용 과정의 안전성도 높였다고 밝혔다. 고객이 입력하는 프롬프트의 개인정보나 민감정보와 유해 표현을 점검하고 AI가 생성한 답변도 가드레일로 점검해 보다 안전하게 활용할 수 있도록 지원한다는 설명이다.
KT AX사업부문장 박상원 전무는 “AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”며 “KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다”고 말했다.
관련기사
# 실시간핫뉴스
당신이 좋아할만한 콘텐츠
오늘의 추천 뉴스
![[BIFF] “‘오징어 게임’ 흥행은 봉준호 감독 ‘1인치 장벽’ 무너진 순간”](/nas/wcms/wcms_data/photos/2021/10/14/2021101419122487843_m.jpg)
가장 많이 본 뉴스
