여러 AI 모델과 서비스를 함께 쓰는 기업의 API 키·토큰 사용량·비용 관리를 하나의 플랫폼으로 묶는 제품이 첫 공급 계약을 맺었다. AI 인프라 소프트웨어 기업 래블업(대표 신정규)은 23일 AI 토큰 운영 플랫폼 'Continuum Suite(컨티넘 엔터프라이즈)'의 상용 출시 이후 첫 공급 계약을 체결했다고 밝혔다.
AI 모델과 서비스가 늘면서 API 키 관리, 사용량 집계, 장애 대응, 비용 정산 등 운영 부담이 커졌다. 래블업은 이러한 문제를 해결하기 위해 AI 요청 처리와 중앙 관리 기능을 분리한 플랫폼 구조를 채택했다. 이 구조에서 API 키, 토큰 사용량, 운영 정책, 비용을 통합 관리한다.
요청 처리는 라우터, 중앙 관리는 허브
컨티넘 엔터프라이즈는 두 모듈로 나뉜다. Continuum Router(컨티넘 라우터)는 AI 요청을 모델과 서비스 사이에 분배하고, 장애가 생기면 다른 경로로 자동 전환한다.
Continuum Hub(컨티넘 허브)는 토큰 사용량, 운영 정책, 과금 정보를 중앙에서 관리한다. 조직·팀·사용자별로 API 키도 발급한다. 래블업은 허브에 장애가 생겨도 라우터를 통한 AI 요청 처리는 이어질 수 있도록 설계했다고 설명했다.
보안 측면에서는 방화벽 내부에 놓인 라우터가 인바운드 포트를 열지 않는다. 라우터가 먼저 생성한 연결을 통해 허브와 통신하는 방식이다.
래블업은 컨티넘을 2025년 3월 NVIDIA GTC 2025에서 처음 선보였고, 라우터와 허브는 GTC 2026 등에서 공개했다. GTC는 엔비디아의 개발자 콘퍼런스다.
기존 GPU·모델·외부 API 활용 효율에 주목
래블업은 새로운 인프라 구축보다 이미 보유한 GPU, AI 모델, 외부 API의 활용 효율을 높이려는 기업 수요에 주목하고 있다. 이번 공급은 새 인프라를 짓는 대신 늘어난 AI 모델과 자원을 효과적으로 운용하려는 수요에서 나왔다는 설명이다.
신정규 대표는 “모델이 늘수록 관리 지점도 함께 늘어난다”고 말했다. 이어 “더 많은 기업이 늘어난 관리 지점을 컨티넘으로 한곳에 모아 이 문제를 해결할 수 있도록 하겠다”고 밝혔다.
신 대표는 또 “인프라 투자의 실적을 따지는 시기일수록 투자한 인프라에서 성과를 내게 만드는 소프트웨어의 역할은 더 커진다”고도 말했다.
래블업은 이번 첫 공급 계약을 계기로 다양한 기업의 AI 운영 환경에 컨티넘 엔터프라이즈 적용을 확대할 방침이다.
래블업의 일반 투자자 대상 공모주 청약은 10월 22일부터 23일까지 진행됐다. 대표 주관사는 NH투자증권이며, 코스닥 상장은 11월 3일로 예정돼 있다.