AI 데이터센터를 평가하는 기준이 GPU 보유 대수에서 토큰 생산 효율로 옮겨가는 가운데, AI 인프라 솔루션 기업 모레(MOREH, 대표 조강원)가 서로 다른 제조사의 가속기를 하나의 자원처럼 묶어 쓰는 소프트웨어 전략을 내놨다. 모레는 미국 산타클라라 컨벤션센터에서 15~17일(현지시간) 열린 'AI 인프라 서밋 2026'에서 AI 데이터센터용 '토큰 팩토리 OS'와 이기종 가속기 기반 분산 추론 기술을 공개했다. 이 행사에는 8000명 이상의 업계 관계자와 250개 이상의 파트너사가 참여했다.
이기종 가속기를 하나의 클러스터로
핵심은 모레가 자체 개발한 'MoAI Inference Framework'다. 이 프레임워크는 엔비디아 H100, AMD MI300X, 텐스토렌트 등 서로 다른 아키텍처의 가속기를 하나의 논리적 클러스터로 통합한다. 모레는 이번 행사에서 H100과 MI300X를 결합한 구성을 시연했는데, 프리필은 H100이, 디코드는 MI300X가 맡도록 역할을 나누고 모레의 분산 추론 소프트웨어로 데이터를 연결하는 방식이다. 그 결과 동일 벤더 가속기로만 구성했을 때보다 최대 1.67배 처리량이 향상된 것으로 확인됐다.
조강원 모레 대표는 “AI 데이터센터는 이제 GPU를 제공하는 공간에서 토큰을 생산하고 판매하는 ‘토큰 팩토리’로 진화하고 있다”며 “중요한 것은 특정 GPU의 성능이 아니라 서로 다른 가속기를 얼마나 효율적으로 활용해 낮은 비용으로 토큰을 생산하느냐”라고 말했다.
특정 하드웨어 종속 벗어나는 것이 목표
모레가 이런 전략을 내놓은 배경에는 데이터센터 사업자가 특정 하드웨어 공급사에 묶이지 않고 보유한 연산 자원을 조합해 비용 효율을 최적화해야 한다는 문제의식이 있다. 세대와 종류가 제각각인 가속기가 늘어나는 상황에서, 이를 개별 자원이 아니라 하나의 인프라처럼 다룰 수 있는 소프트웨어가 필요하다는 것이다. 조 대표는 “다양한 종류와 세대의 가속기를 하나의 인프라처럼 활용할 수 있는 분산 추론 소프트웨어가 필요하다”며 “고객이 특정 하드웨어에 종속되지 않고 자신에게 효율적인 토큰 팩토리를 구축할 수 있도록 지원하겠다”고 밝혔다.
모레는 소프트웨어 계층에서의 이기종 통합 전략과 함께 자회사 모티프테크놀로지스를 통해 AI 파운데이션 모델 영역까지 사업 범위를 넓히고 있다. GPU 보유량 자체보다 실제로 얼마나 많은 토큰을 얼마나 낮은 비용으로 생산해내는지가 경쟁력의 척도로 자리잡는 흐름 속에서, 모레는 하드웨어 벤더에 얽매이지 않는 소프트웨어 계층의 역할을 키워가겠다는 방향을 분명히 했다.