오케스트로 그룹과 퓨리오사AI가 GPU와 NPU를 하나의 운영 체계에서 관리할 수 있는 AI 인프라 협력에 나섰다. 두 회사는 2026년 9월 18일 서울 강남구 퓨리오사AI 본사에서 NPU 기반 AI 인프라 및 플랫폼 기술·사업 협력을 위한 업무협약을 체결했다. 이번 협약으로 오케스트로의 AI 추론 인프라 플랫폼 'CONCERTO A.I.'의 지원 범위가 퓨리오사AI의 2세대 NPU 'RNGD'까지 확대된다.
이종 가속기 통합 운영이 핵심 과제로
AI 인프라 운영은 GPU뿐 아니라 다양한 가속기를 포괄해야 하는 과제로 확대되는 추세다. CONCERTO A.I.는 지능형 라우팅과 토폴로지 기반 스케줄링을 통해 GPU·NPU 등 이종 가속기를 통합 운영할 수 있는 플랫폼으로, 이번 협약을 통해 RNGD와의 연동이 본격화된다. 양사는 기술 검증을 마친 뒤 고객 대상 BMT와 실증을 거쳐 실제 상용 구축 사업으로 연결할 계획이다.
백준호 퓨리오사AI 대표는 “AI 가속기의 성능과 전력 효율뿐 아니라 다양한 AI 워크로드를 안정적으로 배포하고 운영할 수 있는 소프트웨어와 인프라 역량의 중요성이 커지고 있다”며 “오케스트로의 AI 인프라 소프트웨어 스택과 RNGD를 결합해 대규모 AI 데이터센터와 토큰 팩토리를 운영할 수 있는 풀스택 솔루션을 구현하겠다”고 말했다.
올해 초부터 이어온 기술 검증, 사업화 단계로
두 회사는 올해 초부터 기술 협력을 이어오며 NPU에서도 AI 모델을 배포·서빙하고 운영할 수 있는 기반을 마련해왔다. 이번 업무협약은 그간의 기술 검증을 실제 고객 실증과 사업화로 옮기는 계기가 된다. 김민준 오케스트로 그룹 의장은 “올해 초부터 퓨리오사AI와 기술 협력을 이어오며 NPU에서도 AI 모델을 배포·서빙하고 운영할 수 있는 기반을 마련했다”며 “이번 협약을 계기로 기술 검증을 고객 실증과 사업화로 연결하고 공공·금융·기업 시장에서 AI 인프라 적용 사례를 확보하겠다”고 말했다.
공공·금융·기업 시장 겨냥한 K-AI 인프라
양사가 협력을 확대하는 배경에는 국산 AI 반도체와 소프트웨어를 결합한 'K-AI 인프라' 분야 대응이 자리한다. 국산 AI 모델·가속기·소프트웨어를 결합해 프라이빗 AI, 소버린 AI 구축 수요에 대응하겠다는 구상이다. 오케스트로는 서버 가상화 솔루션 '콘트라베이스', 클라우드 네이티브 운영 관리 플랫폼 '비올라', 멀티·하이브리드 클라우드 통합 관리 플랫폼 '오케스트로 CMP', 데브옵스 솔루션 '트럼본' 등 AI 인프라 소프트웨어 스택을 보유하고 있다. 이번 협약을 통해 이 같은 소프트웨어 역량이 RNGD와 결합해 공공·금융·기업 시장에서 실제 구축 사례로 이어질지가 관전 포인트다.