AI 서비스를 도입할 때 반도체·서버·클라우드·모델을 따로 들여와 연동하는 부담을 줄이겠다며, 국산 AI 기술을 하나의 상품으로 묶는 개발 작업이 시작됐다. 오케스트로 클라우드, 퓨리오사AI, 업스테이지, 에스피케이인크(SPK), 대원씨티에스 5개사는 16일 ‘NPU 기반 소버린 AI 풀스택 상품 공동 개발’을 위한 업무협약(MOU)을 체결했다.
이번 협약은 통합 AI 인프라 상품을 개발하고 공동 사업화를 추진하기 위해 마련됐다. 개발 대상은 ‘소버린 AI 풀스택 어플라이언스’로, AI 컴퓨팅과 클라우드, 모델 추론, 운영·관리를 통합 제공하는 상품이다. 현재는 공동 개발을 추진하는 단계다.
NPU 추론부터 LLM까지, 참여사별 역할
AI 연산과 모델 쪽에서는 퓨리오사AI와 업스테이지가 핵심을 맡는다. 퓨리오사AI는 자체 개발한 신경망처리장치(NPU) ‘RNGD’를 제공한다. RNGD는 AI 모델 추론용 반도체다. 업스테이지는 자체 대규모언어모델(LLM) ‘솔라(SOLAR)’와 모델 추론 기술을 지원한다.
오케스트로 클라우드는 클라우드 플랫폼을 제공하고, 통합 인프라 기술 검증을 총괄한다. 이 회사의 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’와 Ceph 기반 SDS도 상품 구성에 들어간다. 하드웨어 쪽에서는 SPK가 서버 인프라와 하드웨어 기술을, 대원씨티에스가 데이터센터와 네트워크 인프라를 맡는다.
5개사는 이렇게 각자의 기술을 결합해 AI 컴퓨팅부터 모델 추론, 인프라 운영·관리까지 하나로 통합한 상품을 만든다는 구상이다. 반도체·서버·클라우드·모델을 따로 도입하고 연동할 때 드는 비용과 운영 복잡성을 줄이는 것이 목적이다. 해외 GPU·클라우드 의존도를 낮추고, 공공기관과 기업이 자체 운영 환경에서 데이터와 시스템 통제권을 확보하도록 돕는 것도 목표다.
관리형 서비스와 공동 사업화 계획
구축 이후의 운영도 상품 범위에 넣는다. 5개사는 운영과 기술지원까지 제공하는 관리형 서비스(Managed Service)를 마련할 계획이다. 사업화 방식으로는 공동 영업·마케팅과 PoC, BMT, 공동 제안을 추진한다. 공공기관과 민간기업을 대상으로 시장 수요를 확인할 예정이다.
박소아 오케스트로 클라우드 대표는 AI 산업의 경쟁력이 개별 기술의 우수성을 넘어 얼마나 완성도 높은 하나의 서비스로 구현하느냐에 달려 있다고 밝혔다. 이어 “국내 AI 산업 각 분야의 핵심 기업들이 역량을 결집한 만큼, AI 컴퓨팅부터 모델 추론, 인프라 운영·관리까지 하나로 통합한 소버린 AI 풀스택 어플라이언스를 선보여 국내 AI 인프라 시장에 새로운 기준을 제시하겠다”고 말했다.
오케스트로 클라우드는 이번 협약을 계기로 인프라 구축에 그치지 않고 운영·관리까지 포함한 통합 서비스 사업을 넓힌다는 전략이다. 구체적인 상용화 일정과 공급 계약은 발표되지 않았다.