GPU를 추가로 사들이기 전에 이미 갖고 있는 GPU를 얼마나 제대로 쓰고 있는지부터 따져봐야 한다는 진단이 나왔다. AI 인프라 기업 아크릴은 2026년 8월 21일 서울 삼성동 코엑스에서 열린 ‘2026 OCP 코리아 테크 데이’에서 이 같은 문제의식을 담은 ‘소버린 AX’ 전략과 최적화 플랫폼 ‘GPUBASE’를 공개했다. 국내 산업계 평균 GPU 실가동률이 50~60% 수준에 머물러 있는 상황에서, 증설보다 기존 자원의 활용도를 높이는 쪽이 투자 효율을 개선하는 현실적 대안이라는 게 아크릴의 설명이다.
기존 서버 그대로, 소프트웨어만 얹어 가동률 93%
GPUBASE의 특징은 GPU나 네트워크 스위치를 추가로 구매하거나 AI 학습 코드를 수정하지 않고도 기존 서버에 소프트웨어를 적용하는 것만으로 연산 자원 배분을 최적화한다는 점이다. 통신 대기와 네트워크 경로 편중을 최소화하는 방식으로, 아크릴 자체 실증에서 GPU 실효 가동률 93%, 네트워크 경로 활용률 98%를 기록했다. 염익준 아크릴 CTO는 “네트워크는 성능인 동시에 비용의 문제”라며 “통신 대기를 줄이면 같은 장비에서 더 많은 GPU가 일하고 그만큼 추가 증설에 필요한 예산을 줄일 수 있다”고 말했다.
실제 비용 절감 효과도 구체적으로 제시됐다. 엔비디아 H100 100장 규모 클러스터에 GPUBASE를 적용할 경우 연간 약 21억 원을 절감할 수 있다는 것이 아크릴의 추산이다. GPUBASE는 이미 AWS와 GCP에서 각각 500장 이상, 마이크로소프트 애저에서 200장 이상 규모의 GPU 환경에 적용돼 실증을 거쳤다. 이와 함께 EPC 기업, 정부부처, 지자체, 상급종합병원 11곳을 포함한 의료기관 18곳(누적 병상 1만 병상 이상) 등 폐쇄망·망분리 환경에서도 실증 경험을 쌓았으며, 지난 7월에는 모듈형 데이터센터 1·2차 공급도 진행했다.
엔비디아부터 국산 NPU까지, 단일 스케줄러로 통합
GPUBASE는 엔비디아 GPU, AMD 칩, 구글 TPU는 물론 리벨리온의 ATOM, 퓨리오사AI의 RNGD 같은 국산 NPU까지 서로 다른 제조사와 세대의 AI 가속기를 하나의 스케줄러로 통합 관리할 수 있다. 국산 NPU를 인프라에 편입시키면 특정 벤더에 대한 의존과 공급망 리스크를 분산시킬 수 있다는 것이 아크릴의 설명이다. 이 같은 기술력은 GPUBASE 관련 특허 22건을 포함해 아크릴이 누적 확보한 특허 83건 이상, USENIX ATC 2024·IEEE Access 2021 논문 발표 등으로 뒷받침된다.
박외진 아크릴 대표는 “AI 주권은 GPU를 몇 장 확보했느냐보다 인프라와 모델, 운영 전반을 얼마나 효율적으로 통제할 수 있느냐에 달려 있다”고 강조했다. 이어 “세 계층을 연결하는 기술과 실증 데이터를 기반으로 특정 벤더에 종속되지 않는 개방형 소버린 AX 생태계 구축에 기여하겠다”고 밝혔다. GPU 보유량 경쟁이 아닌 실가동률과 통합 운영 능력이 AI 인프라 경쟁력의 척도가 되어야 한다는 것이 아크릴이 이번 발표를 통해 던진 메시지다.