AI 장애 예측과 선제 점검을 현장 부품 비축·제조사 수준 수리 역량과 묶은 하드웨어 유지보수 서비스가 나왔다. KAYTUS는 AI 인프라 기업으로, AI 데이터센터(AIDC)와 하이퍼스케일 컴퓨팅 클러스터를 겨냥해 ‘OEM AI 매니지드 서비스(OEM AI Managed Service)’를 출시했다. 하드웨어 유지보수와 기술 지원을 한데 묶은 서비스로, 부품 조달 지연, 공장 반송, 복잡한 장애 진단 문제를 줄여 장애 복구 시간을 단축하는 것이 목적이다.
서비스는 한국을 포함한 글로벌 시장을 대상으로 하며, 현재 유럽 주요 국가와 일본·한국 등 아시아태평양 지역에서 제공되고 있다. KAYTUS는 국내에서 데이터센터 현장 유지보수와 기술 지원을 강화할 계획이다.
다섯 가지 기능을 한 서비스로 묶었다
OEM AI 매니지드 서비스는 고객 환경에 맞춘 유지보수, 핵심 교체 부품의 현장 비축, 공장급 진단·수리 도구 현장 배치, 24시간 현장 지원, AI 장애 예측 등 다섯 가지 기능을 통합 제공한다. OEM 인증 엔지니어가 24시간 지원하고 Tier 2 전문가도 함께한다.
AI 장애 예측과 선제 점검은 이 구성의 한 축이다. KAYTUS의 기존 지능형 운영·관리 플랫폼 KSManage와의 연동도 지원하며, 서비스 수준을 계약상 이행 기준으로 구체화했다. 해당하는 경우 유럽연합 일반개인정보보호규정(GDPR) 요건도 반영한다.
KAYTUS는 현장 지원 모델을 적용하면 하드웨어 복구 시간이 업계 일반 서비스 수준 대비 30% 이상 단축된다고 설명했다. 핵심 부품이 현장에 준비돼 있으면 최단 4시간 이내 수리가 가능하며, 장애 노드 1대당 평균 처리 시간은 12시간이라고 제시했다.
글로벌 CSP 고객사 사례
KAYTUS가 공개한 성과는 100개 이상의 랙과 수천 개의 AI 가속기를 운영하는 글로벌 클라우드 서비스 제공업체(CSP) 고객사의 것이다. 고객사 이름은 밝혀지지 않았다. 이 고객사의 장애 노드 1대당 평균 처리 시간은 48시간에서 12시간으로 줄어 75% 감소했다.
학습·추론 워크로드의 실제 연산 가동 시간은 50% 늘었다. 회사는 다운타임 감소와 장애 복구 시간 단축을 주요 요인으로 설명했다. 다운타임과 워크로드 재시작 횟수가 줄면서 잠재적 서비스 수준 협약(SLA) 보상 부담도 수백만 달러 감소했다고 회사는 밝혔다. 다만 이는 특정 CSP 고객 환경의 성과다.
클러스터가 커질수록 하드웨어 장애가 변수가 된다
가트너는 2026년 전 세계 AI 관련 지출이 2조6700억 달러에 이를 것으로 전망했고, KAYTUS는 이를 인용했다. 이 가운데 AI 인프라 투입 예상액은 1조4800억 달러다. 운영 안정성이 중요해지는 배경에는 클러스터 규모의 확대가 있다.
메타(Meta)가 공개한 라마(Llama) 3.1 405B 기술 보고서에 따르면 1만6384개 GPU 클러스터로 54일간 사전 학습을 하는 동안 예기치 못한 중단이 419회 있었다. 이 중 약 78%는 하드웨어 장애가 원인으로 확인됐거나 의심됐다.
SOSP 2025에서 발표된 연구는 대규모 AI 학습 플랫폼의 장애를 분석했다. 3개월간 수행된 학습 작업은 77만8000건 이상, 기록된 장애는 4만4000건 이상이다.
업타임 인스티튜트(Uptime Institute)의 2026년 장애 분석에서는 응답자의 57%가 가장 최근 중대한 장애로 10만 달러가 넘는 비용이 발생했다고 답했다. 5명 중 1명은 손실이 100만 달러를 넘었다고 했다.
일부 컴퓨팅 자원 임대 계약에는 중대한 SLA 위반 시 월 임대료의 최대 25%를 보상하는 조항이 있다. 최근 AI 데이터센터의 랙당 전력 밀도는 40kW를 넘는다.
KAYTUS 코리아 “측정 가능한 서비스 수준”
KAYTUS는 이러한 문제에 대응하기 위해 유지보수 기능 다섯 가지를 통합해 내놨다. 나한돌 KAYTUS 코리아 엔터프라이즈 사업부 기술 총괄 이사는 “컴퓨팅 자산의 가치는 구축 초기의 규모보다 운영 기간 내내 얼마나 안정적으로 연산 자원을 제공하느냐에 달려 있다”고 말했다.
나 이사는 “KAYTUS AI 매니지드 서비스는 고객이 하드웨어 복구를 막연히 기다리지 않도록, 측정 가능한 서비스 수준을 약속한다”고도 밝혔다.
KAYTUS는 한국을 포함한 글로벌 시장으로 서비스를 넓히는 가운데, 국내에서는 데이터센터 현장 유지보수와 기술 지원을 강화할 예정이다.