AI 클러스터에서 하드웨어 장애가 나면 복구를 얼마나 빨리 끝내느냐가 가동률을 좌우한다. AI 인프라 기업 KAYTUS는 이 문제를 겨냥해 AI 데이터센터와 하이퍼스케일 컴퓨팅 클러스터용 통합 하드웨어 유지보수·기술 지원 서비스 ‘OEM AI 매니지드 서비스(OEM AI Managed Service)’를 출시했다. 서비스는 유럽과 아시아태평양 지역에서 제공되며, KAYTUS는 한국을 포함한 글로벌 시장으로 서비스를 확대하고 있다.
서비스의 골격은 핵심 교체 부품을 현장에 비축하고, 공장용 진단 장비와 수리 도구를 현장에 배치하는 것이다. OEM 인증 엔지니어가 장애에 대응하고 Tier 2 전문가가 복잡한 문제의 분석과 해결을 지원하며, 현장 기술 지원은 서비스 등급에 따라 연중무휴 24시간 제공된다. 여기에 AI 기반 장애 예측과 선제 점검이 더해지며, KAYTUS의 기존 지능형 운영·관리 플랫폼 KSManage와도 연동된다. 회사는 이 서비스가 통합 제공하는 유지보수 기능이 다섯 가지라고 밝혔다.
AI 장애 예측과 현장 대응을 하나로 묶다
기존 유지보수 방식에서는 부품 조달이 지연되거나 장비를 공장으로 반송해야 해 복구가 길어지는 문제가 있었는데, KAYTUS는 현장에 필요한 부품과 전문인력을 두는 방식으로 대응한다. 회사 설명에 따르면 이 현장 지원 모델을 적용하면 하드웨어 복구 시간을 업계 일반 서비스 수준보다 30% 이상 줄일 수 있다. 핵심 부품이 현장에 준비돼 있다면 수리는 최단 4시간 이내에 가능하다.
AI를 활용한 장애 예측과 선제 점검은 문제가 커지기 전에 부품 교체 여부를 판단하는 데 쓰인다. KSManage 연동 지원과 함께, 서비스 수준을 계약상 이행 기준으로 구체화하는 것이 KAYTUS의 목표다.
글로벌 CSP 고객사, 처리 시간 48시간에서 12시간으로
KAYTUS는 이름을 밝히지 않은 글로벌 주요 CSP(클라우드 서비스 제공업체) 고객사의 성과를 공개했다. 이 고객사는 100개 이상의 랙과 수천 개의 AI 가속기를 운영한다. KAYTUS에 따르면 현장 지원 모델을 적용한 뒤 장애 노드 1대당 평균 처리 시간은 48시간에서 12시간으로 줄어 75% 감소했다.
학습·추론 워크로드의 실제 연산 가동 시간은 50% 늘었다. 회사는 다운타임과 워크로드 재시작 횟수가 줄면서 이 고객사의 잠재적 SLA 보상 부담이 수백만 달러 감소했다고 설명했다. 이 수치들은 모두 KAYTUS가 제시한 것이다.
대규모 클러스터에서 장애는 일상이다
KAYTUS는 가트너 전망을 인용했다. 2026년 전 세계 AI 관련 지출은 2조6700억 달러, 이 가운데 AI 인프라 투입 예상액은 약 1조4800억 달러라는 것이다. 회사는 클러스터 규모가 커지면서 AI 인프라 운영 안정성의 중요성이 높아졌다고 설명한다.
메타가 공개한 라마(Llama) 3.1 405B 기술 보고서에서는 1만6384개 GPU로 사전 학습을 진행하던 54일 동안 예기치 못한 중단이 419회 있었다. 평균 약 3시간마다 한 번꼴이다. 중단 사례의 약 78%는 하드웨어 장애가 원인으로 확인됐거나 의심됐다.
SOSP 2025에서 발표된 대규모 AI 학습 플랫폼 장애 분석 연구는 3개월 동안 77만8000건 이상의 학습 작업을 분석해 4만4000건 이상의 장애를 기록했다.
장애 비용과 SLA 부담
업타임 인스티튜트(Uptime Institute)의 2026년 장애 분석에서는 응답자의 57%가 가장 최근 중대 장애 비용이 10만 달러를 넘었다고 답했다. 5명 중 1명은 손실이 100만 달러를 초과했다고 밝혔다. 일부 컴퓨팅 자원 임대 계약에는 중대한 SLA 위반 시 월 임대료의 최대 25%를 보상하는 조항이 있다.
AI 데이터센터 사업자에게 장애 복구 시간은 기술적 운영 지표이면서 수익성과 고객 신뢰에 영향을 미치는 요소다.
측정 가능한 서비스 수준
나한돌 KAYTUS 코리아 엔터프라이즈 사업부 기술 총괄 이사는 “컴퓨팅 자산의 가치는 구축 초기의 규모보다 운영 기간 내내 얼마나 안정적으로 연산 자원을 제공하느냐에 달려 있다”고 말했다. 그는 “KAYTUS AI 매니지드 서비스는 고객이 하드웨어 복구를 막연히 기다리지 않도록, 측정 가능한 서비스 수준을 약속한다”고도 밝혔다.
서비스 제공 지역은 영국·독일·프랑스·네덜란드·핀란드·폴란드·아이슬란드 등 유럽과 일본·한국 등 아시아태평양이다. GDPR이 적용되는 경우에는 관련 요건을 서비스 운영 절차에 반영한다. KAYTUS는 국내 데이터센터 현장의 유지보수와 기술 지원을 강화할 계획이다.