기업 열에 일곱은 이미 AI를 업무에 쓰고 있지만, 정작 이를 뒷받침할 데이터 인프라는 따라가지 못하고 있다는 조사 결과가 나왔다. 클라우데라가 웨이크필드 리서치에 의뢰해 미국·캐나다·브라질·남아프리카공화국·스페인·영국·싱가포르·인도·일본의 기업 아키텍트, 클라우드 인프라 담당자, 데이터 아키텍트 1500명을 대상으로 2026년 6월 5일부터 22일까지 온라인 설문을 진행한 결과, AI를 활용 중이라는 응답은 77%였다. 그러나 거버넌스·컴플라이언스·규제 문제로 AI 프로젝트가 지연되거나 취소된 경험이 있다는 응답은 95%에 달했다. 이번 조사 결과는 ‘AI 아키텍처 대전환(The Great AI Re-Architecture)’ 보고서로 발표됐다.
지난 12개월간 거버넌스·컴플라이언스·규제 문제로 AI 프로젝트가 6건 이상 지연·취소됐다는 응답도 55%에 이르렀다. AI로 데이터 거버넌스가 더 복잡해졌다는 응답은 73%였고, 한 달에 한 번 이상 데이터를 다른 환경으로 이동한 경험이 있다는 응답은 97%였다. 세르지오 가고 클라우데라 최고기술책임자(CTO)는 “기존 데이터 분석을 위해 구축한 아키텍처는 현재 AI가 요구하는 확장성과 거버넌스, 유연성을 충족하도록 설계되지 않은 경우가 많다”고 말했다.
클라우드에서 온프레미스로, 되돌아가는 워크로드
AI 워크로드로 인프라 비용이 늘었다는 응답은 84%였고, 향후 AI 수요를 감당하려면 데이터 아키텍처의 대대적 개편이 필요하다는 응답은 72%였다. AI 도입으로 데이터 저장·아키텍처 운영 방식이 변화했다는 응답은 75%로 집계됐다. 이런 흐름 속에서 지난 1년간 AI 워크로드를 퍼블릭 클라우드에서 프라이빗 클라우드나 온프레미스로 이전했다는 응답은 66%에 달했다. 향후 2년간 하이브리드 우선 아키텍처를 최우선 전략으로 추진하겠다는 응답은 25%로 나타났다.
세르지오 가고 CTO는 “통제와 보안을 유지하면서 가장 적합한 환경에서 AI를 실행할 수 있는 데이터 기반이 필요하다”고 강조했다. 아시아태평양 지역(싱가포르·인도·일본, 300명 기준)에서는 이런 경향이 더 두드러졌다. AI 도입으로 저장·운영 방식이 변화했다는 응답이 84%, 구조 대대적 개편이 필요하다는 응답이 68%였으며, 워크로드를 퍼블릭 클라우드에서 프라이빗·온프레미스로 이전한 경험도 63%로 조사됐다.
한국은 조사 대상 아니지만, 지사장은 하이브리드 강조
이번 조사에 한국은 포함되지 않았다. 다만 최승철 클라우데라코리아 지사장은 “규제 산업의 비중이 높고 데이터 주권 요구가 강한 국내 시장에서도 하이브리드 아키텍처와 일관된 거버넌스가 중요하다”고 말했다. 그는 이어 “기업이 퍼블릭 클라우드와 온프레미스, 엣지를 함께 활용할 수 있어야 한다”고 덧붙였다.
이번 조사 결과는 AI 경쟁력을 좌우하는 변수가 어떤 모델을 쓰느냐가 아니라, 데이터를 어디에 두고 어떻게 이동시키며 누가 통제하느냐에 있다는 점을 보여준다. 퍼블릭 클라우드로 몰렸던 워크로드가 다시 온프레미스와 프라이빗 환경으로 옮겨가는 흐름은, 기업들이 AI 확산 속도에 맞춰 데이터 아키텍처 자체를 재설계하고 있음을 시사한다.