AI 추론의 메모리 병목을 CXL 메모리 풀로 푸는 기술이 미국 산호세 무대에 올랐다. AI 메모리 인프라 기업 엑시나(XCENA·대표 김진영)는 12일부터 15일까지 미국 캘리포니아주 산호세 컨벤션센터에서 열린 OCP 글로벌 서밋 2026에 참가해 CXL 기반 메모리 솔루션 MX1을 활용한 AI 추론 기술을 시연했다. 시연 기술은 KV 캐시 공유와 NDP 기반 RAG 벡터 검색 가속이다.
OCP 글로벌 서밋 2026은 글로벌 클라우드·데이터센터·반도체 기업과 전문가가 차세대 컴퓨팅 인프라 기술과 표준을 논의하는 행사다. 엑시나는 AI 추론에서 생기는 메모리 병목, 데이터 이동에 따른 지연과 전력 소모를 줄이기 위해 이번 시연을 마련했다. 엑시나는 반도체 팹리스 기업으로, 판교 본사와 미국 실리콘밸리 법인을 운영하고 있다.
KV 캐시 공유와 NDP 기반 RAG 검색 가속
첫 번째 시연은 CXL 메모리 풀을 활용한 KV 캐시 공유다. KV 캐시를 공용 메모리에 보관해 여러 AI 추론 서버가 함께 쓰도록 했고, 중복 저장과 서버 간 데이터 이동에 따른 부담을 줄이는 것이 목표다. CXL(Compute Express Link)은 메모리 풀 구성에 쓰이는 인터커넥트 기술이다.
두 번째는 NDP 기반 RAG 벡터 검색 가속이다. 데이터를 호스트 프로세서로 반복해서 옮기는 대신, 데이터가 저장된 메모리 가까이에서 검색 연산을 수행하는 구조다. 김진영 엑시나 대표는 “AI 인프라의 성능과 효율을 높이기 위해서는 연산 성능뿐 아니라 메모리를 얼마나 효율적으로 활용하고 데이터 이동을 줄이느냐가 중요하다”고 말했다.
SK하이닉스와 하이브리드 메모리 협력
엑시나는 SK하이닉스와 CXL 하이브리드 메모리 아키텍처를 AI 워크로드에 적용하는 기술 협력을 진행하고 있다. 양사는 MX1의 SSD 기반 메모리 확장 기능인 인피니트메모리(InfiniteMemory)로 기존 CMM-D 대비 용량 확장성을 높이면서도 SSD보다 나은 성능을 확인했다고 설명했다. 두 회사는 이 하이브리드 메모리 기술이 실제 AI 서빙 환경에 적용 가능한지 검증하고 있다.
SK하이닉스는 이번 행사 전시에서 MX1 칩을 활용한 CXL 하이브리드 메모리와 RDMA 기반 아키텍처를 공개했다. RDMA(Remote Direct Memory Access)는 서버 간 데이터 교환 시 CPU 개입을 줄여 메모리에 직접 접근하게 하는 기술이다.
삼성전자 공동 발표와 세션 참여
엑시나는 15일 삼성전자와 ‘에이전틱 AI를 위한 분리형 CXL 메모리 아키텍처’를 공동 발표했다. 발표에서는 동적 메모리 풀링과 공유, PNM 오프로딩을 다뤘다.
14일에는 김주현 최고제품책임자(CPO)가 ‘데이터 인접 연산을 위한 범용 병렬 프로그래밍’을 주제로 발표했다. 김 CPO는 같은 날 마벨(Marvell), 삼성전자, SK하이닉스, 고트브라스 테크놀로지스와 함께 이기종 AI 인프라를 위한 오픈 미들웨어 패널 토론에도 참여했다. 15일에는 엑시나의 그랜트 맥키(Grant Mackey) 수석 엔지니어가 OCP 서브프로젝트인 컴포저블 메모리 시스템(CMS)의 기술 업데이트 세션에 마이크로소프트, 씨게이트, 메타 등과 함께했다.
사업화 추진
김진영 대표는 “이번 행사에서 MX1이 실제 AI 워크로드에서 어떻게 활용될 수 있는지 보여줬으며, 앞으로도 생태계 전반의 파트너들과 협력해 차세대 AI 메모리 인프라를 발전시켜 나가겠다”고 밝혔다.
엑시나는 AI 인프라 시장에서의 사업화를 추진하는 한편, 메모리 확장과 데이터 인접 연산 기술의 고도화도 이어가고 있다. 사업화 추진과 기술 고도화는 모두 그동안 확보한 자금을 바탕으로 한다. 시리즈 B 투자금액은 2018억원이며, 시리즈 B를 포함해 현재까지 유치한 누적 투자금액은 약 2800억원이다.