AI 추론 비용과 전력 효율을 겨냥한 LLM 추론 특화 반도체 개발이 국내 AI 인재 조명 명단에서 인정받았다. AI 반도체 팹리스 스타트업 하이퍼엑셀(HyperAccel)의 김주영 대표가 MIT 테크놀로지 리뷰 코리아의 ‘THE AI 30: 한국 AI의 미래를 바꾸는 30인’에 선정됐다. 김 대표는 LLM 추론에 특화된 AI 반도체 LPU(LLM Processing Unit) 개발을 주도해 왔다.
‘THE AI 30’은 MIT 테크놀로지 리뷰 코리아의 연간 기획으로, 한국 AI 산업에 기여한 인물 30인을 선정한다. 최근 1년간 확인된 연구·기술·사업 성과를 바탕으로 산업 변화를 이끈 인물을 조명하는 기획이다.
학습과 추론의 특성 차이에 주목한 LPU
하이퍼엑셀은 AI 모델 학습과 추론 과정의 특성이 다르다는 점에 주목하고, LLM 추론에 최적화된 반도체 아키텍처를 개발하고 있다. 이 회사는 비용·전력 대비 토큰 처리량을 중시하는 전략을 이어가고 있다. LLM 서비스 이용량이 증가할수록 추론에 필요한 연산 자원과 전력 비용이 늘어나는 만큼, 토큰 처리 효율을 높이는 반도체 기술을 경쟁력으로 확보한다는 전략이다.
제품으로는 데이터센터·엔터프라이즈용 AI 가속기 Bertha와 온디바이스 AI용 Bertha-Edge가 있다. 하이퍼엑셀은 앞으로 엣지 디바이스와 피지컬 AI로 적용 범위를 넓힐 방침이다.
김 대표는 선정과 관련해 이렇게 말했다. “AI 산업의 경쟁은 모델의 성능을 넘어 이를 얼마나 효율적으로 운영하고 실제 산업에 적용할 수 있는지로 확장되고 있다”
연구·수상 성과와 투자유치
하이퍼엑셀은 2023년 KAIST 김주영 교수가 설립했다. 2025년에는 IEEE Micro 최우수 논문에 선정됐고, 대만 ICT Grand Challenge에서 AI 코어 기술·칩 부문을 수상했다. 정보통신유공 정부포상과 월드IT쇼(WIS) 혁신상 부총리상은 2026년에 받았다. 포브스 아시아 ‘100 To Watch’ 명단에도 이름을 올렸다.
회사가 밝힌 누적 투자유치액은 2100억원이며, 시리즈B 투자유치는 진행 중이다. 서울 본사와 실리콘밸리 거점을 기반으로 글로벌 시장 진출도 추진하고 있다.
김 대표는 향후 계획을 이렇게 밝혔다. “하이퍼엑셀은 LLM 추론에 특화된 반도체 기술로 AI 인프라의 비용과 전력 효율을 높이고, 더 많은 기업이 AI를 효율적으로 활용할 수 있도록 기여하겠다”