AI가 텍스트로 답을 내놓는 단계를 지나 도구를 호출하고 시스템을 실행하며 로봇까지 제어하는 시대로 접어들면서, 보안의 범위도 실행 과정 전체를 통제하는 방향으로 확장돼야 한다는 과제가 떠오르고 있다. AI 보안 전문기업 에임인텔리전스(대표 유상윤)는 엔비디아가 주최한 ‘인셉션 그랜드 챌린지 2026’ 아시아태평양 지역 경연에서 이 같은 문제의식을 담은 보안 체계를 발표해 최종 Top 10에 선정됐다. 회사에 따르면 이번 챌린지에는 1만여개 스타트업이 참여했다.
배포 전 탐지와 배포 후 통제를 잇는 순환 구조
에임인텔리전스가 이번 챌린지에서 제시한 개념은 ‘에임 컨트롤 루프(AIM Control Loop)’다. 자동화 레드티밍 플랫폼 ‘스팅어’로 AI 시스템이 배포되기 전 단계에서 취약점을 탐지하고, 실시간 AI 보안 솔루션 ‘스타포트’로 배포 이후 운영 단계에서 발생하는 위험을 실시간으로 통제하는 구조다. 두 솔루션을 순환적으로 연결해 AI 개발 단계부터 실제 운영 단계까지 보안 공백을 없애는 것이 핵심이다. 회사는 현재까지 AI 안전성과 보안 분야에서 논문 36편 이상을 발표하고 160개 이상의 AI 모델을 평가해 왔으며, 이 연구 결과를 자동화 레드티밍과 실시간 통제 기술로 제품화하고 있다.
박하언 에임인텔리전스 CTO는 발표에서 “AI가 단순 텍스트 중심의 기존 질서에서 벗어나 기업 시스템과 물리 세계에 직접 영향을 주는 주체로 진화하고 있다”며 “이번 챌린지를 계기로 에이전틱 AI와 피지컬 AI까지 포괄하는 글로벌 AI 보안·통제 기업으로 성장하겠다”고 밝혔다.
네비우스 특별상·청중투표상 수상, 싱가포르 결승 자동 진출
에임인텔리전스는 이번 경연에서 Top 10 선정과 함께 글로벌 AI 클라우드 기업 네비우스가 수여하는 특별상과 청중투표상을 함께 받았다. 이번 성과로 에임인텔리전스는 싱가포르에서 열리는 글로벌 스타트업 피칭대회 ‘슬링샷(Slingshot)’ 결승에 자동으로 진출하게 됐다.
에임인텔리전스는 AI가 답변 생성 단계를 넘어 도구 호출, 시스템 실행, 로봇 제어 등 실제 행동 단계로 진입하고 있다는 점에서, 모델 자체의 안전성 점검을 넘어 실행 과정 전반을 추적하고 통제하는 체계가 필요하다고 설명한다. 에이전틱 AI와 피지컬 AI가 확산될수록 이 같은 보안 범위 확장은 더 중요해질 전망이다.