AI가 화면 속 챗봇을 넘어 시스템과 물리 환경에서 직접 행동하는 시대, 개발 단계 안전성 평가만으로는 위험을 막기 어렵다는 문제의식에서 출발한 통제 체계가 주목받고 있다. AI 보안 스타트업 에임인텔리전스가 엔비디아 인셉션 그랜드 챌린지 2026 아시아·태평양 지역 대회에서 1만개 스타트업 중 톱20 결승 진출 기업으로 선정됐다. 지난 27일 열린 한국 준결승에서 회사는 자체 개발한 ‘AIM 컨트롤 루프’ 체계를 소개했다.
탐색과 방어를 순환시키는 통제 체계
AIM 컨트롤 루프는 자동화 레드티밍 플랫폼 ‘스팅어(Stinger)’로 취약점을 탐색하고, 실시간 보안 솔루션 ‘가디언(Guardian)’으로 위험 행동을 통제한 뒤, 두 시스템을 다시 순환시키는 구조다. 위험 탐색과 실시간 방어, 정책 반영, 재검증을 반복하며 AI 배포 이후에도 지속적으로 위험에 대응하도록 설계됐다. 스팅어는 텍스트·음성·이미지·영상 등 다양한 입력의 취약점은 물론 에이전트와 피지컬 AI의 위험 행동까지 시험하고, 가디언은 입력·출력뿐 아니라 도구 호출, 시스템 접근, 물리적 행동까지 실시간으로 탐지하고 제한한다.
박하언 에임인텔리전스 최고기술책임자는 “AI가 화면 속에서 답변하는 도구를 넘어 기업 시스템과 물리 세계에서 직접 행동하는 주체로 진화하면서 중요한 질문은 ‘AI가 무엇을 할 수 있는가’에서 ‘누가 AI를 통제할 것인가’로 바뀌고 있다”고 말했다.
온프레미스부터 대규모 인프라까지 동일 적용
이 체계는 온프레미스 환경부터 대규모 GPU 인프라까지 동일하게 적용할 수 있어 규제 산업에도 자체 인프라 안에서 검증 환경을 제공할 수 있다는 설명이다. 회사는 그동안 36편 이상의 AI 안전성·보안 논문을 발표하고 160개 이상의 AI 모델을 평가하며 연구 역량을 쌓아왔다. 보안의 범위도 챗봇·생성형 AI 중심에서 AI 에이전트와 피지컬 AI로 확장되는 흐름에 맞춰 대응하고 있다.
아시아·태평양 지역 결승과 기업 매칭 프로그램은 오는 9월 22일 진행될 예정이다. 최종 톱10에 오르는 기업은 글로벌 혁신 행사에서 기술을 소개하고 엔비디아 및 파트너사와 협력할 기회를 얻는다. 박하언 CTO는 “생성형 AI와 에이전틱 AI, 피지컬 AI를 포괄하는 글로벌 AI 보안·통제 기업으로 성장하겠다”고 밝혔다.