AI가 화면 속 답변을 만드는 데 그치지 않고 로봇과 자율 시스템을 통해 현실 세계에서 직접 행동하는 단계로 넘어가면서, 잘못된 판단 하나가 실제 공간과 사람, 장비에 위험을 초래할 수 있다는 문제의식이 커지고 있다. AI 보안 전문기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)는 2026년 9월 이 문제를 다루기 위한 글로벌 오픈 컨소시엄 ‘PASC(Physical AI Safety Consortium)’를 출범했다고 밝혔다.
빅테크와 학계가 함께 참여하는 비영리 연구체
PASC는 구글, 마이크로소프트, 오라클, LG전자 소속 전문가와 국내외 대학·AI 안전 연구기관 연구진 약 30여명이 참여하는 비영리 오픈 컨소시엄으로 운영된다. 구글 소속의 제니 니(Jenny Ni)가 참여하고, 마이크로소프트와 요크대학교에 몸담은 아드리안 데 윈터(Adrian de Wynter)도 함께한다. 오라클에서는 히테쉬 파텔(Hitesh Laxmichand Patel)과 아밋 아가왈(Amit Agarwal)이 참여하며, LG전자에서는 장지용 상무가 이름을 올렸다. 학계에서는 한국인공지능안전연구소 김명주 소장을 비롯해 UC San Diego의 시쿤 가오(Sicun Gao) 교수, 위스콘신대학교의 쉐론 리(Sharon Li) 교수, 일리노이대학교의 야키 시에(Yaqi Xie) 교수 등이 연구진으로 참여하고 있다.
공통 정의부터 벤치마크까지
PASC는 피지컬 AI 안전에 대한 공통 정의와 평가 방법론, 벤치마크, 표준화 연구를 추진한다는 목표를 내세운다. 안전성을 한 번 통과하면 끝나는 고정된 테스트가 아니라, 지속적인 관찰과 갱신, 개입이 필요한 상태로 재정의하는 것이 핵심 방향이다. 이를 위해 시뮬레이션 환경과 실제 로봇 환경을 함께 다루는 검증 연구를 진행하고, 적응형 공격 상황에서 기존 방어 체계가 실제로 작동하는지도 검증 대상에 포함할 계획이다. 첫 공동 연구로는 피지컬 AI 안전의 정의와 평가 방향을 정리한 포지션 페이퍼를 준비하고 있다.
박하언 에임인텔리전스 CTO는 “피지컬 AI가 현실 세계에서 더 많은 역할을 맡게 될수록 안전은 모델의 성능과 별개로 설계하고 검증해야 할 핵심 기반이 된다”며 “PASC가 학계와 산업계의 전문성을 연결해 피지컬 AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 되도록 하겠다”고 말했다.
글로벌 빅테크와 국내외 대학이 한 테이블에 모인 만큼, PASC가 만들어갈 공통 언어와 벤치마크가 로봇·자율 시스템 산업 전반의 안전 검증 방식에 어떤 기준점을 제시할지 주목된다.