온디바이스 AI 모델이 기기에서 그대로 실행되는 구조인 만큼, 기기를 확보하면 모델 구조와 파라미터, 핵심 로직까지 외부에서 분석해낼 수 있는 위험이 존재한다. IoT·임베디드 보안기업 쿤텍은 한국전자통신연구원(ETRI)과 함께 이 문제를 해결하기 위한 AI 모델 난독화 및 오염 분석 기반 데이터 흐름 분석 기술을 개발하고 있다. 두 기관은 ‘On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 과제를 통해 2차년도 연구를 진행 중이며, 관련 특허 2건을 출원했다.
MLIR로 모델 구조 흩뜨리기
온디바이스 AI는 응답속도와 프라이버시 측면에서 이점이 크지만, 모델과 프로그램이 기기에 직접 배포되는 특성 때문에 외부 분석과 유출에 취약하다는 한계가 있다. 쿤텍은 이를 방지하기 위해 AI 모델을 MLIR(Multi-Level Intermediate Representation) 형태로 변환한 뒤, Pass 단위로 비식별화·매개변수 캡슐화·신경 구조 난독화·그래프 구조 난독화를 적용하는 방식을 택했다. 이 과정에서 연산자와 파라미터, 텐서 구조, 그래프 연결 관계가 변형돼 모델 내부를 들여다보기 어렵게 만든다.
오염 분석으로 보호 대상만 골라낸다
모델을 감싸는 것만으로는 부족하다. AI 모델을 구동하는 응용 프로그램의 로직 역시 노출 위험에서 자유롭지 않기 때문이다. 쿤텍은 C·C++ 기반 응용 프로그램을 LLVM IR로 변환하고, TFLite API를 기준점으로 삼아 오염 분석을 수행해 데이터 흐름을 추적하는 방식을 함께 적용했다. 이를 통해 실제 AI 추론에 관여하는 코드만 골라내 보호할 수 있어, 리소스가 제한된 환경에서도 선택적으로 방어 범위를 설정할 수 있다는 게 특징이다.
방혁준 쿤텍 대표는 “온디바이스 AI가 다양한 산업과 제품으로 확산되면서 AI 모델뿐 아니라 이를 구동하는 응용 프로그램의 핵심 로직까지 보호해야 할 필요성이 높아지고 있다”며 “모델 난독화와 데이터 흐름 기반 보호 대상 식별 기술을 함께 고도화해 실제 제품 환경에서 활용할 수 있는 온디바이스 AI 정보 보호 기술을 확보하겠다”고 말했다.
쿤텍은 두 기술을 별개로 두지 않고 서로 연계해 고도화하는 방향을 잡고 있다. 모델 난독화 기술과 오염 분석 기반 데이터 흐름 추적 기술을 결합하면, 모델 구조를 감춤과 동시에 실제 보호가 필요한 코드 영역을 정확히 식별할 수 있어 실제 제품 환경에 적용 가능한 수준의 온디바이스 AI 정보보호 기술로 이어질 것으로 보인다. 특허 2건 출원을 마친 상태로, 다음 단계는 이 기술을 실제 제품에 적용하는 실증이 될 전망이다.