프롬프트로 보안 정책을 우회하거나 개인정보를 빼내는 공격에 맞설 AI 가드레일 솔루션이 나왔다. 생성형 AI 솔루션 전문기업 제논(대표 고석태)은 기업용 생성형 AI 서비스의 입력 요청과 AI 응답을 보안 정책에 따라 판정·통제하는 ‘젠가드(GenGuard)’를 출시했다. 제논은 경량 가드레일 모델 ‘GenGuard 1.0 Light’와 한국어 서비스 정책 평가 데이터셋 ‘KSPG-Bench’도 함께 공개했다.
젠가드는 기업이 사전에 설정한 보안 정책을 기준으로 사용자의 요청과 AI의 응답을 걸러낸다. 유해 콘텐츠와 프롬프트 공격을 탐지하고, 개인정보는 차단하거나 마스킹한다. 제논은 생성형 AI 도입이 확대되면서 프롬프트를 통한 보안 정책 우회, 개인정보 유출, 부적절한 응답 생성 같은 새로운 위험에 대응할 필요가 커졌다고 설명했다.
제논은 IBM의 ‘2026 데이터 유출 비용 보고서’를 인용했다. 악성 공격으로 데이터 유출을 경험한 기업 가운데 공격에 AI가 사용됐다고 응답한 곳이 4곳 중 1곳 이상이었다. 이 관련 비율은 전년보다 56% 증가한 것으로 조사됐다.
모델 재학습 없이 자연어로 정책 설정
젠가드는 모델을 다시 학습시키지 않아도 자연어로 보안 정책을 설정할 수 있다. 탈옥과 프롬프트 공격도 탐지한다. 기업은 서비스 성격에 맞춰 정책을 문장으로 정의해 적용하는 방식이다.
개인정보 보호 기능은 주민등록번호 같은 정형 개인정보뿐 아니라 이름·주소처럼 문맥을 바탕으로 판단해야 하는 정보까지 분석한다. 우회 표기도 식별한다.
운영과 검증을 위한 기능도 갖췄다. 관찰 모드로 정책을 적용하기 전에 영향을 확인할 수 있고, 정책 변경 이력과 버전을 관리하며 이전 설정으로 복구할 수 있다. 온프레미스와 폐쇄망을 지원하며, 감사 기록에는 개인정보 원문을 저장하지 않는다.
제노스 운영 경험으로 독립 제품 개발
젠가드는 제논의 생성형 AI 플랫폼 ‘제노스(GenOS)’에 탑재된 가드레일 기능을 운영하며 확보한 기술과 경험을 바탕으로 독립 제품으로 개발됐다. 제노스를 도입하지 않은 기업도 적용할 수 있다.
제논에 따르면 개발 착수부터 출시까지 걸린 기간은 제노스 14개월, 원에이전트(OneAgent) 7개월, 제나(GenA) 4개월, 젠디(GenD) 1.8개월이었고, 젠가드는 약 1개월이다.
경량 모델 GenGuard 1.0 Light와 KSPG-Bench
GenGuard 1.0 Light는 제논이 자체 개발해 공개한 경량 가드레일 모델로, 상업적 이용이 가능한 아파치 2.0(Apache 2.0) 라이선스를 적용했다. KSPG-Bench는 한국어 서비스 정책 평가 데이터셋이다.
제논이 공개 가드레일 모델 5종과 비교 평가한 결과 GenGuard 1.0 Light의 평균 점수는 84.3점으로 가장 높았다. 응답 시간은 평균 점수 2위 모델의 약 15분의 1이었다. 제논은 실제 환경에서의 성능이 정책과 처리 조건에 따라 달라질 수 있다고 밝혔다.
금융·공공 중심 고객 확보 방침
명대우 제논 부사장(CTO)은 “기업의 AI 활용이 확대될수록 보안은 위험 관리 수단을 넘어 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요소가 될 것”이라고 말했다. 그는 또 “기업용 AI 플랫폼을 구축하며 축적한 기술력과 산업별 경험을 바탕으로 변화하는 보안 요구에 대응하고, 국내 기업 환경에 최적화된 AI 보안 기술을 제공하겠다”고 밝혔다.
제논은 금융·공공 분야를 중심으로 고객을 확보할 예정이다. 기존 제품들이 출시 전후 2개월 이내에 첫 수주를 확보한 경험을 바탕으로 젠가드의 기업 고객 도입도 추진하며, 산업별 적용 사례 확보를 구상하고 있다.