AI가 DB 보안 운영에 들어올 때 걱정되는 환각과 통제 문제를 어떻게 막을 것인가. 파라택시스이더리움(대표 이명훈)이 DB 접근제어 솔루션 페트라5와 연동되는 추가형(Add-on) AI 제품 ‘페트라 AI(Petra AI)’를 공개하며 내놓은 답은 설계 단계의 안전장치다. 페트라 AI는 페트라5에 AI 엔지니어 기능을 결합한 제품이다.
보안 담당자는 자연어로 질문해 DB 접속 기록을 조회하고 분석 요약을 받을 수 있다. 이상징후와 보안 정책 추천도 제공하며, 정책을 추천할 때는 그 이유도 함께 보여준다. 회사는 보안 담당자의 반복적인 조회·분석 업무를 줄여 중요한 위험 판단에 집중하게 하려는 취지라고 밝혔다.
사내 구축 LLM으로 폐쇄망에서도 운영
페트라 AI는 사내에 구축한 LLM을 활용한다. 이에 따라 AI 분석을 위해 접속 기록이나 내부 보안 정보를 외부 클라우드로 전송할 필요가 없고, 폐쇄망에서도 사용할 수 있도록 설계됐다.
보고서와 차트를 만드는 프로그램은 외부 네트워크와 분리된 독립 환경에서 실행된다. 페트라5 매뉴얼 원문을 근거로 한 기술 지원 안내 기능도 있으며, 이용은 기존 페트라5 관리자 계정으로 한다.
수치와 판정은 프로그램이, AI는 설명만
환각 문제를 줄이기 위한 설계는 역할 분리에 있다. 날짜·건수 계산과 위험 판정 같은 수치 처리와 판단은 규칙 기반 프로그램이 수행하고, AI는 그 결과를 자연어로 설명하는 일만 맡는다. 파라택시스이더리움 관계자는 “분석 결과의 신뢰성을 높이기 위해 날짜·건수 계산과 위험 판정 등 수치와 판단은 정해진 규칙에 따라 프로그램이 수행하고, AI는 그 결과를 설명하도록 역할을 구분했다”고 설명했다.
같은 관계자는 “AI 도입 과정에서 우려되는 환각(Hallucination)과 통제(Control) 위험을 최소화하기 위해 설계 단계부터 안전장치를 마련했다”고도 말했다.
이중 HITL로 정책 적용 전 관리자 승인
통제 구조로는 이중 HITL(Human-in-the-Loop)이 적용됐다. AI의 판단과 실행에 사람이 개입해 검토·승인하는 방식이다. 정책을 추천받은 경우든 신규로 생성한 경우든 적용 전에 관리자의 최종 승인을 거쳐야 하며, 승인·거절·작업 이력은 기록으로 남는다.
이 승인 절차는 AI가 독자적으로 보안 설정을 변경하거나 접근 권한을 조정하지 못하도록 하기 위한 조치다.
20년 이상 쌓은 DB 보안 기술에 AI 접목
이명훈 대표는 “보안 담당자가 접속 기록을 확인하고 기술 지원을 기다리는 시간을 줄여 중요한 위험 판단에 집중하도록 돕는 것이 페트라 AI의 목표”라고 말했다. 이어 “20년 넘게 쌓아온 DB 보안 노하우에 AI를 접목해 고객이 직접 운영하고 판단할 수 있는 환경을 만들어 가겠다”고 밝혔다.
파라택시스이더리움은 20년 이상 축적한 DB 보안 기술을 바탕으로 AI 기반 보안 운영 기능을 넓혀 가고 있다.