AI 에이전트가 기업 시스템 안에서 실제로 무엇을 하는지를 관리해야 한다는 보안 체계 전환안이 나왔다. 아카마이 테크놀로지스(아카마이코리아 대표 이경준)는 인터넷 보안 현황(SOTI) 보고서 ‘속도, 확장성, 그리고 비인간 ID: 에이전틱 위협 환경’을 발표하고, 기업 보안을 ‘행동 중심 거버넌스(Behavioral Governance)’로 전환하라고 제안했다. 보고서는 최고정보보안책임자(CISO)를 대상으로 자율형 AI 에이전트가 기업 시스템과 상호작용할 때의 보안 위험을 분석했다.
아카마이는 기존 사용자 인증과 접근 권한 관리만으로는 AI 에이전트 실행 과정의 위험을 통제하기 어렵다고 본다. SOTI는 아카마이가 글로벌 사이버 보안 인프라 데이터로 매년 발간하는 보고서 시리즈이며, 올해로 12년째다.
기업용 AI 챗봇 대화 6% 이상에 민감 데이터
보고서 분석 결과 기업용 AI 챗봇 대화의 6% 이상에 개인식별정보(PII) 등 민감 데이터가 포함돼 있었다. 이 가운데 47%는 기업 모니터링 범위 밖에 있는 임직원 개인 계정을 통해 이뤄졌다.
AI 에이전트가 여러 소프트웨어 시스템과 상호작용하도록 지원하는 모델 컨텍스트 프로토콜(MCP)에 대해서도 보고서는 보안 가시성이 부족하고 관리 우선순위에서 밀려 있다고 지적했다.
AI 브라우저 확장 프로그램, 취약점 보유 확률 60% 높아
AI 기반 브라우저 확장 프로그램을 설치한 기업 사용자는 40% 이상이었다. 설치 사용자의 25%는 설치 후 12개월 이내에 권한 설정을 변경한 것으로 확인됐다. AI 확장 프로그램은 일반 확장 프로그램보다 알려진 보안 취약점(CVE)을 보유할 확률도 60% 높았다.
보아즈 겔보드(Boaz Gelbord) 아카마이 최고보안책임자는 “기업 내 AI 코드 작성 및 생산성 도구 활용, 고객 대상 제품과 클라우드 워크로드에 대한 AI 통합, 기업을 표적으로 하는 AI 기반 공격이라는 세 가지 위협이 동시에 발생하고 있다”며 “보안 프로그램도 급변하는 현실에 발맞춰 신속히 진화해야 한다”고 말했다.
CISO를 위한 4가지 대응 전략
보고서가 CISO에게 권고한 대응 전략은 적응형 엣지 거버넌스, 브라우저 보안 강화, AI 검색 브랜드 신뢰도 보호, 검증 가능성에 따른 자율 권한 부여다.
AI 모델의 취약점 탐지와 공격 실행 속도가 빨라지면서 기존의 사후 패치 중심 대응에도 변화가 필요하다고 보고서는 밝혔다. 패치가 완료되기 전에도 공격을 차단할 수 있는 실시간 엣지 보안 체계가 필요하다는 것이다.
스티브 윈터펠드(Steve Winterfeld) 아카마이 자문 CISO는 “자율형 AI가 단순한 질의응답을 넘어 다단계 비즈니스 전략을 실행하는 단계로 발전하면서 보안 리더십도 함께 변화해야 한다”고 말했다.
권한 관리와 관련해 보고서는 작업 위험도, 검증 가능성, 복구 용이성을 기준으로 AI 에이전트의 권한을 차등 부여하고, 고위험 작업은 사람의 승인을 유지하라고 권고했다.