사이버 공격자들이 생성형 AI를 단순 보조 도구가 아닌 자율적 공격 수단으로 활용하기 시작했다. 구글위협인텔리전스그룹(GTIG)은 이런 흐름을 담은 ‘2026년 2분기 AI 위협 추적 보고서’를 공개했다. 보고서는 AI가 정찰, 악성코드 제작, 오류 해결, 자격 증명 탈취까지 스스로 수행하는 사례들을 담고 있다.
6시간 만에 대규모 계정 탈취
보고서에 따르면 위협 행위자들은 이미 공격의 여러 단계에 AI를 접목하고 있으며, 최근에는 사람의 개입 없이 판단하고 실행하는 에이전틱 AI 방식으로 전환하고 있다. 실제로 한 조직은 AI를 활용해 6시간 만에 대규모 자격 증명 탈취 공격을 완수했다. 존 헐트퀴스트 GTIG 수석 애널리스트는 “공격자들은 이미 다양한 영역에 AI를 접목하고 있으며, 에이전트 방식으로 전환되면서 위협의 규모와 속도도 커질 것”이라며 “6시간 만에 대규모 탈취 공격을 수행한 사례처럼 공격자들은 방어자의 대응 속도를 넘어서는 방식으로 이동하고 있다”고 말했다.
AI 공급망 자체가 공격 대상으로
위협 조직 TeamPCP(UNC6780)는 AI 코딩 어시스턴트 도구에 백도어를 심었고, 오픈소스 패키지 메타데이터를 조작해 개발자 환경에 침투를 시도한 사례도 확인됐다. 중국 연계 스파이 조직 BASIN CASTLE과 UNC6508은 미국 의료기관 클라우드를 침해하는 등 대형언어모델을 정찰부터 문제 해결까지 폭넓게 활용했다. 북한 IT 인력 조직 역시 이런 흐름에 포함됐다. 이 과정에서 구글의 AI 모델 제미나이를 모의 침투 프레임워크 구축에 이용하려는 시도도 있었던 것으로 나타났다.
2026년 4월 맨디언트가 수행한 대응 조사에서는 클라우드 자격 증명이 대량으로 탈취된 정황도 드러났다. 여기에 더해 AI 서비스 비용과 컴퓨팅 자원을 부정 사용하는 ‘LLM재킹’ 사례도 늘고 있다. 기업이 보유한 AI 모델, 소스코드, 프롬프트, 연구자료가 새로운 탈취 대상으로 떠오르고 있는 셈이다.
공급망·클라우드·권한을 하나로 묶어 방어해야
보고서는 AI가 기업 기술 환경에 깊숙이 통합되면서 개발자 계정, 오픈소스 구성요소, AI 코딩 도구, 모델 가중치, API 자격 증명, GPU 자원이 하나의 공격면으로 연결되고 있다고 지적했다. 방어 조직은 더 이상 이들을 개별 항목으로 나눠 관리할 수 없으며, AI 공급망의 무결성과 클라우드 자원, 모델·데이터 접근 권한을 통합적으로 관리해야 한다는 것이 보고서의 결론이다. 공격자의 AI 활용이 자율화 단계로 넘어간 만큼, 방어 체계 역시 같은 속도로 재편돼야 한다는 과제가 남았다.