경찰청이 운영 중이거나 도입 예정인 AI 시스템 29개의 위험 수준을 분석하고, 기획·개발·조달·운영 전 과정에 적용할 ‘AI 영향 평가 및 위험 관리’ 기준과 통합 관리체계를 마련했다. AI 신뢰성 기술 전문기업 씽크포비엘(대표 박지환)은 경찰청 미래치안정책국과 지난 7월부터 수행한 공동 연구를 26일 마무리했다고 밝혔다.
연구 성과는 22일 인천 송도컨벤시아에서 열린 ‘2026 치안 AI 공동학술세미나’에서 처음 공개됐다. 세미나는 경찰청과 경찰대학이 공동 주최했다.
시스템별 위험도에 따라 검증·통제 조치 차등화
이번 연구는 시스템별 위험 수준을 구분하고, 위험도에 따라 검증·통제 조치를 차등화하는 방식으로 설계됐다. 심각한 문제가 생기면 운영을 중지할 수 있는 기준도 포함됐다.
발주·개발·운영 단계별 위험 관리 절차와 문서화 체계도 마련했다. 조달 가이드라인, 책임 체계, 문서화 절차는 하나의 관리체계로 연결했다. 기술 도입 부서와 운영 조직이 공통 기준을 활용해 책임과 절차의 공백을 줄이는 데 중점을 뒀다.
기준을 수립하면서 EU AI법, ISO 국제표준, 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크를 검토해 반영했다. AI 국제 교류와 기술 협력이 확대되는 만큼 공통적으로 활용할 수 있는 위험 관리 원칙을 확보하기 위한 조치다.
치안 AI 도입 전부터 운영까지 위험 관리
치안 AI는 국민의 생명·안전·개인정보·기본권에 영향을 미칠 수 있어 도입 전부터 운영 과정까지 위험을 관리할 필요가 있다. 이번 연구는 2027년 2월 시행 예정인 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’(AI데이터행정법)에도 대비한 것이다. 공공기관 AI 영향 평가·위험 관리 요구에 대응할 수 있도록 관련 정책과 운영 절차를 사전에 정비한다는 취지다.
박지환 대표는 경찰청의 선택을 이렇게 설명했다. “일부 기관이 규제를 피하려고 AI 기능과 활용 범위 축소 방향을 고민하는 것과 달리, 경찰청은 국내 기준을 넘어 글로벌 규범까지 대응할 수 있도록 조직의 통제 역량을 높이는 길을 선택했다”
박 대표는 연구의 의미도 짚었다. “위험을 피하려고 AI를 덜 쓰는 것이 아니라 위험 관리 능력을 갖춤으로써 더 많은 AI를 국민 편익을 위해 안전하게 활용할 기반을 마련했다는 점이 이번 연구의 가장 큰 의미”라고 말했다.
또 “경찰청의 선도적인 시도는 공공부문이 AI를 단순히 도입하는 단계를 넘어 국민이 신뢰할 수 있도록 책임 있게 관리하는 단계로 나아가는 중요한 출발점이 될 것”이라고 밝혔다.
연구 결과는 향후 경찰청의 AI 관리체계 운영과 제도 대응에 활용될 예정이다. 최종 연구 보고서는 오는 11월 공개된다.