AI 안전성을 다루는 무게중심이 모델 자체에서 실제 서비스 화면으로 옮겨가고 있다. 생성형 AI가 검색·쇼핑·콘텐츠 추천 등 일상 서비스 곳곳에 스며들면서, 이제는 이용자가 실제로 마주하는 결과물 단위에서 위험을 관리해야 한다는 문제의식이다. 네이버(대표 최수연)는 이런 인식을 바탕으로 자체 AI 안전성 체계 ‘ASF 2.0’의 실제 서비스 적용 과정과 사례를 담은 첫 ‘AI Safety Progress Report’를 발간했다.
위험을 110개로 쪼개고, 두 축으로 평가한다
이번 보고서의 핵심은 AI 위험을 뭉뚱그려 다루지 않고 잘게 쪼개 관리한다는 데 있다. 네이버는 자체 개발한 분류 체계 N-ARTI(NAVER AI Risk Taxonomy & Identification)를 통해 AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 나눴다. 이렇게 세분화된 위험은 평가 도구 N-ASET(NAVER AI Safety Evaluation Toolkit)을 거쳐 AI 응답이 얼마나 유해한지, 동시에 얼마나 쓸모 있는지를 함께 살핀다.
단순히 답변을 막는 방식이 아니라 ‘유해성’과 ‘사용성’ 두 축을 같이 보는 이유도 여기에 있다. 위험하다고 무조건 차단하면 서비스로서의 효용이 떨어지기 때문에, 두 값을 함께 저울질해 균형점을 찾는 방식을 택했다는 설명이다. 이 같은 평가 체계는 CHEC 2.0이라는 실행 체계를 통해 지난 6월 출시된 AI탭 등 실제 서비스에 적용되고 있다.
“이론 넘어 서비스 환경에서 다뤄야 할 단계”
원성재 네이버 AI Safety 센터장은 이번 보고서 발간 배경에 대해 “AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다”고 말했다. 서비스에 AI가 활용됐다는 사실을 화면에 표시하고 이용자에게 고지하는 것 역시 이 안전성 체계에 포함되는 요소 중 하나다. 위험을 사전에 걸러내는 기술적 장치뿐 아니라, 이용자가 자신이 접하는 결과물이 AI에 의해 만들어졌음을 인지하도록 하는 절차까지 안전성 관리의 범주로 본 것이다.
네이버는 앞으로 ASF 2.0을 지속적으로 고도화해 나갈 계획이라고 밝혔다. 원 센터장은 “AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것”이라고 밝혔다. 이를 위해 네이버는 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 외부 학계 및 연구기관과의 협력도 넓혀갈 방침이다.
모델 성능을 겨루던 경쟁이 실제 서비스 단계의 안전성 관리 역량으로 옮겨가는 흐름 속에서, 네이버가 이번 보고서로 자사 체계를 먼저 공개하며 업계 논의에 기준점을 제시하려는 모습이다.