어린이가 화면 속 아기상어에게 아무 말이나 걸었을 때, AI가 엉뚱하거나 부적절한 답을 내놓으면 그 순간 브랜드 신뢰는 무너진다. AI 데이터·신뢰성 평가 전문기업 셀렉트스타는 2026년 9월 10일, 서울 동대문디자인플라자(DDP)에서 열린 ‘Try Everything 2026’에서 더핑크퐁컴퍼니와 함께 아기상어 AI 인터랙티브 전시의 제작 및 신뢰성 검증 과정을 소개했다. 서울경제진흥원이 주관한 이 행사는 9일부터 이틀간 진행됐으며, 현재 DDP에서는 두 회사가 공개한 AI 인터랙티브 체험 전시 ‘아기상어 비밀 초대장: 비커밍 샤크’가 운영되고 있다.
실시간 상호작용, 사전 검수만으론 부족하다
생성형 AI가 캐릭터와 결합하면서 콘텐츠는 정해진 시나리오를 보여주는 방식에서 관람객과 실시간으로 상호작용하는 방식으로 진화하고 있다. 문제는 관람객이 무슨 질문을 던질지 미리 알 수 없다는 점이다. 공개 전 검수만으로는 안전성을 확보하기 어렵고, 특히 어린이에게 친숙한 캐릭터가 부적절한 답변을 내놓으면 IP 이미지와 브랜드 신뢰에 직접적인 타격이 된다.
셀렉트스타는 이 문제를 풀기 위해 자체 신뢰성 평가 플랫폼 ‘다투모’를 활용해 한국어·영어·일본어·중국어 4개 언어로 총 1만 개의 안전성 평가 시나리오를 구축했다. 가상의 AI 사용자를 시뮬레이션해 실제 관람객이 던질 법한 질문과 반응을 광범위하게 재현하고, 이를 바탕으로 취약점을 미리 찾아내 보완하는 과정을 거쳤다.
레드티밍으로 우회 공격까지 점검
셀렉트스타는 단순한 질의응답 테스트를 넘어 레드티밍 기법을 적용했다. 역할극을 요청하거나 외국어로 질문을 바꾸고, 간접적인 표현으로 돌려 묻는 식의 우회 공격까지 시나리오에 포함해 AI가 어떤 상황에서도 안전하게 응답하는지 점검했다. 이 과정에서 발견된 취약점은 곧바로 보완 작업으로 이어졌다.
정세엽 셀렉트스타 팀장은 발표에서 “AI를 잘 만들었다는 기준은 성능이 뛰어난지를 넘어 이용자가 얼마나 믿고 사용할 수 있는지까지 포함한다”며 “앞으로 더 많은 AI가 콘텐츠와 일상에서 사람을 직접 만나게 되는 만큼 공개 전 레드티밍과 운영 이후의 지속적인 응답 품질 검증이 중요해질 것”이라고 말했다. 전시가 끝난 뒤에도 응답 품질을 꾸준히 점검해야 한다는 점을 강조한 발언이다.
국가 단위 AI 사업으로도 이어진 신뢰성 기술
셀렉트스타의 신뢰성 평가 기술은 아기상어 전시에 그치지 않는다. 회사는 SK텔레콤이 주도하는 컨소시엄에 참여해 과학기술정보통신부의 독자 AI 파운데이션 모델 프로젝트와 대국민 AI 서비스 구축 사업 ‘모두의 AI’에도 관련 기술을 적용하고 있다. 어린이 캐릭터 하나의 답변 품질에서 출발한 검증 체계가 국가 단위 AI 사업의 신뢰성 확보로까지 연결되는 셈이다.