AI 캐릭터와 대화를 나누는 엔터테인먼트 서비스가 청소년들의 새로운 콘텐츠 이용 공간으로 떠오르면서, 기존 영상·게임 플랫폼과는 다른 층위의 보호 기준이 필요하다는 문제의식이 커지고 있다. AI 서비스 플랫폼 기업 뤼튼테크놀로지스는 2026년 9월 8일 자사의 AI 엔터테인먼트 플랫폼 ‘크랙’에 청소년 이용시간·결제액 상한 등 보호정책을 강화하겠다고 발표했다. 해당 정책은 2026년 말까지 시스템 구축을 마치고 2027년 초 시행될 예정이다.
이용시간·결제 상한, 초과 시 보호자 인증 필수
구체적으로 크랙은 청소년의 하루 기본 이용시간을 최대 3시간으로 제한한다. 이를 초과하려면 보호자 인증과 동의 절차를 거쳐야 한다. 결제 측면에서도 청소년의 월 결제액 기본 상한을 10만 원으로 설정하고, 이를 넘어설 경우 마찬가지로 보호자 인증과 동의가 필요하도록 했다. 과학기술정보통신부의 2025년 인터넷 이용 실태 조사에 따르면 10대의 주간 평균 인터넷 이용시간은 약 27시간으로, 청소년의 디지털 콘텐츠 이용 시간 관리 필요성이 뒷받침되고 있다.
대화 안전 필터·연령 인증 체계도 손본다
뤼튼은 AI 캐릭터와의 대화 안전성을 높이기 위해 필터와 시스템 프롬프트를 강화한다. 사후 검수에만 의존하지 않고 대화 생성 단계에서부터 위험 요소를 줄이는 방향을 추진한다는 계획이다. 연령 인증 체계도 보완 대상이다. 현재는 통신사가 발급하는 PASS 기반 인증을 사용하고 있는데, 이 외에 추가적인 인증 수단을 검토하기로 했다.
이동재 뤼튼 최고제품책임자는 “모두에게 안전하고 건강한 AI 서비스를 제공해야 한다는 사회적 책임을 무겁게 인식하고 있다”고 말했다. 그는 이어 “청소년 이용자의 안전을 최우선으로 고려하면서 창의력을 함께 펼칠 수 있는 서비스를 만들기 위해 노력하겠다”고 밝혔다.
AI 캐릭터와의 장시간 상호작용, 반복적인 결제 유도 등은 기존 영상·게임 플랫폼에서는 크게 다뤄지지 않았던 위험 요소다. 뤼튼이 이용시간·결제·연령 인증·대화 안전을 아우르는 다층적 보호 체계를 2027년 초까지 구축하겠다고 밝힌 만큼, AI 엔터테인먼트 서비스 전반의 청소년 보호 기준을 어떻게 세울지가 향후 관전 포인트가 될 것으로 보인다.