와디즈가 AI 시스템을 이용해 생성형 AI로 만든 콘텐츠가 실제 사용자 후기나 체험처럼 오인될 수 있는 표현을 선별하는 모니터링 체계를 확대한다. 최근 한 식품 펀딩 프로젝트에서는 AI로 생성한 인물이 제품을 섭취하고 특정 체중을 감량한 것처럼 연출된 이미지가 사용됐는데, 이는 실제 후기로 오인될 위험이 있다는 지적을 받았다.
AI가 1차 선별, 운영자가 맥락 판단
와디즈의 대응 방식은 AI와 사람의 이중 체계로 이뤄진다. AI 시스템이 추가 확인이 필요한 표현을 먼저 선별하면, 운영자가 콘텐츠 전체 맥락과 공정거래위원회의 '추천·보증 등에 관한 표시·광고 심사지침' 등 기준을 검토해 대응 수위를 결정한다. 조치는 소명 요청, 이미지·문구 수정 요청, 비노출 처리 등 단계적으로 이뤄지며, 이 같은 조치 사례는 투명성 리포트를 통해 매주 공개된다.
“AI 사용 여부보다 표현 방식이 관건”
와디즈는 생성형 AI가 콘텐츠 제작의 진입장벽을 낮추면서, 단순히 AI를 사용했는지 여부보다 그 표현 방식이 소비자 판단에 어떤 영향을 미치는지 관리하는 것이 플랫폼 운영의 새로운 과제로 떠올랐다고 설명한다. 허지은 와디즈 COO는 “새로운 기술과 표현 방식이 등장할수록 플랫폼의 운영 기준도 함께 발전해야 한다”고 말했다.
허 COO는 이어 “메이커의 새로운 시도는 폭넓게 열어두면서 서포터가 안심하고 참여할 수 있는 신뢰 기준을 높여 더 많은 아이디어가 도전으로 이어지도록 하겠다”고 밝혔다. 와디즈는 앞으로도 AI 모니터링 시스템의 선별 범위를 넓히는 동시에, 매주 투명성 리포트를 통해 운영 현황과 조치 내역을 공개할 방침이다.