생성형 AI로 만든 딥페이크 속 얼굴이 실제 인물의 것인지 AI가 가려내는 기술이 나왔다. 생성형 AI 전문기업 딥브레인AI(대표 장세영)는 이미지·영상 속 인물을 분석해 인물 도용을 막고 초상권 보호를 지원하는 '페이스 아이디(Face ID) 판별' 기술 개발을 마쳤다고 밝혔다. 이 기술은 딥브레인AI의 생성형 AI 안전 엔진 'AI 가드(AI Guard)'를 구성한다.
생성형 AI로 실제 인물의 얼굴을 무단 사용하거나 사칭하는 딥페이크 콘텐츠가 새로운 위험 요인으로 떠올랐다. 플랫폼 입장에서는 초상권 침해 여부를 확인하고 사전에 차단할 필요가 커졌다.
얼굴을 512차원 벡터로 바꿔 보호 대상 DB와 비교
판별은 얼굴 검출에서 시작한다. 검출한 얼굴을 특징점 기준으로 정렬한 뒤 512차원의 특징 벡터로 변환하고, 이를 보호 대상 인물 DB와 비교해 동일 인물인지 판단한다. 초기 비교 결과는 재정렬 절차를 거친다. 이 절차는 외모가 유사한 다른 사람을 동일 인물로 잘못 판단하는 오인식 가능성을 줄이도록 설계됐다.
결과는 안전·주의·일치의 3단계로 나온다. 일치로 판정되면 생성 요청을 자동으로 차단한다. 주의 단계는 플랫폼 담당자가 직접 검토하는 방식으로 운영할 수 있다.
판정 기준은 일률적이지 않다. 안경·모자·앞머리·수염·촬영 각도·표정 등을 고려해 기준을 차등 적용한다. 개발 단계 평가 결과와 실제 운영 환경의 판별 결과 사이에 차이가 생길 수 있어, 이를 최소화하기 위한 조치로 성능 평가 도구와 실제 판별 서버에 동일한 판정 기준값을 적용했다.
DB 구축·갱신과 영상 분석도 자동화
보호 대상 인물 DB의 구축과 갱신은 자동화했다. 흐릿한 사진, 동명이인, 단체사진, 중복 이미지는 걸러낸다.
영상은 일정 간격으로 프레임을 추출해 구간별 판별 결과를 만든다. 외부 서비스와는 총 6종의 API로 연동한다. 얼굴 DB 구축·관리용 API가 4종, 인물 판별용 API가 2종이다.
성능과 관련해 회사는 특정 인물 인식 성능이 국제공인시험기관 시험에서 해당 과제 기준을 충족했다고 설명했다. 구체적인 정확도 수치와 시험 조건은 비공개다.
문체부·콘진원 지원 R&D 과제로 개발
이 기술은 문화체육관광부와 한국콘텐츠진흥원이 지원하는 문화기술 연구개발(R&D) 사업 과제 '악의적 활용을 차단하는 생성형 AI 모델을 탑재한 콘텐츠 창작 및 공유 플랫폼 기술 개발'에서 나왔다. 주관기관은 한국전자기술연구원이며, 딥브레인AI는 공동연구개발기관이다.
딥브레인AI는 얼굴 인식의 오인식과 미식별 문제에 대응하기 위해 인물 식별 기술을 개발했다. 장세영 딥브레인AI 대표는 “얼굴 인식 기술에서 중요한 것은 보호 대상 인물을 정확하게 찾아내는 동시에 다른 사람을 동일 인물로 잘못 판단하는 오인식을 최소화하는 것”이라고 말했다.
회사는 이 기술이 인물 도용 위험을 줄이고 플랫폼 운영자의 검토 업무를 지원하는 방안을 구상하고 있다. 장 대표는 “다양한 촬영 환경과 얼굴 변화 조건에서도 신뢰할 수 있는 판별 기술을 바탕으로 인물 도용 방지와 초상권 보호 역량을 강화하고, 안전한 생성형 AI 콘텐츠 활용 환경을 조성해 나가겠다”고 밝혔다.
영상 분석은 프레임 추출 방식으로 구간별 판별 결과를 내며, 얼굴 DB 구축·관리 API 4종과 인물 판별 API 2종이 서비스 연동에 쓰인다.