딥페이크로 인한 피해는 기술적 조작만에서 비롯되는 것이 아니라, 시청자가 합성된 얼굴을 특정한 피해자로 인식하는 그 순간에 발생한다. 그러나 이러한 정체성 인식이 일어나는 문턱(역치)은 아직 규정되지 않아 탐지 체계와 법적 틀 모두에서 공백이 생긴다. 본 연구는 합성 얼굴이 표적 개인으로 인식되는 조건을 규명하고, 인간의 지각과 계산적 유사도 모델 간의 정렬(alignment)을 평가한다. 102명의 참가자가 162개의 조작된 얼굴 자극을 평가하는 연구를 통해 우리는 세 가지 핵심 결과를 확인하였다. (1) 눈은 정체성 인식에서 지배적인 단서로 작용한다. (2) 눈에 하나의 추가 특징이 결합될 때 뚜렷한 정체성 문턱이 나타난다. (3) 인간-인공지능 간 불일치(misalignment)는 바로 이 문턱에서 최고조에 달하며, 인간은 피해자를 인식하지만 AI 모델은 그렇지 않다. 이러한 결과는 딥페이크 피해를 해결하기 위해 지각에 정렬된 탐지 시스템과 피해자 중심의 규제 접근이 필요함을 시사한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.