멀티 모달 학습을 적용한 얼굴 위조 판별 장치 및 방법
FACIAL SPOOFING DISCRIMINATION APPARATUS AND METHOD ADAPTING MULTI-MODAL LEARNING
특허 요약
본 명세서에 개시되는 실시예들은 얼굴 위조 판별 장치 및 방법에 관한 것으로, 일 실시예에 따른 얼굴 위조 판별 장치는 얼굴 이미지의 위조 여부를 추론하는 위조 판별 모델 및 상기 위조 판별 모델을 학습시키기 위한 프로그램을 포함하는 메모리 및 메타 데이터 정보를 포함하는 자연어 기반의 메타 프롬프트 및 얼굴 이미지를 기초로 상기 위조 판별 모델의 멀티 모달 학습을 수행하고, 학습된 위조 판별 모델을 기초로 검증 대상이 되는 얼굴 이미지의 위조 여부를 판별하는 제어부를 포함한다.
청구항
번호청구항
1

상기 얼굴 이미지의 위조 여부를 추론하는 위조 판별 모델 및 상기 위조 판별 모델을 학습시키기 위한 프로그램을 포함하는 메모리; 및 메타 데이터 정보를 포함하는 자연어 기반의 메타 프롬프트 및 얼굴 이미지를 기초로 상기 위조 판별 모델의 멀티 모달 학습을 수행하고, 학습된 위조 판별 모델을 기초로 검증 대상이 되는 얼굴 이미지의 위조 여부를 판별하는 제어부를 포함하는, 얼굴 위조 판별 장치.

2

제1항에 있어서, 상기 메타 데이터 정보는 위조 여부에 관한 정보, 데이터셋에 관한 정보 및 얼굴 이미지가 촬영된 기기에 관한 정보 중 적어도 일부인, 얼굴 위조 판별 장치.

3

제1항에 있어서,상기 제어부는, 상기 메타 데이터 정보의 종류별로 분류된 복수의 요인 프롬프트 중 적어도 일부에 대해 랜덤으로 샘플을 선택하고, 선택된 샘플을 조합하여 메타 프롬프트를 생성하는, 얼굴 위조 판별 장치.

4

제3항에 있어서,상기 복수의 요인 프롬프트는 위조 여부에 관한 정보를 포함하는 라벨 프롬프트, 데이터셋에 관한 정보를 포함하는 데이터셋 프롬프트, 및 얼굴 이미지가 촬영된 기기에 관한 정보인 취득 기기 프롬프트를 포함하는, 얼굴 위조 판별 장치.

5

제1항에 있어서,상기 제어부는,상기 메타 프롬프트를 구성하는 텍스트 및 얼굴 이미지 간의 코사인 유사도를 기초로 멀티 모달 학습을 수행하는, 얼굴 위조 판별 장치.

6

제1항에 있어서,상기 제어부는,상기 얼굴 이미지에 서로 다른 증강 기법을 이용하여 둘 이상의 증강 이미지들을 생성하고, 상기 증강 이미지들 각각에 대응하는 라벨 프롬프트들을 선택하며,상기 위조 판별 모델에 대해 상기 멀티 모달 학습과 함께 상기 증강 이미지들 및 상기 라벨 프롬프트들을 기초로 하는 대조학습을 수행하는, 얼굴 위조 판별 장치.

7

제1항에 있어서, 상기 위조 판별 장치는,얼굴을 촬영하여 검증 대상이 되는 얼굴 이미지를 획득하는 센서부; 및상기 검증 대상이 되는 얼굴 이미지의 위조 여부를 표시하는 입출력부를 더 포함하고, 상기 제어부는,상기 입출력부를 통해 배경 조도를 높히는 인터페이스를 제공한 뒤, 상기 센서부를 통해 상기 검증 대상이 되는 얼굴 이미지를 획득하고, 상기 학습된 위조 판별 모델을 기초로 상기 검증 대상이 되는 얼굴 이미지 위조 여부를 판별하는, 얼굴 위조 판별 장치.

8

얼굴 위조 판별 장치에 의해 수행되는 얼굴 위조 판별 방법에 있어서, 메타 데이터 정보를 포함하는 자연어 기반의 메타 프롬프트를 기초로 상기 위조 판별 모델의 멀티 모달 학습을 수행하는 단계; 및 얼굴 이미지를 획득하고 학습된 위조 판별 모델을 기초로 획득된 얼굴 이미지의 위조 여부를 판별하는 단계를 포함하는, 얼굴 위조 판별 방법.

9

제8항에 있어서, 상기 메타 데이터 정보는 위조 여부에 관한 정보, 데이터셋에 관한 정보, 얼굴 이미지가 촬영된 기기에 관한 정보 중 적어도 일부인, 얼굴 위조 판별 방법.

10

제8항에 있어서,상기 학습을 수행하는 단계는,상기 메타 데이터 정보의 종류별로 분류된 복수의 요인 프롬프트 중 적어도 일부에 대해 랜덤으로 샘플을 선택하고, 선택된 샘플을 조합하여 메타 프롬프트를 생성하는 단계를 포함하는, 얼굴 위조 판별 방법.

11

제8항에 있어서, 상기 학습을 수행하는 단계는,상기 메타 프롬프트를 구성하는 텍스트 및 얼굴 이미지간의 코사인 유사도를 기초로 상기 멀티 모달 학습을 수행하는 단계를 포함하는, 얼굴 위조 판별 방법.

12

제8항에 있어서, 상기 학습을 수행하는 단계는,상기 얼굴 이미지에 서로 다른 증강 기법을 이용하여 둘 이상의 증강 이미지들을 생성하고 상기 증강 이미지들 각각에 대응하는 라벨 프롬프트들을 선택하는 단계; 및상기 위조 판별 모델에 대해 상기 멀티 모달 학습과 함께 상기 증강 이미지들 및 상기 라벨 프롬프트들을 기초로 하는 대조학습을 수행하는 단계를 포함하는, 얼굴 위조 판별 방법.

13

얼굴 위조 판별 장치에 의해 수행되며, 제8항에 기재된 방법을 수행하는 컴퓨터 프로그램.

14

제8항에 기재된 방법을 수행하는 컴퓨터 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체.